AI Empowers · Energie
Private ChatGPT op bedrijfsdocumenten
Medewerkers stellen vragen in gewone taal en krijgen antwoorden uit interne documenten, met bronvermelding.
- Energie
- Private chatbot
- Document intelligence
Het probleem
Medewerkers hadden antwoorden nodig uit een grote verzameling interne documenten, zonder datalekken en zonder een model dat dingen verzint.
De oplossing
Retrieval-augmented generation in plaats van fine-tuning: documenten opgeknipt in overlappende stukken met metadata over toegang, hybride zoeken en antwoorden die hun bronnen vermelden of zeggen dat er geen antwoord is.
Het resultaat
Een private assistent die de rechten op documenten respecteert. Onderweg evalueerden we Redis, FAISS, Databricks, Weaviate en Pinecone.
Het hele verhaal
Waarom geen fine-tuning
Een model fine-tunen op private data maakt antwoorden moeilijk na te gaan, negeert wie welk document mag zien, vraagt hertraining bij elke update en heeft nog altijd een kennisgrens. Dus hielden we de kennis en het taalmodel uit elkaar.
Hoe het werkt
Documenten worden opgeknipt in overlappende stukken, met de context van de sectie en metadata over toegang. Hybride zoeken, trefwoorden plus vectoren, vindt de relevante passages, en enkel die gaan naar het model, met één instructie: antwoord op basis daarvan en vermeld de bron, of zeg dat er geen antwoord is.
Op schaal
De eerste versie indexeerde zo'n 10.000 technische documenten en werd getest op echte vragen in het Frans. Vandaag wordt ze gebruikt in ongeveer negen landen en achttien centrales. Ze groeide uit tot een agent op het Microsoft Agentic Framework die realtime installatieparameters uit het datawarehouse leest, ze vergelijkt met historische cases en ingebouwd zit in de applicatie die mensen op de werkvloer al gebruiken. Hij ondersteunt operatoren, die verantwoordelijk blijven voor complexe of kritieke beslissingen.
Technologie
Vraag het Pai
Vraag Pai naar deze case
Pai is een AI. Hij weet alleen wat op deze pagina staat.
Pai is een AI. De antwoorden komen van deze casepagina. Deel geen gevoelige gegevens.
Chats worden 30 dagen bewaard, tenzij je dat uitschakelt in Privacy en keuzes.