Samengesteld met bestaande tools.
Open WebUI biedt de document- en chatinterface. Ollama draait het model lokaal. Dit is een integratieproject rond een nuttige werkwijze.
PROJECT / HAVENLOKALE AI VOOR DOCUMENTEN
Haven
Een lokale documentassistent voor Nederlandstalige teams. Gebouwd rond een eenvoudige vraag: kan nuttige AI werken met het papierwerk dat al op het bureau ligt?
Onderdeel 4.2 · Onderhoud
Relevante passage → lokaal model → een bron die je kan controleren.
Staat het niet in het document,
zeg dan dat het antwoord niet gevonden is.
HET VERTREKPUNT
Een clausule in een lang bestek vinden zou niet mogen betekenen dat je alles opnieuw moet lezen. Ik wilde dat iemand een gewone vraag in het Nederlands kon stellen en een antwoord kreeg dat op de documenten gebaseerd was.
Haven brengt Open WebUI, Ollama en een Gemma-model samen in een lokale installatie. Mijn werk zit in die onderdelen verbinden, de documentwerkwijze instellen en testen wat er gebeurt wanneer het antwoord ontbreekt.
HOE HET SAMENHANGT
De vraag, de ondersteunende passage en het antwoord horen in één zichtbare keten.
Begin met een gewone vraag over de aangeleverde documenten.
NEDERLANDSTALIGE VRAGENRelevante tekst uit de documenten ophalen voordat een antwoord wordt gemaakt.
DOCUMENTEN DOORZOEKENHet opgehaalde materiaal gebruiken, of zeggen dat het antwoord niet gevonden is.
LOKAAL MODELBINNENIN HET PROJECT
Open WebUI biedt de document- en chatinterface. Ollama draait het model lokaal. Dit is een integratieproject rond een nuttige werkwijze.
Ik stel ook vragen waarop de documenten geen antwoord geven. Geen clausules verzinnen hoort bij wat ik in de pilot test.
De huidige installatie draait op mijn eigen pc. Ze is niet bij een klant geïnstalleerd en wordt hier niet als productie-uitrol voorgesteld.
Een nuttig antwoord
heeft een bron nodig.
WAT IK ERUIT MEENAM
Dit project leerde me focussen op antwoorden die iemand kan controleren. Modeluitvoer wordt pas bruikbare documenthulp als de grenzen zichtbaar zijn.
VOLGEND PROJECT / WARDOFLIX