SLiM: Slim en veilig omgaan met GenAI – confidentiële dataverwerking met Small Language Models

Generatieve AI (GenAI) en de opkomst van Large Language Models (LLM’s) bieden veel mogelijkheden tot het
automatiseren van taken waarbij natuurlijke taalinput gestructureerd verwerkt moet worden. Bedrijven willen
van die opportuniteit gebruik maken om in hun processen tijd en kosten te besparen, maar ook om nieuwe
inzichten te verkrijgen in hun gegevens. Wanneer deze gegevens confidentieel of persoonsgebonden zijn, weten
bedrijven vaak niet hoe ze die veilig kunnen verwerken met GenAI-tools. Vooral kmo’s worstelen met vragen
over dataveiligheid, privacy en de impact van nieuwe regelgeving.
Small Language Models (SLM’s) —kleinere, energiezuinigere taalmodellen die lokaal kunnen draaien— zouden
hier mogelijk een oplossing kunnen bieden. SLM’s zijn echter minder complex opgebouwd en beperkter op de
grootte van de input, waardoor er mogelijk op de kwaliteit van antwoorden ingeboet wordt en de kans op
hallucinaties verhoogt. Omdat ze zo sterk gedistilleerd zijn, zijn SLM’s vaak zelfs enkel voldoende performant in
het Engels.
Dit project onderzoekt of SLM’s een veilig en haalbaar alternatief vormen voor organisaties die met vertrouwelijke
data werken. We testen of deze modellen voldoende goed presteren in het Nederlands en hoe ze ingezet kunnen
worden in twee concrete toepassingen: het automatisch samenvatten van gevoelige vergaderingen en het veilig
chatten met interne documenten. Om te achterhalen welke prijs (in de brede zin) professionals willen betalen
voor hun privacy wanneer ze GenAI willen toepassen, voeren we zowel interne piloottests, als diepte-interviews
uit.
De doelgroep bestaat uit Vlaamse kmo’s en professionals zonder diepgaande technische kennis, maar
met een duidelijke nood aan betrouwbare en begrijpbare GenAI-oplossingen. Door samen te werken met
experten, interne diensten en praktijkorganisaties bouwen we oplossingen die zowel technisch haalbaar als
gebruiksvriendelijk zijn.
We leveren een reeks praktische en toegankelijk inzetbare resultaten op, waaronder aan een webinar over slim
en veilig GenAI-gebruik, een overzicht van Nederlandstalige SLM’s en hun toepassingsmogelijkheden, best
practices voor dataclassificatie en data governance en een workshop voor professionals die zelf met lokale SLM’s
aan de slag willen gaan. Daarnaast ontwikkelen we een helder stappenplan waarmee organisaties op een
begrijpbare manier hun eigen on-premise SLM-opstelling kunnen realiseren. Zo helpen we organisaties om veilig,
bewust en autonoom met GenAI om te gaan en geven we hen meer controle over hun eigen technologie.