De slimme mix van mens en machine
Steeds meer bedrijven zetten Artificial Intelligence (AI) in om taken uit te besteden aan computers en zo efficiënter te werken. Terecht, voor sommige. Al is er meer nodig dan ‘mee willen zijn met de hype’. Gestructureerde data bijvoorbeeld en een specifieke vraag voor jouw bedrijf of eindgebruiker. En dan er is nog een belangrijke kwestie: kan je zomaar vertrouwen op de beslissing van een computer? Welke data zorgen voor de uiteindelijke uitkomst?
Die eXplainability onderzoeken Steven Palmaers en zijn team, in samenwerking met een tiental bedrijven. Zo willen ze ontwikkelaars, ondernemers en eindgebruikers meer inzicht geven in het proces achter slimme algoritmes. Dit doen ze met hun tweejarig project ‘eXplainable Artificial Intelligence (XAI) voor ontwikkelaars en eindgebruikers’.
Steven Palmaers leidt dit onderzoeksproject waaraan experten samenwerken van PXL Research, van Hogeschool PXL en het Expertisecentrum voor Digitale Media (EDM) van UHasselt. Steven is onderzoekhoofd van het expertisecentrum PXL Smart ICT, dat zich bezighoudt met ICT in de brede zin. Voor dit project heeft hij drie collega’s van PXL in zijn team: Conrad Hayen is als onderzoeker hoofdzakelijk actief rond data science, Robin Schrijvers is technisch onderzoekspecialist in Artificial Intelligence (AI) en Sam van Rijn doet onderzoek naar en geeft les over AI. Vanuit EDM volgen Davy Vanacken en professor Kris Luyten dit project op en ontfermt onderzoeker Raf Menten zich over de visuele kant, om technische zaken bevattelijk te maken voor de eindgebruiker.
Eén van de bedrijven uit de begeleidingsgroep is Arkite uit Genk: een scale-upbedrijf dat de maakindustrie helpt op basis van Augmented Reality (AR). Kim Rutten is de technological founder en vertelt ons als hoofd van onderzoek hoe het bedrijf voordeel haalt uit dit onderzoeksproject.
Laat ons starten bij het begin: wat is eXplainable Artificial Intelligence, of XAI? En waarom is het belangrijk?
Steven Palmaers: "Bij Artificial Intelligence voeren computers taken uit waarvoor normaal menselijke intelligentie nodig is. Dit kan door AI-systemen te trainen op basis van bepaalde data. Het probleem is dat deze systemen erg black box zijn. Je weet niet hoe ze een beslissing nemen, welke factoren meespelen of een doorslag geven."
"Werd het systeem gevoed en intelligent gemaakt met een verkeerde set van trainingsdata? Dan kan er een voorkeur ontstaan. Ik geef een voorbeeld: als jij aan een AI-algoritme alle foto’s laat zien van de presidenten van de VS en je toont daarna foto’s van een blanke vrouw en man en een zwarte vrouw en man, dan kiest het de blanke man als grootste kandidaat op basis van de historische data."
Met eXplainable Artificial Intelligence willen we resultaten verklaarbaar en interpreteerbaar maken.
"Wij willen een glass box of transparent box maken van AI, wat betekent dat je inzicht krijgt in de werking van het algoritme. Zo kan ook de menselijke factor meespelen. En geven we gebruikers de mogelijkheid om aan het systeem te vragen op welke parameters een beslissing is gebaseerd."
Klinkt interessant. Zijn bedrijven daar klaar voor in Vlaanderen?
Sam van Rijn: "De meeste bedrijven uit de begeleidingsgroep zijn al bezig met AI of hebben toch plannen, al staat XAI nog in zijn kinderschoenen."
Robin Schrijvers: "Het succes van XAI is sowieso een wisselwerking tussen enerzijds bedrijven met data en een probleem- of vraagstelling en anderzijds onderzoekers met technische skills. Artificial Intelligence vertrekt vaak vanuit een kennisdomein met specifieke datasets. Die sets zijn heel divers, van visuele tot tekstuele en tabulaire data. We hebben ze nodig om onze systemen te testen en optimaliseren. Daarnaast hebben we bedrijven nodig met sectorkennis om te weten waarin de waarde van het systeem zit voor de programmeur of eindgebruiker, en om bruikbare inzichten uit datasets te halen."
Sam van Rijn: "Als data scientist heb je
bedrijven nodig met domeinkennis. En als bedrijf wil je weten wat AI je
kan bieden. Met dit project willen we alle technieken doorzichtiger
maken. Door de koppen samen te steken, problemen op tafel te leggen en
te onderzoeken hoe XAI een verschil maakt."
Kim Rutten: "Als jonge scale-uporganisatie groeiden heel wat competenties mee met ons bedrijf, zoals AI. Wij willen artificial intelligence inzetten om slimme conclusies te trekken uit onze data. En we willen ook begrijpen van waar die conclusies komen.
"Wij zien daarin veel potentieel maar hebben zelf niet genoeg ervaring, dus doen we een beroep op specialisten. Dankzij de onderzoekskennis van de hogeschool halen wij sneller resultaten en zetten we die makkelijk in als meerwaarde voor ons bedrijf. Je moet het warm water niet uitvinden als je kan samenwerken met partners die zo competent zijn in hun vakgebied. Ik heb enorm veel vertrouwen in de onderzoeksgroep. En de communicatie loopt heel vlot en laagdrempelig."
Je moet het warm water niet uitvinden als je kan samenwerken met partners die zo competent zijn in hun vakgebied
Een uitdagend onderzoeksproject om Vlaanderen meer op de XAI-kaart te zetten. Kan je wat meer uitleg geven over wie en wat?
Steven Palmaers: "Het ‘XAI voor ontwikkelaars en eindgebruikers‘ is een TETRA-project dat voor 97 procent wordt gesubsidieerd door het Agentschap Innoveren & Ondernemen (VLAIO). We willen de kennis binnen hogescholen en universiteiten verder uitbouwen en verspreiden naar een breder publiek. De doelgroep bestaat vooral uit technologiebedrijven en partners die met data en AI bezig zijn, maar ook uit potentiële eindgebruikers. Het project loopt van oktober 2019 tot eind september 2021. De opstartfase bestond vooral uit deskresearch en focusbepaling."
"Daarna volgden workshops om de noden te detecteren van de begeleidingsgroep, dat zijn een tiental organisaties die uit interesse meedoen aan het project. Omdat VLAIO subsidieert voeren we alleen collectief onderzoek uit en dus geen individuele trajecten. We zoeken de rode draad tussen de noden en behoeften van de verschillende leden van de begeleidingsgroep. Zo werken we aan proof of concepts die breed inzetbaar zijn. De eindresultaten zullen trouwens publiek beschikbaar zijn. Dus hou het project zeker in de gaten als je interesse hebt."
Hoe kwamen jullie op het idee om eXplainable Artificial Intelligence uit te spitten?
Steven Palmaers: "Het idee ontstond in een brainstorm tussen PXL en UHasselt. We wilden onze AI-expertise bundelen en ontdekten een gat in de markt. Er bestonden veel projecten rond vormen van AI zoals deep learning en machine learning. Maar de menselijke factor van AI werd vaak niet of onvoldoende belicht, dus werd dat onze focus. Wij willen handvaten aanreiken die AI-systemen verklaren en inzichtelijker maken. Zodat AI-gebruikers kunnen vragen om resultaten te duiden: Hoe kwam de beslissing tot stand? En welke parameters waren doorslaggevend?"
Kim Rutten: "Inzichten over die processen betekenen een enorme meerwaarde voor de industrie. Zeker voor ons: wij projecteren de werkinstructies om producten te assembleren en volgen die ook op, een beetje zoals een gps die zegt welke weg je moet nemen. Toegankelijkheid voor klanten is heel belangrijk. Dankzij XAI kunnen we het denkproces meevolgen en beter begrijpen hoe het systeem tot een resultaat komt. Misschien worden wij zo wel de Facebook voor productie, die alle data van operatoren en machines verzamelt en interpreteert."
Wij willen handvaten aanreiken die AI-systemen verklaren en inzichtelijker maken.
Kan elk type bedrijf met jullie samenwerken?
Steven Palmaers: "Zeker. Voor het project werken we met zo’n tien bedrijven in de begeleidingsgroep, onder wie Arkite. Er zijn trekkers die actief meedenken en meedoen in use cases. Er zijn ook volgers die vooral interesse hebben in de finale inzichten en resultaten."
Robin Schrijvers: "De begeleidingsgroep heeft bedrijven met een expertise in bepaalde AI-domeinen. Door mee te doen aan dit project hopen ze meer inzicht te krijgen over de eXplainability van AI. Dankzij tests met specifieke datasets van hun klanten - van health care tot productieprocessen en logistiek - helpen we alle bedrijven vooruit die willen inzetten op AI."
Sam van Rijn: "Zo stijgt ook het digitaal niveau in Vlaanderen. Want je wil niet achterblijven in een wereld waar alles continu verandert. Momenteel staan vooral Nederland en het Verenigd Koninkrijk sterk in Europa, als we Brexit even vergeten. Andere grote spelers zijn China en de US, maar die hebben niet zo’n beperkende wetgeving. In China staan ze verder met gezichtsherkenning omdat ze toegang krijgen tot videodata van ontelbaar veel camera’s. In Europa mag je niet overal camera’s hangen en de beelden vrij gebruiken."
Kim Rutten: "Dit onderzoeksteam bestaat echt uit experts op sommige gebieden van AI. Ze weten hoe ze een verschil maken voor je bedrijf. Ze denken mee en leggen alles goed uit. Als ik zo’n docenten had gehad als student, waren mijn punten zeker hoger geweest (lacht). Ik kan elk bedrijf aanraden om samen te werken met deze onderzoekers. Ze buigen zich heel intensief over je case, of het nu gaat om een onderzoeksproject of één op één begeleiding."
Zijn er vereisten om aan AI of XAI te doen als bedrijf?
Sam van Rijn: "Een grondig datacaptatieframework is wel belangrijk, om je data goed te verzamelen en structureren. En je moet ook weten wat je met die data wil doen. AI is meer dan mooie salesgrafiekjes. We halen voorspellingen en bruikbare inzichten uit de data om toekomstige beslissingen op te baseren."
Kim Rutten: "Dat was voor ons een groot inzicht. We hebben veel data maar hadden nog een stapje nodig om die data klaar te maken voor AI. Nu beseffen we hoe we moeten omgaan met die data in de toekomst."
Steven Palmaers: "Bedrijven die twijfelen mogen ons altijd contacteren. Dan spreken we hun business samen even door en bekijken we wat interessant kan zijn binnen het huidige project of in een individueel zijproject. Hoe dan ook organiseren we eind september 2021 een afsluitend event voor de huidige partners en het brede publiek. Daar hoor je wat het project ons heeft geleerd en hoe jij daaruit voordeel haalt met je bedrijf. We zetten dan ook tutorials, workshops en een catalogus online. Hou hiervoor onze LinkedIn-pagina in de gaten."
Robin Schrijvers: "We zien dat bedrijven soms moeite hebben om AI efficiënt te implementeren en er effectief mee aan de slag te gaan, omdat ze niet genoeg op de hoogte zijn. Dit project zal meer inzichten bieden, waardoor ondernemers beter weten wat (X)AI al dan niet voor hen kan betekenen. Er is veel mogelijk maar er zijn natuurlijk ook beperkingen. AI is geen magische toverstok."
Naast artificiële blijft menselijke intelligentie dus ook zeker nodig?
Steven Palmaers: "Ja, want data is niet altijd neutraal. Menselijke inzichten blijven belangrijk. Artificiële intelligentie gebeurt nu nog vaak ondoordacht, zonder stil te staan bij de mogelijke nadelen. Wij willen die nadelen omvormen tot opportuniteiten, door meer transparantie te brengen."
Sam van Rijn: "AI-algoritmes worden lang getraind door experten om optimaal te werken. Maar er kan altijd een fout in sluipen. Het is niet oké om daar totaal geen zicht op te hebben als gebruiker. Mensen hebben recht om te weten waarom een algoritme bepaalde keuzes maakt. En hoe hun data wordt gebruikt."
Raf Menten: "Dat geldt trouwens ook voor de eindgebruiker. Daarover buig ik mij vooral, samen met het expertisecentrum digitale media. Wij zoeken hoe we de technische inzichten en resultaten begrijpelijk en visueel aantrekkelijk kunnen maken voor de eindgebruiker."
Mensen hebben recht om te weten waarom een algoritme bepaalde keuzes maakt. En hoe hun data wordt gebruikt.
Dat klinkt als mooie toekomstmuziek voor Vlaamse bedrijven.
Steven Palmaers: "Daarvan zijn wij overtuigd. Dit project verdiept en verruimt onze kennis, waardoor we bedrijven nog beter en gerichter kunnen helpen. Contacteer ons gerust als je graag inzichten wil op maat van jouw data. Of als je wil weten hoe je die data best verzamelt."
Kim Rutten: "Ik kan het alleen maar aanraden. Je krijgt belangrijke inzichten over wat je nu al kan doen, wat er nog meer mogelijk is en wat de volgende stappen zijn. En je shopt lokaal, in je eigen taal."
Lijkt eXplainable Artificial Intelligence iets voor jou?
Heeft dit artikel je geïnspireerd of aan het denken gezet? Lijkt dit wat voor jouw onderneming of organisatie? Waar wacht je nog op? Neem vrijblijvend contact op met deze experten.
