Generatieve AI? Zeker!

Het management van de Samsung-elektronicagroep kreeg in de lente van 2023 onprettig nieuws. Er verschenen plots aantekeningen van interne vergaderingen en gegevens over de prestaties van productiefaciliteiten op het internet. De schuld hiervoor lag niet bij hackers, maar eerder bij medewerkers van het bedrijf zelf die generatieve AI hadden gebruikt. Een medewerker had namelijk gebruik gemaakt van ChatGPT om zijn aantekeningen, gemaakt tijdens meetings, om te vormen tot een afgewerkt document en dit zonder zich bewust te zijn dat de gratis versie van de AI-assistent alle verkregen gebruikersinformatie opsloeg en deze effectief gebruikte om zijn eigen kennis uit te breiden.

Dit voorbeeld toont aan dat generatieve AI ook risico's inhoudt, zoals het niet voldoende attent zijn van medewerkers betreffende veiligheidsproblemen, een gebrek aan richtlijnen binnenin de bedrijven, of nieuwe mogelijkheden voor hackers. In een wereldwijde enquête die werd uitgevoerd door de firma McKinsey werd vastgesteld dat 53% van alle deelnemers die reeds met AI hadden gewerkt, vonden dat cyberveiligheid het grootste risico was dat aan de nieuwe technologie kleeft.

Tegelijkertijd houdt AI enorme potentiële mogelijkheden in voor bedrijven om hiermee hun efficiëntie en innovatieve kracht te verbeteren. De Otto-Groep is voor deze reden op zoek gegaan naar een manier om enerzijds gebruik te maken van de mogelijkheden die de technologie biedt, en om anderzijds tegelijkertijd de risico’s ervan te beperken. Onder de naam ogGPT heeft het moederbedrijf van EOS zijn eigen generatieve AI ontwikkeld voor de 26.000 medewerkers van de Groep. “Wij wilden een oplossing vinden die is afgestemd op de behoeften van onze eigen groep, met bijzondere aandacht voor veiligheid en gegevensbescherming”, aldus Anja Körber, Head of Artificial Intelligence & Automation bij Otto Group IT. De betaalde versie van Chat GPT was a priori uitgesloten - ondanks dat deze AI-assistent de informatie van de prompts (de input van de gebruiker) niet opslaat. "De servers staan in de VS," zegt Anja. "Dit betekent dat in geval van twijfel lokale medewerkers, bijvoorbeeld van support, toegang zouden hebben tot de gegevens. En Europese normen zoals de GDPR gelden niet in de VS."

Het onderzoek van adviesbureau McKinsey laat ook duidelijk zien dat er een kloof is op het gebied van richtlijnen. De Otto-Groep heeft dit probleem al aangepakt, ook namens zijn filialen. In twee maanden tijd ontwikkelden medewerkers van Otto Group niet alleen een AI-richtlijn, maar ook de afzonderlijke bouwstenen voor ogGPT in verschillende projecten en hackathons. Het resultaat daarvan is een elementair framewerk dat zijn kennis actualiseert - ook met van data van het internet - en dat toch veilig blijft, verklaart Anja. “ogGPT vergeet de prompts. Wij houden volledige controle over de gegevens.”

Het unieke verkoopsargument van ogGPT is echter niet alleen de veiligheid. “Wat wij nodig hadden, waren functies die voldeden aan onze behoeften”, aldus Anja. De AI-assistent kan bijvoorbeeld de inhoud van lange e-mail-threads samenvatten. ogGPT wordt ook al gebruikt om een nieuwsbrief te schrijven: terwijl lezers van de nieuwsbrief vroeger enkel de grote koppen te zien kregen waarin links naar bijbehorende content aanwezig waren, krijgen ze nu compacte samenvattingen ervan aangeboden. Dit is een belangrijke verbetering voor taken die tijdrovend zouden zijn als ze handmatig uitgevoerd moeten worden.

Een in-house oplossing vermindert ook de angst van medewerkers die moeten wennen aan het integreren van generatieve AI in hun dagelijkse werk, voegt Anja toe: "Er zijn interne experts en een toegewijde community. Dat geeft veel mensen een goed gevoel: als ik er niet uitkom, kan ik het aan een collega vragen."

In-house generatieve AI is eveneens nuttig voor EOS, een dochterbedrijf van Otto, zegt Janusch Skubatz, Chief Information Security Officer van de EOS-Groep. De eerste interne projecten lopen al. “Ik denk dat wij in de toekomst ook gebruik zullen maken van ogGPT”, zegt hij, “maar de uitdagingen op het vlak van de gegevensbescherming bij de debiteurenadministratie zijn bijzonder groot. Wanneer wij bijvoorbeeld niet-renderende leningen overnemen, krijgen wij toegang tot gegevens die bijzonder beschermd dienen te worden" Daarom is EOS onderworpen aan verdergaande regels dan andere bedrijven en vaak ook aan contractuele eisen van partners, zegt Janusch: "We moeten daarom zorgvuldig controleren of de technologie aan nog meer eisen moet voldoen."

Janusch is echter van mening dat de meest doorslaggevende factor regelmatige interactie met generatieve AI is: “Ervaring is noodzakelijk indien men de technologie wenst te leren kennen en indien men zich bewust wil zijn van de kwaliteit van de resultaten.” Op die manier kunnen gevaarlijke situaties, zoals die bij Samsung, vermeden worden, en kan een immens potentieel aangeboord worden.