Generativ AI? Helt sikkert!

Dårlige nyheder for ledelsen hos elektronikvirksomheden Samsung. I foråret 2023 dukkede noter fra interne møder og data om performance fra produktionssteder pludselig op på internettet. Skurkene var ikke hackere, men virksomhedens egne medarbejdere, som havde brugt generativ AI. Én medarbejder havde f.eks. brugt ChatGPT til at lave sine mødenoter om til et færdigt dokument uden at være opmærksom på, at den gratis version af AI-assistenten gemmer alle oplysninger fra brugernes prompts til at udvide programmets viden.

Dette eksempel viser, at der også er risici forbundet med brug af generativ AI, f.eks. at medarbejdere ikke er tilstrækkeligt bevidste om de sikkerhedsmæssige udfordringer, manglende retningslinjer fra virksomheden eller nye muligheder for hackerangreb. I en global undersøgelse udført af konsulentvirksomheden McKinsey anså 53 % af alle deltagere, som allerede havde arbejdet med generativ AI, cybersikkerhed som værende den største risiko ved den nye teknologi.

Generativ AI giver samtidig virksomheder et enormt potentiale for at øge effektiviteten og innovationen. På den baggrund var Otto Group på udkig efter en måde, hvormed de kunne udnytte fordelene ved teknologien, men samtidig begrænse risiciene. Under navnet ogGPT har modervirksomheden EOS udviklet sin egen generative AI til sine 26000 medarbejdere. “Vi ønskede at skabe en løsning, som er skræddersyet til netop vores virksomheds specifikke behov og med fokus på sikkerhed og databeskyttelse,” fortæller Anja Körber, Head of Artificial Intelligence & Automation hos Otto Group IT. Den gebyrbaserede virksomhedsversion af Chat GPT var udelukket – også selvom denne AI-assistent ikke gemmer oplysningerne fra prompts. “Serverne er placeret i USA,” fortæller Anja. “Det betyder, at lokale medarbejdere, f.eks. fra support, i tvivlstilfælde ville have adgang til dataene. Derudover gælder europæiske regler, f.eks. GDPR, ikke i USA.”

Undersøgelsen fra McKinsey viser også tydeligt, at der er store mangler, hvad angår retningslinjer. Otto Group har allerede taget hånd om dette problem, også på vegne af associerede selskaber. I løbet af to måneder udviklede medarbejdere fra Otto Group ikke blot AI-retningslinjer, men også de individuelle byggesten til ogGPT i forskellige projekter og 'hackathons'. Resultatet er en grundlæggende struktur, der opdaterer sin viden – inklusive med data fra internettet – men som stadig er sikker, forklarer Anja: “ogGPT glemmer prompts. Vi har fuld kontrol over dataene.”

Det unikke salgsargument ved ogGPT er dog ikke kun sikkerhed. “Vi ønskede funktioner, der matcher vores krav,” siger Anja. AI-assistenten kan f.eks. opsummere indholdet af en lang e-mailtråd. ogGPT bliver også allerede brugt til at skrive nyhedsbreve: mens læserne af nyhedsbrevet tidligere kun fik vist overskrifter med links til yderligere indhold, kan de nu se sammendrag af indholdet. Det er en væsentlig forbedring, som det ville have været alt for tidskrævende at gennemføre manuelt.

Derudover reducerer en intern løsning frygten blandt medarbejdere, som skulle vænne sig til, at integrationen af generativ AI ville blive en del af deres hverdag. "Takket være vores interne løsning har vi opbygget et internt team af eksperter og skabt vores eget community. Først og fremmest giver dette community mange medarbejdere ro: hvis jeg ikke kan finde en løsning, kan jeg spørge mine kolleger".

Intern generativ AI er også nyttig for det Otto-associerede selskab EOS, fortæller Janusch Skubatz, Chief Information Security Officer hos EOS Group. De første interne projekter er allerede undervejs. “Jeg tror, at vi også vil bruge ogGPT i fremtiden,” siger han, “men udfordringerne med databeskyttelse inden for debitorstyring er særligt høje. Når vi f.eks. overtager misligholdte lån, får vi adgang til data, som skal beskyttes.” På denne baggrund er EOS underlagt mere omfattende regler end andre virksomheder, og vi er ofte også underlagt kontraktmæssige krav fra partnere, fortæller Janusch: “Derfor er vi nødt til at være meget grundige med at kontrollere, om teknologien imødekommer vores krav.”

Janusch mener dog, at den mest afgørende faktor er jævnlig interaktion med generativ AI: “Erfaring er en forudsætning for at blive dus med teknologien og kvaliteten af resultaterne.” På denne måde kan man undgå risikosituationer som den hos Samsung, og man kan drage fordel af det enorme potentiale.