Generativna UI? Svakako!

Bila je to neprijatna vijest za menadžment elektroničke grupacije Samsung. U proljeće 2023. na internetu su se iznenada pojavile bilješke s internih sastanaka i podaci o učincima proizvodnih pogona. Krivci nisu bili hakeri, već sami zaposlenici tvrtke koji su koristili generativnu umjetnu inteligenciju. Jedan zaposlenik je, na primjer, koristio ChatGPT kako bi svoje bilješke sa sastanka pretvorio u završni dokument, ne shvaćajući da besplatna verzija asistenta temeljenog na umjetnoj inteligenciji sprema sve informacije iz uputa svojih korisnika – i koristi ih kako bi proširila svoje znanje.

Ovaj primjer pokazuje da generativna inteligencija također predstavlja i rizik koji proizlazi iz nedovoljne svijesti zaposlenika o sigurnosnim nedostacima, manjku smjernica od strane tvrtke ili novih mogućnosti za hakerske napade. U globalnom istraživanju koje je provela konzultantska tvrtka McKinsey, 53 % svih sudionika koji su već radili s generativnom UI smatra da kibernetička sigurnost predstavlja najveći rizik u pogledu ove nove tehnologije.

Istovremeno, generativna UI nudi tvrtkama ogroman potencijal za povećanje učinkovitosti i inovativnosti. Otto Grupa stoga je tražila način da iskoristi mogućnosti koje nudi tehnologija, a da istovremeno ograniči rizike koji iz toga mogu proizaći. Pod nazivom ogGPT, EOS-ova matična tvrtka razvila je vlastitu generativnu umjetnu inteligenciju za 26 000 zaposlenika grupacije. „Željeli smo stvoriti rješenje koje je prilagođeno specifičnim potrebama naše grupacije, s naglaskom na sigurnost i zaštitu podataka“, kaže Anja Körber, voditeljica odjela za umjetnu inteligenciju i automatizaciju u IT odjelu Otto Grupe. Poslovna verzija Chat GPT-a za koju se naplaćuje naknada za korištenje ne dolazi u obzir – iako ovaj UI asistent ne pohranjuje informacije iz upita. „Poslužitelji se nalaze u SAD-u“, kaže Anja. „To znači da bi u slučaju nedoumice lokalni zaposlenici, na primjer iz podrške, imali pristup podacima. A europski standardi kao što je GDPR ne primjenjuju se u SAD-u.“

Istraživanje konzultantske tvrtke McKinsey također jasno pokazuje da postoji jaz u smislu smjernica. Otto Grupa već je riješila ovaj problem, također i u ime svojih povezanih društava. Tijekom dva mjeseca zaposlenici Otto Grupe ne samo što su razvili smjernice u pogledu UI, već i pojedinačne sastavne elemente za ogGPT u sklopu različitih projekata i programerskih konferencija. To je rezultiralo osnovnim okvirom koji ažurira svoje znanje – uključujući podatke s interneta – ali je i dalje siguran, objašnjava Anja: „ogGPT zaboravlja upute. Imamo potpunu kontrolu nad podacima.“

Međutim, jedinstvena prednost ogGPT-a nije samo sigurnost. „Željeli smo funkcije koje odgovaraju našim zahtjevima“, kaže Anja. Na primjer, UI asistent može sažeti sadržaj duge razmjene e-poruka. ogGPT se također već koristi za pisanje e-biltena: dok su čitatelji e-biltena prethodno dobivali samo naslove koji su bili povezani s daljnjim sadržajem, odsad mogu pronaći kompaktne sažetke sadržaja. To je značajno poboljšanje koje bi oduzimalo previše vremena da se radi ručno.

Osim toga, interno izrađeno i implementirano rješenje umanjuje strah od kontakta među zaposlenicima kojima bi integracija generativne UI u svakodnevni rad trebala postati dio svakodnevnog života. „Zahvaljujući internom rješenju okupili smo interni tim stručnjaka i stvorili vlastitu zajednicu. Iznad svega, zajednica daje mnogim zaposlenicima dobar osjećaj: ako ne mogu pronaći rješenje, mogu upitati svoje kolege“.

Interna generativna UI korisna je i za EOS, pridruženo društvo Otto Grupe, kaže Janusch Skubatz, glavni službenik za informacijsku sigurnost EOS Grupe. Početni interni projekti već su u tijeku. „Mislim da ćemo se i u budućnosti koristiti ogGPT-om“, kaže on, „no prepreke u zaštiti podataka kod upravljanja potraživanjima posebno su visoke. Primjerice, kad kupujemo nenaplative kredite, dobivamo pristup podacima koji osobito trebaju zaštitu.“ Zbog toga EOS podliježe dalekosežnijim pravilima od drugih tvrtki, a često i ugovornim zahtjevima partnera, kaže Janusch: „Stoga moramo pažljivo provjeriti treba li ta tehnologija ispuniti kakve dodatne zahtjeve.“

Međutim, Janusch smatra da je najvažniji čimbenik redovita interakcija s generativnom UI: „Iskustvo je preduvjet za razvoj osjećaja za tehnologiju i kvalitetu rezultata.“ Na taj je način moguće izbjeći rizične situacije poput onih u Samsungu i iskoristiti taj golemi potencijal.