L’IA générative ? Bien sûr !

Une mauvaise surprise pour la direction du groupe Samsung : au printemps 2023, des notes issues de réunions internes et des données sur les performances des installations de production se sont soudainement retrouvées sur Internet. Les coupables n’étaient pas des cyberpirates, mais des employés de l’entreprise qui avaient utilisé une IA générative. Un employé avait notamment utilisé ChatGPT pour convertir ses notes de réunion en un document fini, sans se douter que la version gratuite de l’assistant IA enregistrait toutes les informations provenant des messages de ses utilisateurs et les utilisait pour élargir ses connaissances.

Cet exemple montre que l’intelligence générative présente aussi des risques, liés notamment à une sensibilisation insuffisante des employés aux lacunes de sécurité, à l’absence de directives au sein de l’entreprise ou aux nouvelles possibilités d’attaque pour les cyberpirates. Selon une enquête menée à l’échelle mondiale par le cabinet de conseil McKinsey, 53 % des participants ayant déjà travaillé avec une IA générative considèrent la cybersécurité comme le plus grand risque lié à cette nouvelle technologie.

Parallèlement, l’IA générative offre aux entreprises un formidable potentiel d’accroissement de leur efficacité et de leur force d’innovation. Le groupe Otto a donc cherché le moyen d’exploiter les possibilités offertes par cette technologie, tout en limitant les risques qui y sont associés. La société mère d’EOS a développé sa propre IA générative, appelée « ogGPT », pour les 26 000 employés du groupe. « Nous souhaitions créer une solution adaptée aux besoins spécifiques de notre groupe en privilégiant la sécurité et la protection des données », explique Anja Körber, responsable de l’intelligence artificielle et de l’automatisation au sein du département informatique du groupe Otto. La version de ChatGPT payante pour les entreprises n’était pas envisageable, même si cet assistant IA ne stocke pas les informations contenues dans les requêtes. « Les serveurs sont situés aux États-Unis », précise Anja Körber. « Cela implique qu’en cas de doute, les employés locaux, par exemple le service d’assistance, ont accès aux données. De plus, les normes européennes telles que le RGPD ne s’appliquent pas aux États-Unis. »

L’enquête du cabinet de conseil McKinsey montre aussi clairement qu’il existe des lacunes en ce qui concerne les directives. Le groupe Otto s’est déjà penché sur cet aspect, y compris pour le compte de ses filiales. En deux mois, les employés du groupe Otto ont non seulement développé une directive sur l’IA, mais aussi les différents éléments constitutifs d’ogGPT dans le cadre de divers projets et hackathons. Cette démarche a abouti à un cadre de base permettant une actualisation des connaissances, y compris avec des données provenant d’Internet, tout en assurant la sécurité, comme l’explique Anja Körber : « ogGPT oublie les requêtes. Nous avons la maîtrise totale des données. »

Cependant, la sécurité n’est pas l’unique atout d’ogGPT. « Nous voulions des fonctions qui correspondent à nos besoins », explique Anja Körber. Par exemple, l’assistant IA est capable de résumer le contenu d’un long courriel. ogGPT est également déjà utilisé pour rédiger une lettre d’information : alors que les lecteurs de cette lettre ne recevaient auparavant que des titres renvoyant à d’autres contenus, ils bénéficient désormais de résumés compacts de ces contenus. Cette amélioration significative aurait nécessité beaucoup trop de temps pour être réalisée manuellement.

De plus, une solution maison réduit l’appréhension chez les employés, étant donné que l’IA générative doit venir s’intégrer dans leur travail quotidien. « Autour de cette solution maison, nous avons constitué une équipe interne d’experts et développé notre propre communauté. Celle-ci rassure de nombreux employés : si je ne trouve pas de solution, je peux demander à mes collègues. »

Selon Janusch Skubatz, directeur de la sécurité de l’information du groupe EOS, une IA générative maison est également utile pour EOS, filiale du groupe Otto. Les premiers projets internes sont déjà en cours. « Je pense que nous allons nous aussi utiliser ogGPT à l’avenir, déclare-t-il, mais les défis liés à la protection des données dans le secteur de la gestion des créances sont particulièrement ardus. Lorsque nous acquérons des prêts non performants, par exemple, nous avons accès à des données qui doivent être particulièrement protégées. » Pour cette raison, EOS est soumise à des règles plus strictes que d’autres entreprises et aussi, souvent, à des exigences contractuelles de la part de ses partenaires. « Nous devons donc examiner soigneusement si cette technologie doit satisfaire d’autres exigences », explique Janusch Skubatz.

Janusch Skubatz estime cependant que le facteur le plus décisif est l’interaction régulière avec l’IA générative : « L’expérience est une condition préalable pour se familiariser avec la technologie et obtenir des résultats de qualité. » Il devient ainsi possible d’éviter des situations à risque comme celle rencontrée chez Samsung et d’exploiter cet immense potentiel.