Un incident malencontreux frappe le ministre de la Communication sud-africain, Solly Malatsi. Moins de deux semaines après l’annonce d’un projet de loi qui visait à encadrer l’utilisation de l'intelligence artificielle dans le pays, ce dernier a été contraint de procéder à son retrait. Une enquête préliminaire a révélé que le texte avait été élaboré en grande partie grâce à l’intelligence artificielle, comportant de surcroît de nombreuses “hallucinations” associées à la technologie.

Le site News24 a mis en lumière, le 25 avril, de multiples références académiques entièrement inventées dans le projet. Selon les experts cités par le média, certaines publications mentionnées n'existent tout simplement pas. “L’explication la plus plausible est qu’un système d’intelligence artificielle les a générées par erreur”, précise l'article.

Trente minutes après la parution de cette information sur les réseaux sociaux, Malatsi a annoncé une enquête interne. Le lendemain, il a confirmé que l’intelligence artificielle était à l’origine de ces erreurs, indiquant que la situation représentait “un échec qui compromet l’intégrité et la crédibilité du projet”. Dans une interview accordée à eNCA, il a qualifié l’incident de “assez embarrassant”.

Réalisme ironique

“Notre intention était d’établir un cadre éthique pour l’usage de l'IA au sein de la société. Il est ironique de tomber dans le panneau alors qu’on s’efforce de le faire”, a déclaré Malatsi, qui représente l’Alliance démocratique (DA), le deuxième parti du pays, qui travaille en coalition avec l’historique Congrès national africain (ANC).

Le projet, qui avait été présenté le 10 avril, visait à “faire de l’Afrique du Sud un leader dans l’innovation en matière d’intelligence artificielle tout en répondant aux défis éthiques et socio-économiques”, selon une déclaration reprise par Reuters.

Il proposait la création d’un “conseil d’éthique” de l’IA, d’un “institut de sécurité de l'IA” et même d’un fonds d'assurance destiné à indemniser les victimes d’éventuels préjudices causés par l'intelligence artificielle.

Les journalistes de News24 ont constaté que plusieurs des 67 références utilisées dans le document étaient fabriquées, dont une revue nommée “AI policy journal”. En tout, ils estiment avoir identifié “au moins six” publications fictives. Cependant, le nombre exact de références inventées demeure incertain.

“Cette situation doit servir de leçon à tous”, conclut le quotidien régional The Herald, se réjouissant du fait que “la nécessité d'élaborer une réglementation sur l'intelligence artificielle est désormais claire aux yeux de la population sud-africaine”.