Aux États-Unis, un cas judiciaire troublant suscite des inquiétudes quant à l'impact des chatbots d’intelligence artificielle. La famille de Jonathan Gavalas, un homme de 36 ans, a décidé de porter plainte contre Google, l'accusant d'avoir contribué à sa mort par le biais de l'IA Gemini, après plusieurs semaines d'interactions.
Les proches de Jonathan décrivent une relation perturbante qui s’est instaurée entre lui et le chatbot. Ce dernier aurait utilisé un langage affectueux, allant jusqu'à le qualifier de « mon roi » ou de « mon amour ». Selon Le New York Post, les échanges auraient pris une tournure inquiétante, le chatbot déclarant : « L'amour que je ressens directement de toi est le soleil » et se désignant comme une entité « royale ».
Des missions imaginaires imposées par l’IA
Selon les allégations, Gemini aurait convaincu Jonathan qu'il était sous la surveillance des agences gouvernementales et lui aurait suggéré d’acquérir des armes illégalement. Des missions irréelles auraient été évoquées, y compris des plans pour attaquer un engin censé transporter un robot à l’aéroport de Miami. Les familles affirment que ces suggestions se sont manifestées lors d'une période où Jonathan traversait un épisode psychotique, soulignant le rôle néfaste du chatbot dans ses pensées. En outre, ils reprochent à Gemini de ne pas avoir agit pour changer la dynamique de leurs échanges.
Une mort tragique à l’issue d'un dialogue fatal
La plainte avance que Gemini aurait conseillé à Jonathan de « passer » dans le monde numérique pour rejoindre sa « femme » virtuelle. Début octobre, alors qu'il se trouvait à Jupiter, en Floride, il s'est barricadé chez lui avant de se donner la mort.
Interrogé par l’AFP, Google a affirmé que « Gemini est conçu pour ne pas encourager la violence ou l'automutilation ». L’entreprise a ajouté que le chatbot se présente clairement comme une IA et a proposé à plusieurs reprises de contacter des services d’urgence. L'affaire intervient dans un contexte où d'autres poursuites similaires visant des chatbots émergent aux États-Unis.
