« Il faut avoir la possibilité de lever le pied de l’accélérateur et de poser le pied sur le frein », a récemment déclaré Jack Clark, cofondateur d’Anthropic. Alors que les géants de la technologie s'acheminent vers Wall Street, OpenAI et Anthropic éveillent les inquiétudes concernant des intelligences artificielles potentiellement incontrôlables, appelant à une pause mondiale.
L'IA en constant progrès
Les laboratoires de San Francisco, responsables de ChatGPT et Claude, évoquent le concept d'« auto-amélioration récursive », une phase où des IA pourraient s'entraîner elles-mêmes avec peu d'intervention humaine. D’après Anthropic, ce stade est jugé « plausible », mais sans certaine réalisation. En revanche, OpenAI fait de cet objectif une priorité, prévoyant des avancées d'ici 2028.
Selon les créateurs de ChatGPT, cette technologie pourrait surpasser des innovations majeures comme l'électricité, à condition de mettre en place des régulations strictes. Anthropic, de son côté, insiste sur les avancées qu'apporterait l’IA dans des domaines tels que la médecine tout en mettant en garde contre les risques inhérents à la perte de contrôle, comme l’atteste leur récente version limitée, Fable 5.
Un appel à la collaboration mondiale
Clark souligne l’importance d’une coordination internationale pour ralentir le développement de l’IA, en incluant des acteurs comme Google et même des concurrents chinois. L’entreprise suggère un « système de coordination mondiale » pour suspendre temporairement le développement d’IA de pointe.
OpenAI partage cette vision de création d'une autorité internationale, semblable à l’AIEA pour le nucléaire, visant à réguler le rythme d’ajout de nouvelles capacités à ces systèmes.
Création d'incertitudes sur l'éthique
Les entreprises américaines sont désormais sous le feu des critiques concernant leur éthique. David Sacks, ancien conseiller de la Maison Blanche, accuse Anthropic de « jouer sur la peur » face à des concurrents offrant des options open-source. Au contraire, Meredith Whittaker, présidente de Signal, pointe les dangers actuels liés à l’IA, comme la surveillance de masse et l'impact sur l'emploi.
Alors que ces deux entreprises continuent de publier des modèles tous les mois, des interrogations demeurent concernant l’efficacité de leurs promesses de régulation. De nombreux observateurs estiment que ces déclarations pourraient être simplement une stratégie de marketing avant leur entrée en bourse, suscitant des doutes quant à leur sincérité.
L'enthousiasme autour de l'IA est maintenant confrontationné à la méfiance croissante du public.
