L’intelligence artificielle sera bientôt capable de créer toute seule l’IA de demain. Faut-il s’inquiéter de cette perte prochaine de contrôle humain?

Anthropic, éditeur du chatbot Claude, vient de suggérer une pause dans le développement de l’IA. Deux experts analysent cette demande, qui s’assimile surtout à un coup marketing

L’apocalypse se profile à nouveau à l’horizon: des machines qui créent toutes seules des rejetons numériques plus puissants encore, face à des humains qui auront perdu tout contrôle de l’intelligence artificielle. Voilà, en substance, le message diffusé dans la nuit de jeudi à vendredi par Anthropic. L’éditeur du chatbot à succès Claude a publié un avertissement qui a eu un gros écho médiatique. Mais faut-il croire sur parole la firme dirigée par Dario Amodei? Pas si sûr.

Dans leur article, les experts d’Anthropic avertissent que les progrès des modèles s’orientent vers une «auto-amélioration récursive», les systèmes d’IA se perfectionnant tout seuls sans intervention humaine. Cela «pourrait survenir plus tôt que la plupart des institutions ne le prévoient», estime Anthropic, qui suggère une pause dans la course à l’IA: «Nous pensons qu’il serait bénéfique pour le monde d’avoir la possibilité de ralentir, voire de suspendre temporairement, le développement de l’IA de pointe afin de permettre aux structures sociétales et à la recherche en matière d’harmonisation de suivre le rythme des progrès technologiques.»