Sans garde-fou, l’IA menace nos sociétés

ÉDITORIAL. Les fausses informations fabriquées par l’IA générative de MICROSOFT sur les élections fédérales rappellent que ces systèmes ont des répercussions sur nos sociétés. Et montrent les limites du laisser-faire et de la précipitation

La frénésie autour de l’intelligence artificielle incite les entreprises à prendre des décisions lourdes de conséquences pour nos sociétés. En intégrant son IA générative Copilot à son moteur de recherche Bing, MICROSOFT a fait le choix de sacrifier la fiabilité de son outil dans le seul but de générer de l’engouement sur un marché occupé à plus de 90% par GOOGLE et son célèbre Search.

C’est ce qu’on comprend à la lecture d’une étude menée par AlgorithmWatch et AI Forensics. Les deux ONG ont analysé des milliers de réponses de l’IA générative de MICROSOFT dans le cadre des élections fédérales sur Bing. La conclusion fait frémir: invention de scandales autour de candidats, incapacité à fournir la composition exacte du Conseil fédéral et autres imprécisions représentent un tiers des résultats.

Comment expliquer une telle marge d’erreur? Par le fonctionnement même de l’outil. L’IA générative de MICROSOFT a pour mission de fabriquer une réponse sous forme de texte. Elle ne s’embarrasse pas de la notion d’exactitude de l’information, voire de celle de vérité. Son rôle est de proposer aux utilisateurs la possibilité de discuter avec la machine en langage naturel. A ce titre, Copilot remplit sa part du contrat.

Lire aussi: Pour l’IA générative de MICROSOFT, Ueli Maurer siège toujours au Conseil fédéral

A terme, une telle IA pourrait apporter des réponses plus précises aux requêtes formulées sur un moteur de recherche, tout en offrant l’illusion d’une conversation. L’expérience utilisateur s’en trouverait grandement améliorée. Mais, à ce jour, la technologie n’est pas encore mûre. Malgré ce fait indéniable, MICROSOFT n’a pas souhaité temporiser.

Lire aussi: Les européens Mistral AI et Aleph Alpha peuvent-ils réellement concurrencer les géants américains de l’intelligence artificielle?

De son côté, GOOGLE n’a pas encore suivi le mouvement. Est-il en retard, ou préfère-t-il attendre pour ne pas altérer son moteur de recherche? Impossible à dire. Mais ce qui est sûr, c’est qu’un déploiement trop hâtif d’une IA générative dans l’outil de recherche le plus utilisé de Suisse (plus de 91% de parts de marché selon Statista) aurait des répercussions autrement plus inquiétantes. De fausses informations pourraient se répandre comme une traînée de poudre, sans contrôle.

Lire aussi: Intelligence artificielle: l’accord européen est historique, mais le plus dur est à venir

C’est la raison pour laquelle le déploiement d’outils d’intelligence artificielle n’est pas qu’une question commerciale. C’est l’affaire de toutes et tous. Le Conseil fédéral s’interroge encore sur l’opportunité de réglementer l’IA, là où l’Union européenne va de l’avant. Reste à trouver la bonne approche. Elle sera sans doute collective, car, seule, la Suisse n’imposera rien à des géants étrangers.

Lire aussi: Faut-il réguler ou non l’intelligence artificielle? Un débat explosif débute en Suisse

* * * **Retrouvez**  [tous les éditoriaux du _Temps_](https://www.letemps.ch/opinions/editoriaux)