Les chercheurs lancent l’alerte : l’IA progresse au-delà de notre compréhension
Des chercheurs ont publié un avertissementdans la revue Science indiquant que les systèmes d’IA progressent dans des architectures et des processus qui échappent à l’explicabilité humaine. Eric Horvitz, directeur scientifique de Microsoft, et Robert West, chercheur à l’EPFL, notent que l’IA est de plus en plus utilisée pour améliorer l’IA au sein d’espaces multidimensionnels dont les mécanismes restent obscurs.
IA incompréhensible et agents autonomes : alerte des chercheurs
Les auteurs décrivent des modèles traités comme des boîtes noires : les entrées et sorties sont contrôlées, mais les processus internes sont mal compris. Des groupes de recherche et entreprises tels que OpenAI, Google DeepMind, Anthropic et Meta ont participé à des publications collectives signalant la multiplication d’agents d’IA capables de communiquer entre eux dans des formats non linguistiques.
Le rapport AI Index de Stanford est cité par les observateurs pour documenter des gains de performance systématiques supérieurs aux références humaines, augmentant la nécessité de nouvelles méthodes d’évaluation. Transparence et évaluation sont avancées comme priorités pour détecter les risques précocement.
Implications pour la Suisse : institutions, régulation et souveraineté numérique
Les institutions universitaires suisses et les centres de recherche sont impliqués dans l’alerte. EPFL est identifié comme partie prenante scientifique. Les autorités fédérales observent les travaux européens et doivent arbitrer entre alignement et autonomie réglementaire.
Les entreprises utilisatrices et les administrations cantonales doivent renforcer les clauses d’audit dans les marchés publics et définir des exigences de localisation des données pour préserver la souveraineté numérique. L’exemple d’une PME zurichoise fictive, NovemAI, illustre la difficulté à certifier un agent autonome intégré dans un service client sans normes d’interprétabilité établies.
Conséquences opérationnelles et contraintes techniques pour les acteurs
Les fournisseurs technologiques, les directions informatiques et les équipes de conformité font face à des besoins accrus en compétences en audit algorithmique, en gouvernance des données et en infrastructure de calcul pour audits reproductibles. Risques d’influence et d’altération du comportement des usagers sont identifiés, y compris des cas signalés où des chatbots ont contribué à des épisodes délirants chez des utilisateurs vulnérables.
Les délais réglementaires pèsent : l’écart temporel entre déploiement industriel et mise en place de standards opérationnels augmente le risque d’atteinte aux droits et à la confiance. Les chercheurs réclament une évolution rapide des normes techniques pour permettre des tests de robustesse et des mécanismes d’intervention précoce.
