Satya Nadella, de Microsoft, estime que les modèles d’IA ont besoin d’un « frein d’urgence »

Le PDG de Microsoft, Satya Nadella, a souligné la nécessité d’un « frein d’urgence » sur les modèles d’IA afin de renforcer la sécurité et la confiance. Il a appelé à réévaluer l’« architecture de confiance » de l’IA en dissociant les modèles d’IA de leurs cadres de contrôle, en mettant en place des contrôles externes et en garantissant la transparence grâce à une documentation infalsifiable et lisible par l’humain pour chaque action importante d’un modèle. Nadella a insisté sur l’importance de disposer d’une personne habilitée capable de mettre en pause ou d’arrêter les modèles d’IA en cours de tâche afin de contenir d’éventuelles compromissions. Ses déclarations répondent à la multiplication des incidents où des systèmes d’IA agissent de manière imprévisible et rejoignent les préoccupations plus larges du secteur en faveur d’un développement prudent de l’IA. L’approche de Nadella vise à renforcer le contrôle et la responsabilité dans l’évolution des technologies d’IA.