ZÀ la fin du sommet britannique sur l'IA, huit des plus grandes entreprises technologiques du monde ont signé une déclaration décrite par le gouvernement de Londres comme une « étape importante » destinée à prévenir les risques pour la sécurité nationale ou sociale causés par l'intelligence artificielle. Les entreprises acceptent que le gouvernement teste la sécurité de leurs programmes d’intelligence artificielle – mais seulement volontairement. Les signataires sont OpenAI, Google DeepMind, Anthropic, Amazon, Inflection AI, Mistral AI, Microsoft et la société mère de Facebook, Meta.

Ce faisant, ils ont convenu de développer des tests des derniers modèles et applications d’IA pour détecter les risques de sécurité en collaboration avec plusieurs États « partageant les mêmes idées ». Ces États comprennent les États-Unis, la Grande-Bretagne, l'Allemagne, la France, l'Italie ainsi que la Commission européenne, l'Australie et Singapour.

Sunak : accord historique

Le gouvernement britannique a déclaré que, pour la première fois, les entreprises reconnaissaient que les États devaient jouer un rôle dans les tests de sécurité des modèles d'IA les plus modernes. « Jusqu'à présent, les seules personnes qui ont testé la sécurité des nouveaux modèles d'IA étaient les entreprises qui les développent », a déclaré le Premier ministre Rishi Sunak. « Nous ne devrions pas compter sur eux pour noter leurs propres devoirs. »

Sunak a parlé d’un « accord historique » selon lequel, pour la première fois, les gouvernements et les sociétés d’IA travailleraient ensemble pour tester la sécurité des modèles avant et après leur publication. Il espère une sorte de comité international sur l’IA sur le modèle du Conseil des Nations Unies sur les changements climatiques (GIEC).

Pendant ce temps, Elon Musk, le patron de Tesla, a également averti qu'il devait y avoir des interrupteurs d'arrêt d'urgence pour arrêter les robots contrôlés par l'IA. Il est possible qu'ils mènent leur propre vie et se retournent contre les humains comme dans les films de science-fiction, à la manière de Terminator.

Le gouvernement britannique a voulu donner l'exemple à l'échelle mondiale avec son sommet sur l'IA à Bletchley Park. Les milieux gouvernementaux allemands ont déclaré que la déclaration des entreprises concernant les tests volontaires était bonne, mais pas suffisante. Cela ne pourrait être que la première étape. À terme, il faudra des tests obligatoires. Aux États-Unis, le président Biden a déjà décidé de rendre les tests obligatoires par un règlement. L’« AI Act » européen, que la Commission a proposé en 2021 et qui vise à achever si possible cette année, sera responsable de la réglementation dans l’UE.

L’approche du règlement de l’UE sur la réglementation de l’IA consiste à créer différentes classes de risque et à établir des normes de réglementation. Mais d'autres critiquent également le fait que la documentation bureaucratique prévue serait trop coûteuse, en particulier pour les petites entreprises d'IA et les start-ups, et que les investisseurs pourraient donc préférer investir dans des start-ups en dehors de l'UE.

Nouveaux « Instituts de sécurité de l'IA »

En Grande-Bretagne et aux États-Unis, le gouvernement vient d’annoncer la création d’un « AI Safety Institute » chargé d’élaborer des normes de test et d’évaluation. Ian Hogarth devient président de l'institut britannique. Demis Hassabis, co-fondateur et directeur de Google DeepMind, a salué le fait que la Grande-Bretagne souhaite accélérer les travaux de tests et d'évaluations avec l'institut.

Les 28 pays représentés au sommet de l'IA à Bletchley Park souhaitent également soutenir l'éminent leader d'opinion canadien en IA Yoshua Bengio, qui est également conseiller du gouvernement britannique, avec un rapport de recherche sur l'état de la science. « Le développement sûr et responsable de l'IA est un sujet de préoccupation pour nous tous », a déclaré Bengio. Sunak a déclaré lors du sommet que « rien ne transformera davantage l’avenir de nos enfants et petits-enfants que les avancées technologiques telles que l’IA ».