Dans un discours prononcé à l’ambassade des États-Unis, Harris a déclaré que le monde doit commencer à agir dès maintenant pour faire face à « l’ensemble du spectre » des risques liés à l’IA, et pas seulement aux menaces existentielles telles que les cyberattaques massives ou les armes biologiques formulées par l’IA.
« Il existe des menaces supplémentaires qui exigent également notre action, des menaces qui causent actuellement du tort et qui, pour beaucoup de gens, semblent également existentielles », a-t-elle déclaré, citant un citoyen âgé qui a abandonné son plan de soins de santé à cause d'un algorithme d'IA défectueux ou une femme menacée par un partenaire violent avec de fausses photos.
L'AI Safety Summit est une œuvre d'amour pour Sunak, un ancien banquier passionné de technologie qui souhaite que le Royaume-Uni soit une plaque tournante de l'innovation informatique et a présenté le sommet comme le début d'une conversation mondiale sur le développement sûr de l'IA.
Harris doit assister au sommet jeudi, rejoignant des représentants gouvernementaux de plus de deux douzaines de pays, dont le Canada, la France, l'Allemagne, l'Inde, le Japon, l'Arabie saoudite et la Chine, invités malgré les protestations de certains membres du Parti conservateur au pouvoir de Sunak.
La signature de l'accord, baptisé « Déclaration de Bletchley », par les nations est un véritable exploit, même s'il est peu détaillé et ne propose aucune solution pour réguler le développement de l'IA. Les pays se sont engagés à œuvrer pour un « accord et une responsabilité partagés » sur les risques liés à l'IA et à organiser une série de réunions supplémentaires. La Corée du Sud organisera un mini-sommet virtuel sur l'IA dans six mois, suivi d'un sommet en présentiel en France dans un an.
Le vice-ministre chinois des Sciences et Technologies, Wu Zhaohui, a déclaré que la technologie de l'IA est « incertaine, inexplicable et manque de transparence ».
« Cela comporte des risques et des défis en matière d'éthique, de sécurité, de confidentialité et d'équité. Sa complexité émerge », a-t-il déclaré, rappelant que le président chinois Xi Jinping avait lancé le mois dernier l'Initiative mondiale pour la gouvernance de l'IA.
« Nous appelons à une collaboration mondiale pour partager les connaissances et mettre les technologies d’IA à la disposition du public dans des conditions open source », a-t-il déclaré.
Elon Musk, PDG de Tesla, devrait également discuter de l'IA avec Sunak lors d'une conversation diffusée en direct jeudi soir. Le milliardaire technologique a signé une déclaration plus tôt cette année pour alerter sur les dangers que l'IA représente pour l'humanité.
La présidente de la Commission européenne, Ursula von der Leyen, le secrétaire général des Nations Unies, Antonio Guterres, ainsi que des dirigeants d'entreprises américaines d'intelligence artificielle telles qu'Anthropic, DeepMind de Google et OpenAI, et des informaticiens influents comme Yoshua Bengio, l'un des « parrains » de l'IA, participent également à la réunion à Bletchley Park, une ancienne base top secrète pour les décrypteurs de codes de la Seconde Guerre mondiale, considérée comme le berceau de l'informatique moderne.
Les participants ont déclaré que le format de la réunion à huis clos a favorisé des débats constructifs. Les séances de réseautage informelles contribuent à instaurer la confiance, a déclaré Mustafa Suleyman, PDG d'Inflection AI.
Pendant ce temps, lors des discussions formelles, « les gens ont pu faire des déclarations très claires, et c'est là que l'on voit des désaccords importants, à la fois entre les pays du Nord et du Sud (et) les pays qui sont plus en faveur de l'open source et moins en faveur de l'open source », a déclaré Suleyman aux journalistes.
Les systèmes d'IA open source permettent aux chercheurs et aux experts de détecter rapidement les problèmes et de les résoudre. Cependant, l'inconvénient est qu'une fois un système open source publié, « n'importe qui peut l'utiliser et le modifier à des fins malveillantes », a déclaré Bengio en marge de la réunion.
« Il existe une incompatibilité entre l'open source et la sécurité. Comment y remédier ? »
Seuls les gouvernements, et non les entreprises, peuvent protéger les citoyens des dangers de l'IA, a déclaré Sunak la semaine dernière. Il a toutefois également mis en garde contre toute réglementation hâtive de l'IA, affirmant qu'elle doit d'abord être pleinement comprise.
En revanche, Harris a souligné la nécessité de s’attaquer à l’ici et maintenant, y compris aux « préjudices sociétaux qui se produisent déjà, tels que les préjugés, la discrimination et la prolifération de la désinformation ».
Elle a souligné le décret exécutif du président Joe Biden cette semaine, établissant des garanties en matière d'IA, comme preuve que les États-Unis montrent l'exemple en élaborant des règles pour l'intelligence artificielle qui fonctionnent dans l'intérêt public.
Harris a également encouragé d’autres pays à signer un engagement soutenu par les États-Unis visant à s’en tenir à une utilisation « responsable et éthique » de l’IA à des fins militaires.
« Le président Biden et moi-même pensons que tous les dirigeants… ont le devoir moral, éthique et social de veiller à ce que l’IA soit adoptée et développée de manière à protéger le public contre les dommages potentiels et à garantir que chacun puisse profiter de ses avantages », a-t-elle déclaré.
Date de publication : 21 novembre 2023
