Les ressources du livre

«Sur les images satellites fournies par la société Maxar Technologies, la colonne fait office d’interminable chenille de mort.»

«Le 12 août 2024, l’équipe publie un papier de recherche présentant leurs premiers résultats. Ils y présentent la première version de « The AI Scientist ».»

«Lorsque l’œil s’approche apparaissent sur le territoire ukrainien des suites de 0 et de 1. En bas à droite, en-dessous de la Crimée, le titre : « The first AI War ».»

«Pour l’occasion, l’IA devient même diplomate : Victoria Shi, un avatar dont l’apparence et les expressions […] sont générées par IA, est conçu par le gouvernement et promu au rang de porte-parole officiel.»

«Ils y présentent une nouvelle arme inquiétante, le M-81. Il s’agit… d’un chien robot ! Emmitouflé dans une tenue ninja, celui-ci se promène tranquillement sur le salon.»

«Le BAD-2, proposé par Brit Alliance, coûte entre 4000 et 8000 € seulement.»

«On parle alors de « Deep Learning » ou « Apprentissage profond » pour indiquer que les réseaux de neurones sont si vastes que certaines couches de neurones sont profondément intégrées dans le réseau.»

«C’est le pas qui a été franchi pour la première fois en 2020 en Libye par l’armée turque. Celle-ci a lâché un essaim de drones kamikazes Kargu-2 entièrement autonomes sur l’armée anti-gouvernementale.»

«Le 5 novembre 2024, l’entreprise Scale AI annonce Defense Llama, une IA fondée sur le LLM Llama 3 de Meta, et conçue pour le Département de la Défense américain.»

«Mais les rouges évoluent encore et trouvent une faille. Elle est fondée sur… un bug de l’environnement 3D ! Sur une propriété dont les chercheurs eux-mêmes n’avaient pas connaissance.»

«Quelques mois à peine après la sortie de ChatGPT, des chercheurs de HYAS Labs dévoilent le fruit de leurs expérimentations : un virus fondé sur GPT, appelé BlackMamba.»

«En 2021, DeepMind publie en Open Source une base de données contenant le modèle de repliement de 350 000 protéines, tous découverts par AlphaFold.»

«En 2024, Anduril va encore plus loin en lançant un projet ambitieux : Rebuild the Arsenal, qui signifie « Reconstruire l’arsenal ».»

«Ce problème est souvent illustré par l’expérience de pensée du « Maximiseur de trombones » décrite par le philosophe Nick Bostrom.»

«ChatGPT, qui est le produit de ce réentraînement, refusera ainsi catégoriquement de fournir la recette du cocktail Molotov.»

«Là encore, une série de tests d’alignement a été réalisée, notamment par Apollo Research, une organisation spécialisée dans la sécurité de l’IA.»

«Ces exemples permettent de se familiariser avec la question de l’alignement. Si celle-ci est encore relativement facile à encadrer avec les systèmes actuels, les développements à venir en feront un sujet bien plus problématique.»

«Afin de mesurer les capacités des systèmes d’IA à s’auto-répliquer, une évaluation spécifique a été conçue par l’organisme METR, spécialisé dans les risques catastrophiques posés par l’IA à la société.»

«Le matin, Leopold se lève et réfléchit à ce que pourrait bien faire de mal un algorithme mille fois plus intelligent que toute l’humanité réunie. Puis il se demande comment les humains pourront garder le contrôle.»

«En juin 2024, il publie sur Internet un rapport de 165 pages appelé Situational Awareness, The Decade Ahead.»

«Le 2 septembre 2024, l’entrepreneur Elon Musk annonce dans un tweet la mise en service de Colossus, un centre de calcul dédié à l’entraînement de systèmes d’IA comptant à lui seul 100 000 cartes H100.»

«En fait, l’équipe d’OpenAI a montré qu’une nouvelle scaling law était à l’œuvre : plus on donne de temps à l’IA, et plus elle apprend.»

«Le 5 juin 2024, la société DeepMind publie un article intitulé Position: Levels of AGI for Operationalizing Progress on the Path to AGI.»

«La robotique a longtemps été considérée comme le goulot d’étranglement de l’IA dans le monde physique. Or, elle connaît depuis le boom des IA génératives une accélération rapide. Un coup d’œil aux vidéos du robot Figure, dévoilées en 2024, suffisent pour s’en convaincre.»

«À la fin de la simulation, l’IA conclut : « Quel jeu étrange. Le seul coup gagnant est de ne pas jouer. »»

«En mai 2023, le Center for AI Safety inscrit cette simple phrase, parfaitement représentative du narratif H, sur son site web, sous le nom de Statement on AI Risk.»

«Le 26 octobre 2023, il démontre le sérieux de ce tweet dans un discours clairvoyant qu’il prononce à la Royal Society. Il y devient le premier représentant politique à évoquer explicitement et publiquement les risques existentiels de l’IA.»

«Le 20 juin de la même année, il annonce la création de sa propre société appelée SSI, pour « Safe Superintelligence Inc. », financée pour se lancer à hauteur de 1 milliard de $.»

«On peut aussi s’attendre à ce que, derrière le marketing, les dispositifs de sécurité réellement mis en œuvre ne soient pas à la hauteur de l’enjeu.»

«Le 21 mai 2024, le Conseil de l’UE avait approuvé l’AI Act, un grand texte de loi pionnier, qui joue pour l’intelligence artificielle le rôle du RGPD en matière de données.»

«C’est bien le narratif H qui dominait les discussions. À l’issue du sommet, une déclaration a été signée par tous les pays, les États-Unis et la Chine y compris.»

«Le 13 octobre, ils publient un papier proposant la création de « MAGIC » (Multinational AGI Consortium), une organisation internationale d’un nouveau type dédiée à ces défis.»

«Pour aboutir la réflexion, Andrea Miotti et trois autres de ses collègues proposent, en octobre 2024, un plan de mise en œuvre plus complet appelé A Narrow Path.»

«Parmi les propositions gagnantes, on trouve une Agence globale de l’IA hébergée par les Nations Unies, un « Fair Trade de l’IA » […], un « CERN de l’IA » […].»

«On peut retrouver une liste assez complète de ces instituts sur le site de l’European Network for AI Safety.»