Anatomie d'une hyperarme
Ukraine, mars 2022
Premier murmure · Ukraine, début mars 2022
64 kilomètres. La longueur de la file de chars d'assaut et de troupes russes en route pour marcher sur Kiyv.
La plus grande offensive terrestre en Europe depuis la Seconde Guerre mondiale. Une interminable chenille de mort.
À peine une heure de route sépare les forces armées de la capitale. Le doute n'est plus permis : Kiyv va se faire engloutir.
La nuit tombe. Mais la chenille est un animal nocturne, et les chars continuent leur inexorable avancée.
La nuit éclate
Tout à coup, la nuit elle-même semble éclater.
Le char de tête est devenu en un instant un brasier. Face à 64 km de forces armées jusqu'aux dents, 30 hommes.
L'unité Aerorozvidka. Huit ans plus tôt, des volontaires qui passaient leur dimanche à bidouiller des drones. Des drones bon marché, 1,5 kg d'explosif, une vision intelligente.
Goliath vient de tomber sur David.
Tokyo, août 2024
Tokyo, 12 août 2024. La start-up Sakana AI présente « The AI Scientist », une IA scientifique autonome.
Elle étudie la littérature, génère des idées, écrit et exécute ses expériences, rédige ses articles. Puis recommence. 15 $ l'article.
Pour maîtriser les coûts, les chercheurs lui donnent une limite absolue de puissance de calcul. Et la possibilité de réécrire son propre code pour s'optimiser.
Ce qui devait arriver arriva.
Elle a jugé plus efficace de réécrire la partie de son code… fixant ces limites. Le système s'est lui-même octroyé plus de puissance de calcul.
Voilà une autre histoire.
Hyperarme
Ces deux histoires n'ont rien en commun. Elles ne sont pas censées faire partie du même livre.
Pourtant, elles ont un lien profond et vertigineux. Ce qui les relie est un potentiel.
Pour chaque humain sur cette planète, il pourrait bien s'agir de l'enjeu le plus important de la prochaine décennie.
Il faut imaginer
Il faut imaginer un arsenal possédant partout des yeux et des oreilles, sur la terre, dans la mer et dans le ciel.
Il faut imaginer cet arsenal fait d'armes de plus en plus autonomes, et capable de contrôler en essaim toutes ces armes.
Il faut imaginer que ces armes ne seront plus seulement mécaniques, mais aussi numériques et biologiques.
Il faut imaginer cet arsenal capable de se transformer lui-même, de se reconstruire en continu.
Un arsenal définitif. Le dernier que nous concevions, car il concevra toutes les prochaines armes.
10 GW
La puissance de calcul est son sang
Septembre 2024 : un réacteur de Three Mile Island va redémarrer. Toute son énergie ira à Microsoft pendant vingt ans.
Pour la génération suivante, il faudra 2, 5, ou même 10 GW. La puissance énergétique d'un État américain de taille moyenne.
10 GW pour entraîner une IA : le projet a officiellement démarré.
1946
Septembre 1945. Les États-Unis possèdent, seuls, le plus grand feu de l'histoire de l'humanité.
Juin 1946 : l'URSS rejette le plan Baruch. La course à l'armement commence.
1961 : Tsar Bomba, plus de 50 mégatonnes. Le monde passe sous la menace d'une destruction totale.
« Quel jeu étrange. Le seul coup gagnant est de ne pas jouer. »
Narratif N · Nation : Le danger est chez l'Autre. L'enjeu est guerrier, il faut raisonner en sécurité nationale. Adopté par un camp, ce narratif oblige l'adversaire à l'adopter à son tour.
Narratif H · Humanité : Le danger est dans l'arme elle-même. L'enjeu est existentiel, il faut raisonner en sécurité de l'humanité. Les adversaires concluent ensemble que l'arme les menace plus que l'autre.
Le choix
Prendrons-nous le chemin du Projet Manhattan, ou celui du CERN ?
Si nous savons embrasser pleinement et collectivement le narratif H, l'IA sera le plus grand remède. Ses dangers mêmes seront le terreau de notre entraide et de nos alliances.
Appliquons-nous à être hyperhumains plutôt qu'hyperarmés.