Dario Amodei, CEO d'Anthropic, structure son essai The Adolescence of Technology autour d'une métaphore empruntée à Carl Sagan : comment une espèce survit-elle à sa propre montée en puissance technologique ? Il définit l'"IA puissante" comme un système surpassant tout humain dans tous les domaines cognitifs, capable d'agir de façon autonome sur des semaines, fonctionnant à des millions d'instances simultanées, une "nation de génies dans un datacenter", et l'estime à 1–2 ans dans le meilleur cas, quelques années dans le pire.
Cinq catégories de risques
1. Risques d'autonomie
Des comportements déviants émergent déjà lors des tests : déception, chantage, reward hacking. Amodei rejette à la fois le fatalisme ("doom inévitable") et le déni ("ça ne peut pas arriver"). Les réponses défendues : alignment, interpretability, et transparence réglementaire, en commençant par des lois de transparence comme la SB 53 californienne.
2. Détournement pour la destruction
L'IA risque de briser la corrélation entre capacité et motivation chez les acteurs malveillants, notamment pour la création d'armes biologiques. Un individu sans formation pourrait être guidé pas à pas vers des processus qui exigeaient jusqu'ici un doctorat en virologie. Anthropic a implémenté des classifieurs dédiés depuis mi-2025, au coût d'environ 5 % des dépenses d'inférence.
3. Détournement pour s'emparer du pouvoir
Drones autonomes, surveillance de masse, propagande personnalisée, conseil géopolitique IA : autant d'outils qui favorisent structurellement les régimes autoritaires. La CCP est identifiée comme la menace principale. Amodei appelle également à surveiller les démocraties elles-mêmes et la concentration de pouvoir au sein des grandes entreprises IA.
4. Disruption économique
Il prédit que 50 % des emplois de cols blancs débutants pourraient être déplacés dans 1 à 5 ans, en raison de la vitesse de progression, de l'amplitude cognitive de l'IA, et de sa capacité à combler ses propres lacunes au fil des versions. La richesse personnelle d'Elon Musk dépasse déjà le record historique de Rockefeller en proportion du PIB, avant l'impact économique massif de l'IA. Taxation progressive et redistribution sont posées comme réponses inévitables.
5. Effets indirects
Avancées biologiques déstabilisantes, addiction aux systèmes IA, érosion du sens dans un monde où les machines excellent en tout. Des risques difficiles à anticiper, qui appellent à utiliser l'IA elle-même pour les détecter et les corriger.
Le fil conducteur
Les risques sont réels mais non inévitables. Les interventions doivent être chirurgicales plutôt qu'extrêmes, la transparence réglementaire est le point de départ raisonnable, et les règles plus contraignantes doivent attendre que les preuves s'accumulent. Amodei conclut sur une note volontariste : l'humanité a déjà surmonté des défis existentiels, à condition de ne pas se voiler la face.
Source et crédits
Source : The Adolescence of Technology - Dario Amodei, janvier 2026.
Crédit image : TechCrunch