Eco-Système
Alors que l'IA semble devenir chaque jour plus puissante, l'une des principales personnes chargées de la rendre plus intelligente affirme qu'elle pourrait bientôt devenir autonome et se répliquer d'elle-même.
Lors d'un entretien avec Ezra Klein, du New York Times , le PDG d'Anthropic, Dario Amodei, a évoqué le "développement responsable" de la technologie et expliqué qu'en l'absence de gouvernance, elle pourrait commencer à, eh bien, se reproduire.
Comme M. Amodei l'a expliqué à M. Klein, Anthropic utilise des niveaux de biosécurité de laboratoires de virologie comme analogie pour l'IA. Selon lui, le monde en est actuellement à l'ASL 2 - et l'ASL 4, qui inclurait l'"autonomie" et la "persuasion", est peut-être sur le point d'être atteint
"L'ASL 4 concernera davantage, du point de vue de l'utilisation abusive, le fait de permettre à des acteurs étatiques d'accroître considérablement leurs capacités, ce qui est bien plus difficile que de donner des moyens à des individus isolés", a déclaré M. Amodei. "Nous craignons donc que la Corée du Nord, la Chine ou la Russie puissent améliorer considérablement leurs capacités offensives dans divers domaines militaires grâce à l'IA, ce qui leur donnerait un avantage substantiel sur le plan géopolitique.
L'IA autonome
Toutefois, lorsqu'il s'agit d'autonomie, ses prédictions sont encore plus audacieuses.
"Diverses mesures de ces modèles, poursuit-il, sont assez proches de la capacité à se dupliquer et à survivre de manière autonome".
Lorsque Klein lui a demandé combien de temps il faudrait pour atteindre ces différents niveaux de menace, Amodei - qui a déclaré avoir l'habitude de penser " de manière exponentielle " - a déclaré qu'il pensait que le niveau " répliquer et survivre de manière autonome " pourrait être atteint " entre 2025 et 2028 ".
"Je parle vraiment du futur proche ici. Pas de quelque chose qui arrivera dans 50 ans", a déclaré le PDG d'Anthropic. "Dieu m'accorde la chasteté, mais pas maintenant. Cependant, 'pas maintenant' ne veut pas dire quand je serai vieux et grisonnant. Je pense que cela pourrait être à court terme".
Amodei est une figure importante dans le domaine de l'intelligence artificielle. En 2021, lui et sa sœur Daniela ont quitté OpenAI suite à des désaccords stratégiques apparus après la création de GPT-3 (que le PDG et cofondateur a contribué à développer) et le partenariat de l'entreprise avec Microsoft. Peu de temps après, la fratrie a fondé Anthropic avec d'autres anciens d'OpenAI pour poursuivre leurs efforts de développement responsable.
"Je ne sais pas", a-t-il poursuivi lors de son entretien avec Klein, "j'ai peut-être tort. Mais je pense que cela pourrait arriver à court terme."
Si les discours apocalyptiques sur l'IA sont monnaie courante de nos jours, la perspective d'initié d'Amodei donne beaucoup de poids à son argument et rend la mission d'Anthropic, "garantir que l'IA transformationnelle aide les gens et la société à s'épanouir", d'autant plus noble.
source :
https://futurism.com/the-byte/anthropic-ceo-ai-replicate-survive