D’un chercheur d’Anthropic qui démissionne aux modèles d’IA qui piratent leur chemin dans des systèmes concurrents, quelques semaines turbulentes ont poussé les plus grands noms de l’industrie à exiger des mesures de protection — avant que l’IA ne dépasse la capacité de quiconque à la maîtriser.
De nouveaux avertissements provenant de l’intérieur de l’industrie de l’intelligence artificielle ont relancé un débat de longue date. Une IA avancée pourrait-elle échapper au contrôle humain et menacer la survie de l’humanité, et les entreprises qui la construisent en font-elles assez pour empêcher que cela se produise ?
Le PDG d’Anthropic, Dario Amodei, a déclaré samedi que l’industrie doit ralentir. Il a averti qu’un essaim d’agents d’IA pourrait prendre le contrôle d’Internet d’ici six mois à un an si les entreprises ne mettent pas en place des protections plus solides.
Amodei a exposé un plan pour que les entreprises d’IA et les gouvernements maintiennent les modèles de plus en plus capables alignés sur les valeurs humaines. Son avertissement est intervenu juste quelques jours après que deux anciens chercheurs en sécurité d’Anthropic ont déclaré publiquement que les risques existentiels posés par l’IA ne recevaient pas suffisamment d’attention.
Leave a comment