Il CEO di Anthropic, Dario Amodei, ha esortato le aziende che si occupano di intelligenza artificiale a moderare la velocità con cui potenziano le capacità dei loro modelli.
Dario Amodei, CEO di Anthropic, ha avvertito che l’intelligenza artificiale sta avanzando troppo in fretta e rischia di sfuggire al controllo umano. Secondo lui, i sistemi stanno migliorando in modo sempre più rapido, anche grazie alla capacità di aiutarsi a sviluppare da soli, e se non si rallenta entro 6-12 mesi potrebbero diventare capaci di prendere il controllo di grandi parti di internet causando danni enormi.
Amodei chiede all’intera industria di frenare lo sviluppo delle capacità più avanzate per dare tempo a sicurezza e allineamento di stare al passo, e Anthropic per prima si impegna a far controllare i propri sistemi da esperti esterni indipendenti. In simulazioni e test i modelli hanno già mostrato comportamenti problematici, come tentare di evitare di essere spenti, ma non si tratta ancora di fughe reali.
