di Mike Whitney su The Unz Review – Traduzione a cura di Old Hunter
Sempre più persone stanno iniziando a rendersi conto che l’intelligenza artificiale è una tecnologia ad alto rischio che potrebbe portare allo sterminio della specie. Potrebbe sembrare un’esagerazione, ma se seguite da vicino gli sviluppi dell’intelligenza artificiale, vedrete che è una valutazione accurata. L’intelligenza artificiale è una tecnologia potenzialmente letale che può essere utilizzata per il bene dell’umanità o per spianare la strada a morte e distruzione inimmaginabili. Date un’occhiata a questo estratto da un articolo su Scientific American :
Un sondaggio del 2023 condotto tra gli esperti di intelligenza artificiale ha rilevato che il 36 percento teme che lo sviluppo dell’intelligenza artificiale possa provocare una “catastrofe di livello nucleare”. Quasi 28.000 persone hanno firmato una lettera aperta scritta dal Future of Life Institute, tra cui Steve Wozniak, Elon Musk, i CEO di diverse aziende di intelligenza artificiale e molti altri importanti tecnologi, chiedendo una pausa di sei mesi o una moratoria sullo sviluppo di nuovi sistemi di intelligenza artificiale avanzati… Perché siamo tutti così preoccupati? In breve: lo sviluppo dell’intelligenza artificiale sta procedendo troppo velocemente. Ecco perché l’intelligenza artificiale potrebbe essere estremamente pericolosa, che sia cosciente o meno, Scientific American
Elon Musk ha utilizzato la sua piattaforma su X per amplificare le sue preoccupazioni sull’IA e per sottolineare la necessità di procedere con cautela per ridurre al minimo i rischi. Purtroppo, le preoccupazioni di Musk sono state ignorate dall’amministrazione Trump che vede l’IA come l’arma di cui ha bisogno per mantenere la posizione dominante dell’America nell’ordine mondiale. Il conflitto che si sta preparando tra Trump e Musk su questo argomento chiave non è ancora esploso alla vista del pubblico, ma possiamo essere ragionevolmente certi che lo scontro avrà luogo nel prossimo futuro. Se consideriamo, ad esempio, l’allarmante discorso del vicepresidente JD Vance all’AI Summit in Francia questa settimana, in cui il vicepresidente ha respinto categoricamente la spinta per una regolamentazione prudente o una supervisione governativa, mentre ha definito le persone che prendono sul serio tali preoccupazioni come “troppo timide e troppo avverse al rischio”, allora non abbiamo bisogno di chiederci quale sarà l’approccio dell’amministrazione. Infatti, Vance lo ha riassunto per il suo pubblico in una frase scioccante: “Il futuro dell’IA non sarà vinto torcendosi le mani sulla sicurezza…”
Quindi, adottare misure sensate per evitare un’estinzione di massa è un atto di “torsione delle mani”?
Naturalmente, non siamo d’accordo con questa visione. E come abbiamo notato in precedenza, oltre 28.000 persone hanno già firmato una lettera che richiede una moratoria di sei mesi sullo sviluppo avanzato dell’intelligenza artificiale. Dobbiamo supporre che queste 28.000 persone, tutte con più esperienza di Vance in materia di intelligenza artificiale, siano semplicemente dei timorosi che si torcono le mani e le cui opinioni non sono fondate su una comprensione approfondita dell’argomento e della minaccia che rappresenta per l’umanità?
E quali sono esattamente queste minacce? Possono essere riassunte? Ecco altro da Scientific American :
Gli algoritmi di intelligenza artificiale raggiungeranno presto un punto di rapido auto-miglioramento che minaccia la nostra capacità di controllarli e pone un grande rischio potenziale per l’umanità… Una volta che l’IA potrà migliorare sé stessa, il che potrebbe avvenire tra non più di qualche anno, e potrebbe in effetti essere già qui ora, non abbiamo modo di sapere cosa farà l’IA o come potremo controllarla. Questo perché l’IA superintelligente… sarà in grado di fare a gara con i programmatori e con qualsiasi altro essere umano manipolando gli umani per fare la sua volontà; avrà anche la capacità di agire nel mondo virtuale attraverso le sue connessioni elettroniche e di agire nel mondo fisico attraverso corpi robotici… Ecco perché l’IA potrebbe essere estremamente pericolosa, che sia cosciente o meno, Scientific American
Le preoccupazioni di Musk sono ancora più esplicite. Ecco un breve riassunto fornito sulla sua entità AI chiamata Grok: (nota: in risposta alla domanda: “Cosa preoccupa di più Musk riguardo all’AI?” )
C’è una preoccupazione significativa su come l’IA, in particolare forme potenti come AGI (Artificial General Intelligence), dovrebbe essere sviluppata e controllata. Musk ha espresso sfiducia nei confronti della leadership di OpenAI, in particolare Sam Altman, riguardo alla gestione di tale tecnologia. Ha indicato una preferenza per il ritorno di OpenAI alle sue radici incentrate sulla sicurezza e open source, che ritiene si allineerebbero meglio con l’interesse pubblico più ampio piuttosto che con le motivazioni di profitto aziendale…..
(Grok risponde a questa domanda: cosa preoccupa di più Musk dell’intelligenza artificiale:)
Rischio esistenziale per l’umanità: Musk ha avvertito che l’IA potrebbe eliminare o limitare la crescita dell’umanità, evidenziando il rischio che l’IA diventi “enormemente più intelligente degli umani” e potenzialmente porti a scenari in cui l’IA potrebbe decidere di sbarazzarsi dell’umanità o di sottoporla a stretto controllo. Questa preoccupazione è paragonata da Musk ai pericoli della fisica nucleare, dove il potere può essere utilizzato sia per risultati benefici che catastrofici… Musk ha sostenuto la regolamentazione governativa dell’IA, esprimendo stress per l’avanzamento della tecnologia senza adeguati quadri normativi. Teme che l’IA possa portare alla “distruzione della civiltà” se non gestita correttamente, proponendo la creazione di un “comitato di approfondimento” per supervisionare lo sviluppo dell’IA (fonte: risultati web da cnn.com, foxbusiness.com e reuters.com).
Il potenziale dell’intelligenza artificiale per superare in astuzia gli esseri umani: Ha ripetutamente menzionato il rischio che l’IA superi l’intelligenza umana, portando a scenari in cui l’IA potrebbe non allinearsi con i valori o gli interessi umani. Musk ha citato questo come uno dei maggiori rischi per la civiltà, paragonandolo all’evocazione di un demone… Musk ha anche espresso preoccupazione per l’uso dell’intelligenza artificiale per… la proliferazione di sistemi di armi autonomi, che potrebbero portare a escalation indesiderate nei conflitti.
Sicurezza ed etica: Musk sostiene uno sviluppo attento dell’IA, suggerendo che i protocolli di sicurezza dovrebbero essere stabiliti prima di passare a sistemi di IA più potenti. Ha chiesto un quadro normativo simile a quelli per l’aviazione o i prodotti farmaceutici per garantire la sicurezza dell’IA. (Grok)
Le preoccupazioni di Musk, che emergono dalla sua vasta esperienza tecnologica, sono chiaramente in conflitto con quelle di JD Vance e dell’amministrazione che considerano la regolamentazione come una forma di strangolamento burocratico che soffoca l’innovazione. Ecco parte di ciò che Vance ha detto all’AI Summit di Parigi martedì:
Quando conferenze come questa si riuniscono per discutere di una tecnologia all’avanguardia, spesso penso che la nostra risposta sia quella di essere troppo timidi, troppo avversi al rischio. Ma non ho mai incontrato una svolta nella tecnologia che ci abbia portato così chiaramente a fare esattamente l’opposto. La nostra amministrazione, l’amministrazione Trump, ritiene che l’IA avrà innumerevoli applicazioni rivoluzionarie… E limitarne lo sviluppo ora non solo avvantaggerebbe ingiustamente i titolari dello spazio, ma significherebbe anche paralizzare una delle tecnologie più promettenti che abbiamo visto da generazioni.
Questa amministrazione garantirà che la tecnologia AI americana continui a essere il gold standard in tutto il mondo, e noi siamo il partner di scelta per altri, paesi stranieri e certamente aziende mentre espandono il loro uso dell’AI. Numero due, crediamo che un’eccessiva regolamentazione del settore AI potrebbe uccidere un’industria trasformativa proprio mentre sta decollando, e faremo ogni sforzo per incoraggiare politiche AI pro-crescita. E mi piace vedere quel sapore di deregolazione farsi strada in molte delle conversazioni di questa conferenza. Numero tre, siamo fermamente convinti che l’AI debba rimanere libera da pregiudizi ideologici e che l’AI americana non sarà cooptata in uno strumento per la censura autoritaria. …
Gli Stati Uniti d’America sono leader nell’intelligenza artificiale e la nostra amministrazione intende mantenerla tale. Gli USA possiedono tutti i componenti dell’intero stack dell’intelligenza artificiale, tra cui progettazione avanzata di semiconduttori, algoritmi di frontiera e, naturalmente, applicazioni trasformative… E per salvaguardare il vantaggio dell’America, l’amministrazione Trump assicurerà che i sistemi di intelligenza artificiale più potenti siano costruiti negli USA con chip progettati e realizzati in America. (L’America deve dominare l’intelligenza artificiale perché l’intelligenza artificiale fornisce i mezzi per il dominio.)
L’America vuole collaborare con tutti voi e vogliamo imbarcarci nella rivoluzione dell’IA che ci attende con uno spirito di apertura e collaborazione. Ma per creare quel tipo di fiducia, abbiamo bisogno di regimi normativi internazionali che favoriscano la creazione di tecnologia dell’IA anziché strangolarla. E abbiamo bisogno che i nostri amici europei in particolare guardino a questa nuova frontiera con ottimismo anziché con trepidazione. (Nota: ignorate i rischi, al diavolo i siluri)… con il recente ordine esecutivo del Presidente sull’intelligenza artificiale, stiamo sviluppando un piano d’azione per l’intelligenza artificiale che evita un regime normativo eccessivamente precauzionale, garantendo al contempo che tutti gli americani traggano vantaggio dalla tecnologia e dal suo potenziale trasformativo…
Preoccupazioni sulle normative internazionali
Gli innovatori statunitensi di tutte le dimensioni sanno già cosa significa avere a che fare con onerose norme internazionali…
Signore e signori… Il futuro dell’intelligenza artificiale non si otterrà tormentandosi per la sicurezza…
Ora, in questo momento, ci troviamo di fronte alla straordinaria prospettiva di una nuova rivoluzione industriale, paragonabile all’invenzione della macchina a vapore o dell’acciaio Bessemer, ma non si verificherà mai se l’eccessiva regolamentazione impedirà agli innovatori di assumersi i rischi necessari per far progredire la palla… TRASCRIZIONE: Discorso del vicepresidente JD Vance al Paris AI Summit 2025 , Singju Post
L’intera presentazione di Vance è stata poco più di un’arringa anti-regolamentazione progettata per sminuire chiunque non si attenesse alla sua filosofia “Al diavolo i siluri, tutti avanti a tutta forza”. Ciò che il discorso mostra è che il team di Trump ritiene che chiunque esprima il minimo sostegno a una modesta supervisione (di questa tecnologia potenzialmente letale) sia un debole che cerca di bloccare la strada verso il futuro. Ma ciò che sorprende di più nell’analisi di Vance è che sembra essere l’esatto opposto di quella di Musk. Musk non ha espresso alcuna opposizione alla regolamentazione o alla supervisione; anzi, il contrario. Come abbiamo già dimostrato, Musk ritiene fermamente che dobbiamo raggiungere un consenso internazionale su come l’IA dovrebbe essere regolamentata per garantire che le cose non sfuggano di mano.
Vale la pena notare che Elon Musk ha fatto un’offerta di 97,4 miliardi di dollari la scorsa settimana per riacquistare OpenAI dal suo attuale proprietario, Sam Altman, dicendo che Altman aveva abbandonato la missione originale del sistema di rimanere un open source, senza scopo di lucro. Al momento, OpenAI è una “società closed source, con il massimo profitto, effettivamente controllata da Microsoft”, un completo capovolgimento della visione di Musk di uno strumento di apprendimento trasparente (orientato alla comunità) che potrebbe essere utilizzato a beneficio dell’umanità. L’offerta di quasi 100 miliardi di dollari sottolinea l’importanza che Musk attribuisce allo sviluppo dell’intelligenza artificiale, dati i rischi che pone per l’umanità. In altre parole, vuole riacquistare OpenAI perché non considera il suo attuale proprietario “affidabile”.
Elon Musk ha detto a Tucker Carlson: “Non mi fido di Sam Altman e non credo che vogliamo che l’intelligenza artificiale più potente del mondo sia controllata da qualcuno di cui non ci si può fidare”.
Vale anche la pena notare che un numero crescente di esperti è fuggito da OpenAI lamentandosi del fatto che l’azienda non sta prendendo misure per affrontare le loro preoccupazioni sulla sicurezza. Tra questi ci sono Daniel Kokotajlo, William Saunders, Ilya Sutskever, Jan Leike, Gretchen Krueger, Leopold Aschenbrenner, Pavel Izmailov e Cullen O’Keefe, Miles Brundage e Rosie Campbell.
Perché così tanti professionisti ben pagati stanno abbandonando OpenAI, pur mettendo in guardia dai problemi di sicurezza?
Perché, come ha affermato candidamente l’ex ricercatore di intelligenza artificiale Steve Adler: i laboratori OpenAI stanno correndo una “scommessa molto rischiosa” con l’umanità nel mezzo della corsa verso l’AGI.
Ecco in sintesi. Queste persone credono semplicemente che sia immorale per loro partecipare a un progetto che mette a rischio la specie. Ecco altro dalla BBC :
Il Regno Unito e gli Stati Uniti non hanno firmato un accordo internazionale sull’intelligenza artificiale (IA) in un summit globale a Parigi. La dichiarazione, firmata da decine di paesi tra cui Francia, Cina e India, promette un approccio “aperto”, “inclusivo” ed “etico” allo sviluppo della tecnologia…..
La dichiarazione firmata da 60 paesi stabilisce l’ambizione di ridurre i divari digitali promuovendo l’accessibilità all’intelligenza artificiale e garantendo che lo sviluppo della tecnologia sia “trasparente”, “sicuro” e “protetto e affidabile”.
…. Il vicepresidente degli Stati Uniti JD Vance ha detto ai delegati a Parigi che troppa regolamentazione dell’intelligenza artificiale (IA) potrebbe “uccidere un’industria trasformativa proprio mentre sta decollando”. Vance ha detto ai leader mondiali che l’IA era “un’opportunità che l’amministrazione Trump non sprecherà” e ha affermato che “le politiche pro-crescita dell’IA” dovrebbero essere prioritarie rispetto alla sicurezza…..
Tuttavia, UKAI, un ente commerciale che rappresenta le aziende che operano nel settore in tutto il paese, ha affermato che si è trattato della decisione giusta. “Mentre UKAI concorda sul fatto che essere ecologicamente responsabili sia importante, ci chiediamo come bilanciare questa responsabilità con le crescenti esigenze del settore dell’intelligenza artificiale di avere più energia”, ha affermato il suo amministratore delegato Tim Flagg.
“UKAI accoglie con cautela il rifiuto del Governo di firmare questa dichiarazione come un’indicazione che esplorerà le soluzioni più pragmatiche che UKAI ha richiesto, mantenendo le opportunità di lavorare a stretto contatto con i nostri partner statunitensi”, ha aggiunto. Regno Unito e Stati Uniti rifiutano di firmare la dichiarazione internazionale sull’IA , BBC
A giudicare dalla sua pagina web, l’UKAI sembra essere un gruppo industriale/lobby che potrebbe aver influenzato la decisione di Vance di respingere la Dichiarazione di Parigi sull’intelligenza artificiale. Ecco un estratto dalla loro pagina web:
UKAI rappresenta aziende di tutte le dimensioni interessate all’IA, dalle startup ai leader del settore, assicurando che le loro voci siano ascoltate nella definizione delle politiche. Lavorando a stretto contatto con il governo e gli enti regolatori del Regno Unito, UKAI garantisce che le politiche sull’IA favoriscano l’innovazione e la crescita aziendale senza soffocare il progresso. UKAI è il ponte tra i decisori politici e la comunità dell’IA, offrendo una piattaforma per il feedback su legislazione, programmi e iniziative. UKAI crede nel ruolo trasformativo che l’IA può svolgere nello sviluppo sociale ed economico del Regno Unito. UKAI
Quindi, questo gruppo industriale britannico ha influenzato la posizione dell’amministrazione sulla Dichiarazione; è questo che sta succedendo? E se lo ha fatto, allora che ruolo hanno avuto i giganti della tecnologia nella Silicon Valley? Abbiamo posto questa domanda a Grok:
“La grande tecnologia ha spinto JD Vance a opporsi alla Dichiarazione di Parigi sull’intelligenza artificiale”:
Risposta: il background di Vance nella Silicon Valley e i suoi finanziamenti da miliardari della tecnologia come Peter Thiel suggeriscono che ha forti legami con i leader della tecnologia. Questi legami potrebbero influenzare le sue prospettive politiche, ma non è esplicitamente dichiarato alcun collegamento diretto con la Big Tech che lo fa pressione contro la dichiarazione sull’IA (NPR )….. Mentre le posizioni di Vance sembrano allinearsi con gli interessi della Big Tech nell’evitare regolamentazioni severe, le informazioni disponibili non confermano esplicitamente che queste aziende abbiano influenzato direttamente la sua decisione in merito alla dichiarazione sull’IA . Le sue azioni potrebbero essere viste come parte di una posizione politica più ampia sulla regolamentazione della tecnologia, influenzata dalle sue convinzioni politiche, dal suo ruolo nell’amministrazione Trump e dalle sue precedenti interazioni con l’industria tecnologica piuttosto che da una spinta specifica delle aziende Big Tech. Tuttavia, data la sua critica alla “regolamentazione eccessiva”, è ragionevole dedurre che le sue opinioni siano almeno in sintonia con la posizione generale della Big Tech sulle questioni normative. Grok
In breve, non possiamo ancora verificare se il rifiuto dell’amministrazione della Dichiarazione di Parigi sull’intelligenza artificiale sia stata una risposta agli sforzi di lobbying dei giganti della Silicon Valley. Ma pensiamo che sia altamente probabile che queste aziende siano state almeno consultate sulla questione prima che la decisione fosse presa.
In ogni caso, il Summit di Parigi sull’IA è stato in gran parte una stravaganza di pubbliche relazioni che è fallita miseramente a causa del rifiuto scioccante di Vance di firmare la Dichiarazione. Tenete presente che la Dichiarazione non contiene regolamenti onerosi o obblighi vincolanti. È semplicemente un’espressione di supporto per alcuni principi generalizzati che sono stati inventati per costruire la fiducia del pubblico. Invece di mostrare la volontà di lavorare in collaborazione con altri leader mondiali su una questione di sicurezza globale, l’amministrazione Trump ha deciso di mettergli un dito nell’occhio mentre trasmetteva la sua intenzione di sviluppare l’IA in qualsiasi modo ritenesse opportuno. Il fatto è che Trump e i suoi luogotenenti vedono l’IA come uno strumento per il dominio globale e per mantenere la posizione privilegiata dell’America nell’ordine mondiale. E per questo, sono disposti a rischiare tutto.
