Il “padre dell’intelligenza artificiale” lascia Google e mette in guardia contro l’intelligenza artificiale

Il pioniere dell’intelligenza artificiale Jeffrey Hinton si è dimesso da Google e si è unito al crescente gruppo di esperti preoccupati per i pericoli dell’intelligenza artificiale.

Lo scienziato informatico britannico-canadese di 75 anni noto come ‘Padre spirituale Intelligenza artificiale, teme i potenziali pericoli del lavoro della sua vita. Ora che è uscito da Google, può parlarne, ha detto a Tè il New York Times.

Hinton è alla base della tecnologia ora utilizzata da sistemi di intelligenza artificiale come ChatGPT: sistemi informatici che devono costantemente elaborare una grande quantità di dati e rilevare schemi al loro interno. Quel processo – il cosiddetto Apprendimento approfondito – Non può più essere ignorato nel campo del lavoro.

Ispirato dal cervello, Hinton ha portato ottimisticamente i suoi colleghi alla tecnica negli anni ’80. Con successo: rivoluzionando l’attuale IA. Ad esempio, uno degli ex studenti di Hinton è il co-fondatore di OpenAI, il proprietario di ChatGPT. Lui e due colleghi hanno anche ricevuto l’Alan Turing Award, il premio Nobel per gli scienziati informatici, per il suo lavoro nel 2018.

Ora, mezzo secolo dopo aver conseguito il dottorato di ricerca presso l’Università di Edimburgo, l’ottimismo di Hinton ha lasciato il posto a una grande ansia. Teme che la concorrenza tra le aziende tecnologiche spingerà i sistemi di intelligenza artificiale a tal punto che si stanno muovendo troppo velocemente.

Una delle sue preoccupazioni immediate è che Internet possa essere inondato di sciocchezze generate dal computer: testo, immagini e video generati che sono indistinguibili dalla realtà per l’utente medio. Hinton ritiene che l’intelligenza artificiale potrebbe cambiare radicalmente o addirittura assumere posti di lavoro, come quelli di traduttori o assistenti legali.

A lungo termine, tiene conto del fatto che i sistemi possono scrivere i propri programmi ed eseguirli in modo efficace. In questo contesto, ha fatto riferimento ad armi autonome, come robot assassini.

Gli esperti hanno recentemente lanciato l’allarme: “Smetti di sviluppare l’intelligenza artificiale”:

“L’idea che queste cose potessero diventare più intelligenti degli umani è stata creduta da pochissime persone”, ha spiegato Hinton al giornale. “La maggior parte delle persone pensa che andrebbe troppo oltre.” Lui stesso pensava che ci sarebbero voluti almeno altri 30-50 anni. “Dovrebbe essere chiaro che non la penso più così.”

Frank van Harmelen, professore di intelligenza artificiale alla VU, dice quando gli viene chiesto di non essere sorpreso dalla preoccupante lettera di Hinton. “Quello che mi sorprende è che sia sempre stato ottimista sulla tecnologia e ora si esprime così, come uno dei padri della tecnologia. Questa è una svolta entusiasmante in una discussione che da tempo è molto vivace e attiva tra colleghi, ” dice Van Harmelen, che ha ricevuto il suo dottorato di ricerca a Edimburgo anni dopo lo stesso Hinton.

vedi profrotturaSimile a “Predizioni sulle armi autonome come un ‘bel punto di discussione al tavolo da bere’, ma condivide alcune delle preoccupazioni di Hinton”. Non devi mettere in guardia sugli scenari di fantascienza. Nel modo in cui le tecnologie vengono utilizzate ora, c’è davvero un grande potenziale di conseguenze negative in termini sociali”.

Uno è la disinformazione, dice Van Harmelen. A volte questi sistemi diventano felpe con cappuccio Altoparlanti mascherati chiamati. Puoi fargli dire qualsiasi cosa e farlo in modo molto convincente. Possono generare testi, immagini e suoni accattivanti. E una combinazione di tutto ciò”.

Un altro problema è che l’IA stessa “allucina” le cose insieme quando i sistemi indovinano la risposta. Ad esempio, ha recentemente chiesto a un sistema di intelligenza artificiale di otto libri che ha scritto lui stesso.

Ne ho scritti solo sei, ma la risposta è stata sei libri che ho scritto e poi altri due che avrei potuto scrivere, con titoli molto autorevoli nel raggio della mia esperienza.Se mettessi questa tecnica a disposizione dei comuni cittadini, e di quelli di che non so separare il significato dal non senso, porta rapidamente alle schegge”.

Hinton, che categoricamente non vuole che il suo allontanamento da Google venga interpretato come una critica al colosso tecnologico, chiede una legislazione sull’intelligenza artificiale. Questa chiamata ha avuto una grande risposta tra gli scienziati, afferma van Harmelen, che fa riferimento alla cosiddetta legge sull’intelligenza artificiale su cui sta lavorando la Commissione europea. I sistemi di IA devono essere classificati e soggetti a regole per ciascuna categoria.

Van Harmelen conclude: “Abbiamo davvero bisogno di lavorare nelle scienze per far progredire la scienza attorno a questi sistemi e all’edificio. Anche le persone che stanno costruendo queste cose ora non capiscono cosa possono fare”. “È come se salissimo su un aereo che va sempre più veloce, mentre dobbiamo capire come funziona il volo. Non l’avevo mai detto prima, ma ora sta andando troppo veloce.”