“L’intelligenza artificiale potrebbe annunciare la fine dell’umanità”: gli esperti paragonano i suoi pericoli alle pandemie e alle guerre nucleari | Scienze

“Ridurre il rischio di estinzione dell’IA dovrebbe essere una priorità globale insieme ad altri rischi per la società come le pandemie e la guerra nucleare”. Martedì l’American Center for Artificial Intelligence Safety ha distribuito questa breve dichiarazione, che include dozzine di nomi di scienziati e amministratori delegati di società tecnologiche.

Esperti di Microsoft e Google, tra gli altri, hanno firmato l’avvertimento, così come Sam Altman, fondatore del chatbot AI ChatGPT. Il prodigio di 37 anni dietro ChatGPT ha avvertito della sua creazione da tempo. Secondo lui, le cose potrebbero andare “pericolosamente” male se la nuova tecnologia non sarà regolamentata. Il capo di Twitter Elon Musk – che ha già investito molto nella tecnologia – ha anche avvertito che l’IA “potrebbe distruggere la civiltà”.

È incluso anche il nome del professore belga Yves Moreau, affiliato all’Università di Leuven. È specializzato in intelligenza artificiale in genetica. Morrow ritiene che lo sviluppo dell’intelligenza artificiale debba essere rallentato per un po’ perché non è chiaro quali conseguenze avrà il progresso tecnologico sull’uomo.

“Abbiamo assistito a una forte svolta tecnica negli ultimi mesi, rischi e conseguenze che non possiamo ancora valutare”, spiega Moreau. “È stato uno shock, anche per gli specialisti di intelligenza artificiale”. Si scopre che i modelli di intelligenza artificiale sono molto più capaci del previsto. Moreau sottolinea che non è ancora chiaro quali potrebbero essere le conseguenze, ad esempio in termini di diffusione di disinformazione o in relazione al contenuto dei post.

Moreau ti chiede di frenare e agire. “La regolamentazione è un processo importante, ma probabilmente non è sufficiente. C’è bisogno di cambiare la cultura tra le persone che sviluppano la tecnologia. Ora le persone lo fanno perché è interessante o perché ci sono soldi da guadagnare. Tuttavia , dobbiamo pensare di più a chi e come creiamo la tecnologia. I ricercatori devono assumersi maggiori responsabilità.”