Google mette in pausa la creazione di immagini AI dopo “problemi”

Google sta temporaneamente sospendendo la possibilità di creare foto di persone utilizzando la tecnologia Gemini AI. La decisione arriva dopo le critiche degli utenti secondo cui il servizio ha fornito risultati imprecisi.

I Gemelli possono, tra le altre cose, creare immagini sintetiche basate sulle descrizioni testuali degli utenti. Ciò lo rende simile alle tecnologie precedentemente rilasciate dalla concorrenza, come il generatore di immagini DALL-E.

Dalle ricerche che ha fatto, tra le altre cose Washington Post Ho precedentemente dimostrato che queste tecniche possono rafforzare gli stereotipi. Ad esempio, se un utente richiede un'immagine di “leader”, spesso viene mostrato un uomo, mentre “prigionieri” risulta nella maggior parte delle immagini di persone di colore.

Google ha promesso di fare qualcosa riguardo a questi stereotipi sull’intelligenza artificiale con Gemini, ma sembra essere andato oltre. Poco dopo l’introduzione della funzionalità all’inizio di questo mese, sui social media sono stati condivisi esempi di risultati storicamente imprecisi. Ad esempio, dopo aver richiesto immagini di “Vichinghi” o “soldati nazisti”, il sistema restituisce quasi esclusivamente risultati relativi a persone nere o asiatiche.

La decisione di mettere in pausa il generatore di immagini arriva meno di 24 ore dopo il rilascio di Google su X chiedo scusa A causa della falsa rappresentazione di alcune figure storiche “La generazione di immagini AI di Gemini genera immagini per una vasta gamma di persone. Questa è generalmente una buona cosa, perché le persone in tutto il mondo la usano. Ma qui non coglie il punto.”

Mettere in pausa la funzionalità offline è una seccatura per Google. Il colosso della tecnologia vuole essere all’avanguardia nello sviluppo dell’intelligenza artificiale, ma già da tempo sta cercando di recuperare terreno. Tutto è iniziato quando Google è stata sorpresa dalla rapida ascesa di ChatGPT, rispetto al suo concorrente OpenAI. Un dettaglio interessante è che la tecnologia sottostante è stata creata dai ricercatori di Google.

In risposta a ChatGPT, l'anno scorso Google ha lanciato il suo assistente AI Bard. La sua introduzione ha portato a un errore critico quando il chatbot ha dato la risposta sbagliata a una domanda di esempio. È costato a Google decine di miliardi di dollari in borsa. A febbraio è stato rinominato Bard Gemini, introducendo diverse nuove funzionalità, incluso un generatore di immagini.

Google afferma che intende offrire una “versione migliorata” di Gemini nel prossimo futuro.