In un periodo storico in cui gli USA e il mondo temono i rischi dell’IA, le grandi aziende del settore stanno cercando di sviluppare tecnologie in grado quantomeno di rilevare l’utilizzo di modelli IA in ambito di generazione immagini (e non solo).
È direttamente da un post pubblicato sul blog ufficiale di OpenAI nella giornata del 7 maggio 2024 che si apprende che l’organizzazione guidata da Sam Altman sta mettendo alla prova un nuovo tool pensato per identificare le immagini generate dall’intelligenza artificiale. Già adesso questo strumento è affidabile al 98% per i contenuti generati da DALL-E 3.
Certo, OpenAI “gioca in casa” con DALL-E e di certo quest’ultimo non rappresenta l’unico modo per generare immagini IA. Infatti, l’azienda fa sapere che l’affidabilità crolla attorno al 5/10% per le immagini generate da altri modelli IA. Tra l’altro, possono verificarsi ulteriori grattacapi in caso di editing effettuato in seguito, anche se in realtà le modifiche minori, dal ritaglio alla compressione, non dovrebbero comportare troppi problemi. Le immagini generate da DALL-E 3 con modifiche minori sono state infatti riconosciute con un range niente male, dal 95% al 97%. Modifiche più ampie possono invece incidere in modo più importante sull’affidabilità dello strumento.
Tuttavia, sembra proprio che ci vorrà ben altro per riuscire effettivamente ad avere uno strumento in grado di contrastare la diffusione delle immagini fake generate tramite intelligenza artificiale, ma quantomeno l’annuncio di OpenAI rappresenta un passo in avanti non di poco conto in questo senso.
Per il resto, Sam Altman e soci hanno reso noto che in futuro arriverà anche Media Manager, un tool pensato per consentire ai creatori di contenuti di gestire in modo più preciso come i propri lavori possono o non possono essere utilizzati in ambito di addestramento dei modelli di intelligenza artificiale.
“Ciò richiederà una ricerca all’avanguardia sull’apprendimento automatico per sviluppare uno strumento primo nel suo genere che ci aiuti a identificare testo, immagini, audio e video protetti da copyright attraverso più fonti e riflettere le preferenze dei creatori“, scrive OpenAI sul suo blog. L’obiettivo è quello di lanciare Media Manager entro il 2025.
Per il resto, rimanendo in ambito IA, potrebbe interessarvi approfondire alcuni recenti problemi con cui Apple e Microsoft hanno avuto a che fare.