San Francisco contro le app di deepfake: richiesta di rimozione immediata

Il procuratore della città di San Francisco, David Chiu, ha avviato un’azione legale contro Apple e Google, chiedendo la rimozione immediata di tredici applicazioni di face-swapping che utilizzano intelligenza artificiale per generare immagini intime non consensuali. Di queste, otto si trovano sull’App Store di Apple e cinque sul Play Store di Google.

Chiu ha richiesto anche la cessazione di qualsiasi collaborazione commerciale con gli sviluppatori delle app e l’interruzione dei profitti derivanti dagli acquisti in-app. Secondo il procuratore, le due aziende avrebbero incassato milioni di dollari nonostante le loro policy vietino contenuti pornografici, abusivi o molesti.

La legge della California è chiara: è vietato fornire supporto a servizi che producono materiale pornografico deepfake. In passato, l’ufficio del procuratore aveva già intrapreso azioni legali contro sedici siti web dedicati a pratiche simili.

Dan Jackson, portavoce di Google, ha dichiarato che l’azienda ha già rimosso centinaia di app con funzioni di “nudificazione”, comprese le cinque segnalate da Chiu, e ha limitato la ricerca di termini come “nudify” sul Play Store. Al momento, Apple non ha rilasciato commenti ufficiali sulla questione.

David Chiu ha definito la situazione “assolutamente scioccante” per l’ampiezza del fenomeno e le sue conseguenze sulle vittime, che possono includere danni alla reputazione e ripercussioni sulla salute mentale. Il procuratore si è detto fiducioso che le aziende rimuoveranno spontaneamente le app e rafforzeranno i controlli, senza escludere ulteriori azioni legali in futuro.