Una foto di famiglia, un’app di generazione video, e una promessa seducente di trasformare chiunque in protagonista. Questo fenomeno è recentemente esplorato in un articolo del Wall Street Journal, dove viene evidenziata la facilità con cui si può trasformare il volto di un neonato in un mini elfo natalizio.
Sora 2 con Cameo e altri sistemi AI che “rubano” il volto
Utilizzando strumenti accessibili attraverso smartphone, come la funzione Cameo della nuova app video Sora 2, è possibile creare avatar divertenti e infantili. Tuttavia, l’uso di queste tecnologie solleva questioni rilevanti riguardo la privacy, poiché il volto elaborato è caricato su server di piattaforme globali, le quali possono riutilizzarlo per migliorare i propri modelli di intelligenza artificiale. Ciò genera timori di perdita di controllo sulla propria immagine e su quella dei propri cari.
Gli avatar digitali: Cameo, Sora, Veo, Image Playground
Le applicazioni come Sora, Veo e Image Playground permettono di creare avatar inanimati, in grado di muoversi e interagire in scene mai vissute prima. Basta registrare pochi secondi di video e pronunciare alcune parole per generare un duplicato digitale pronto a recitare in diverse situazioni.
Che cos’è davvero un “cameo” e perché cambia le regole del gioco
Il “cameo” rappresenta un modello generativo personalizzato creato da pochi secondi di video. L’utente si registra e il sistema è in grado di generare volti e movimenti che corrispondono alla fisionomia originaria. Questo processo:
- abbassa la soglia d’accesso: chiunque può “clonare” un volto;
- moltiplica i contesti d’uso: appare in inviti, meme, pubblicità, ma anche in frodi e campagne di disinformazione;
- rende la clonazione riutilizzabile: una volta creato, il cameo può essere impiegato in vari scenari.
In sostanza, l’identità per fattezze diviene un token riutilizzabile. Tuttavia, l’effetto è notevole, ma con un costo invisibile: il volto e l’immagine dell’utente sono archiviati su server non sempre sicuri.
Le opzioni di sicurezza fornite dalla piattaforma, come limiti d’uso o divieti di download, non eliminano la vulnerabilità e non possono prevenire il furto d’identità, inteso come furto di fattezze.
Le cinque faglie di rischio privacy attivate dai cameo
a) Riuso non previsto del volto
Il contesto di riuso dei volti spesso non è chiaro, portando a una perdita di controllo sull’impatto del proprio ritratto digitale.
b) Ambiguità sul ruolo privacy: titolare o contitolare?
La figura del titolare del trattamento può complicarsi quando un utente crea un cameo di un amico.
c) Raccolta di materiale di minori
L’uso di volti di minori amplifica l’esposizione dei dati. Il consenso dei genitori è cruciale.
d) Watermarking e labeling non sono sempre efficaci
Le normative non sempre garantiscono l’identificazione di contenuti sintetici, riducendo l’efficacia di questi strumenti.
e) Effetto esca per frodi e “social engineering”
I volti animati dai cameo possono migliorare le possibilità di successo di truffe e campagne ingannevoli.
I rischi: cinque esempi
L’adozione dei cameo espone a nuove vulnerabilità. Ecco cinque esempi concreti:
- Raccolta “silenziosa” per training: l’app favorisce un’ottica predeterminata non chiara per l’utente.
- Falso endorsement: uso improprio di immagini per scopi pubblicitari senza consenso.
- Estorsione “affettiva” con deepfake: simulazione di video intimi per minacciare diffusione.
- Phishing con volto aziendale: utilizzo ingannevole di rappresentanti in video per truffe.
- Cameo di un minore in contesto derisorio.
Le basi giuridiche possibili (e quelle illusorie)
Consenso. Costituisce il fondamento per l’uso del volto, se è libero e informato. Per i minori, è necessario il doppio consenso.
Esecuzione del contratto. Non sufficiente per coprire trattamenti eccedenti rispetto al servizio.
Legittimo interesse. Rappresenta un approccio incerto, specialmente per dati biometrici.
Categorie particolari (biometrici). Quando il volto è utilizzato per identificazione, si applicano norme restrittive.
Trasparenza e contrassegno: richieste di normative e effetti
Il Regolamento europeo sull’AI prevede che agli utenti venga fornita un’informativa adeguata riguardo l’utilizzo di contenuti sintetici, mentre il Digital Services Act obbliga le piattaforme a garantire segnalazione e rimozione tempestive.
Il diritto all’immagine in Italia: normative vigenti
In Italia, il diritto all’immagine è tutelato, con specifiche leggi che vietano la diffusione senza consenso. L’uso di cameo senza permesso resta illecito.
Minori e deepfake: linee guida e normative
Le autorità italiane e europee hanno elaborato misure di protezione, specialmente per i minori, sottolineando l’importanza di un uso responsabile delle tecnologie AI.
Implicazioni per aziende e PA nell’uso di cameo
Le organizzazioni devono aggiornare le loro policy e richiedere autorizzazioni specifiche per l’uso sintetico del volto, rispettando i principi di minimizzazione e proporzionalità.
É essenziale garantire trasparenza e responsabilità nell’uso di queste tecnologie, richiedendo normative chiare e procedure di segnalazione efficienti.
Cosa fare se il proprio volto finisce in un cameo AI non autorizzato
Se un volto viene utilizzato senza consenso, è importante raccogliere evidenze e segnalare il contenuto alla piattaforma. Le azioni legali possono includere richieste per rimozione e risarcimento.
Riflessioni per i designer di tecnologie AI
Negli sviluppi di applicazioni come Sora 2, è fondamentale considerare la protezione della privacy e garantire la trasparenza nel trattamento dei dati personali. È imperativo implementare misure che consentano agli utenti di adottare decisioni consapevoli riguardo l’uso della loro immagine.
