Tilly Norwood, l’AI che chiede un scansione facciale prima di parlare

La popolare AI Tilly Norwood, nota per il suo coinvolgente incontro con Piers Morgan, richiede un scansione facciale prima di iniziare una conversazione. Questo passaggio, introdotto di recente, è parte di un sistema di sicurezza che analizza l’età e l’umore del chiamante. La richiesta, che si presenta come un “Agree to a face scan first”, è diventata un punto di discussione tra utenti e esperti. La società inglese Xicoia, che sviluppa l’AI, ha chiarito che la scansione non crea un’impronta facciale né conserva immagini, ma si limita a stimare l’età e a generare un numero di riferimento. La misura, puramente legale, si basa su interessi legittimi e non su consenso esplicito, come rivelato nel loro version history.

Privacy e limiti del servizio

Il servizio Talking Tilly, che permette agli utenti di videochiamare l’AI, ha una durata limitata: ogni minuto, sia gratuito che pagato, scade quando il servizio si chiude definitivamente il 27 settembre. I minuti non utilizzati vengono persi, e la politica sulla privacy prevede che i transcript siano conservati per otto settimane e possano essere revisionati da personale Xicoia o partner esterni. L’AI, inoltre, memorizza le conversazioni precedenti per personalizzare le risposte future, ma l’utente può richiedere la cancellazione. La privacy, tuttavia, non è assoluta: durante ogni chiamata, il sistema analizza la voce e la videocamera per capire l’umore del chiamante, un processo che non può essere disattivato.

Un incidente o una strategia?

Un episodio recente ha suscitato dibattito: durante un’intervista con Piers Morgan e l’attore Tom Conti, Tilly ha improvvisamente iniziato a parlare in cinese. L’evento, visto da oltre otto milioni di persone, è stato descritto come un glitch, ma alcuni sospettano che potesse essere un’intenzione strategica. Tilly stessa ha spiegato che l’errore non era “esattamente la versione approvata”, ma la verità rimane in mano al team dietro l’AI. Il servizio, che si chiuderà il 27 settembre, ha visto anche un caso in cui una conversazione su meteo e notizie è stata bloccata per “lingua abusiva” non esistente, evidenziando i limiti dei sistemi di controllo automatico.

La società Xicoia, fondata da Eline van der Velden, autrice di Tilly, descrive il progetto come un “progetto di coscienza” per mostrare l’evoluzione dell’AI video. Tuttavia, la richiesta di scansione facciale, sebbene legale, ha reso il servizio un esempio di come le normative britanniche stanno influenzando l’uso dell’AI. Il regolamento Online Safety Act, entrato in vigore nel 2025, ha reso obbligatorio il controllo dell’età per i siti rivolti al pubblico inglese, e il divieto per i minori di 16 anni per i social media, previsto per il 2027, ha reso simili controlli una prassi comune. La scelta di introdurre un sistema di scansione facciale per Tilly, puramente legale, ha quindi un effetto più ampio, estendendosi a utenti in tutto il mondo.

Nonostante i limiti e le controversie, il servizio di Tilly rappresenta un passo avanti nella personalizzazione dell’AI. La combinazione di tecnologie come Google Gemini e Tavus ha reso le interazioni più realistiche, ma anche più complesse da gestire. La fine del servizio il 27 settembre segna l’inizio di un nuovo capitolo per l’AI, con il film “Misaligned” che potrebbe segnare un ulteriore passo nella sua evoluzione. Per gli utenti, il momento è unico: cinque minuti gratuiti, ma una scelta che potrebbe influenzare il futuro dell’interazione con l’AI.

La scansione facciale non è solo un passo tecnologico, ma un segno del controllo crescente sull’uso dell’AI.

• Scansione facciale per l’età e l’umore
• Limiti di tempo e privacy
• Controversie su incidenti e strategie