Un pattern potrebbe confondere le telecamere, ma il test non è ancora concluso

Un pattern creato appositamente potrebbe confondere le telecamere di sorveglianza, ma il test non è ancora stato effettuato in condizioni reali. A Defcon, un evento annuale dedicato alla cybersecurity, un ricercatore ha dimostrato come un pattern potesse ridurre la fiducia di un sistema AI nel rilevare una persona. Il test, però, è stato condotto su un modello digitale e non su un indumento reale. Il ricercatore, Bill Swearingen, ha spiegato che il pattern, applicato su un pannello rigido, ha portato il sistema a non rilevare più la figura umana, ma solo in un contesto controllato.

Un test di confusione artificiale

Swearingen ha sviluppato un programma per generare pattern in grado di confondere i sistemi di rilevamento basati su intelligenza artificiale. Questi pattern, simili a vulnerabilità software, sfruttano debolezze nei modelli di riconoscimento. Il test ha mostrato come un pattern applicato su un pannello potesse ridurre drasticamente la fiducia del sistema nel rilevare una figura umana. Tuttavia, il test non è stato effettuato su un indumento reale, ma su un modello digitale. Il sistema non ha riconosciuto la figura umana, ma solo in un contesto controllato. Il ricercatore ha chiarito che il vero test inizia quando il pattern sarà stampato su un tessuto e indossato da una persona. Il progetto, chiamato noRecognition, mira a creare indumenti che possano rendere più difficile il riconoscimento di una persona da parte di sistemi di sorveglianza.

Le sfide del riconoscimento in movimento

Le telecamere di sorveglianza non sono semplicemente in grado di riconoscere una figura umana, ma devono anche distinguere tra un oggetto e un essere umano. Swearingen ha spiegato che i sistemi di riconoscimento si basano su una serie di passaggi: rilevamento della figura, riconoscimento del volto e confronto con un database. Se il primo passo, il rilevamento della figura, non funziona, il resto del processo non si attiva.

Il pattern testato ha ridotto la fiducia del sistema al di sotto del limite di rilevamento. Il ricercatore ha anche sottolineato che i pattern non sono universali. Alcuni funzionano meglio su determinati modelli di riconoscimento, mentre altri non hanno effetto su altri. Inoltre, i risultati possono variare in base al tipo di persona rilevata. Un pattern che funziona su un gruppo di persone potrebbe non funzionare su un altro.

Il progetto noRecognition è in fase di sviluppo e richiede ulteriori test prima di poter essere considerato un prodotto finale. Il ricercatore ha spiegato che il test iniziale ha utilizzato un pannello rigido con un pattern speciale, ma il vero test inizia quando il pattern sarà stampato su un tessuto e indossato da una persona. Il progetto è in fase di sviluppo e richiede ulteriori test su modelli reali. Il ricercatore ha anche sottolineato che i pattern potrebbero essere utilizzati per evitare il riconoscimento di una persona, ma non per falsificare l’identità. Il progetto, tuttavia, non è ancora completo e richiede ulteriori sperimentazioni prima di poter essere considerato un prodotto finale.