L’impatto dirompente del Surveillance Scoring-as-a-Service (SSaaS)
All’inizio furono le ads
Per parlare di Surveillance Scoring-as-a-Service occorre fare un piccolo salto nel passato. Agli albori di Google, l’azienda copiò da un ormai defunto e dimenticato competitor dell’epoca, un altro motore di ricerca che rispondeva al nome di GoTo, l’idea di mostrare agli utenti annunci pubblicitari basati su quello che stavano cercando.
Fast forward di una ventina d’anni e Google è sommersa di cause, inchieste e ingunzioni per centinaia di milioni di dollari da parte di diverse agenzie e privati, soprattutto negli Stati Uniti. Il problema? Si comincia a realizzare che quando un unico attore, in questo caso Google, riveste tutti i ruoli possibili nella filiera della pubblicità online, potrebbe configurarsi un’illecita posizione dominante.
Google infatti compra pubblicità (attraverso servizi come AdSense), vende pubblicità (attraverso Google Ads) e gestisce una piattaforma di interscambio che permette ad inserzionisti e utenti di fruirne. Solo da Google Search (non Display, non Doublecick, etc.) nel 2021 Google ha generato un fatturato di 150 miliardi.
Fin qui si tratta di un caso da manuale per l’untitrust, con Google accusata di pagare miliardi ogni anno ad Apple e Mozzilla per mantenere il proprio motore di ricerca come default nei loro browser ed infiniti contenziosi sugli app store. Allo stesso modo, questi temi riguardano anche le altre mega-corporazioni del tech: per chi voglia approfondire, l’inchiesta di Sara Morrisson per Vox su Big Tech ed Antitrust è un ottimo punto di partenza.
Cosa si intende per Surveillance Scoring-as-a-Service?
Oggi le Big-Tech, grazie ai progressi nel data mining e nell’intelligenza artificiale (AI), stanno costruendo sistemi di scoring basati sull’enorme quantità di dati di cui dispongono, ed il cui impiego può essere spinto oltre i confini del loro utilizzo originario.
L’obiettivo dichiarato, per queste aziende, è facilitare il miglioramento delle nostre vite, anche nel lucrativo settore della pubblica sicurezza. È il caso del Surveillance Scoring-as-a-Service (SSaaS), da non confondere con SaaS (software as a service, ogni servizio in abbonamento on line, come Mailchimp per esempio)
Ma di cosa si tratta esattamente? Per spiegarlo in termini pratici, partiamo da alcuni esempi di rilievo.
Il gigante Amazon ha richiesto un brevetto statunitense per la realizzazione di un veicolo aereo senza equipaggio, capace di generare immagini utilizzabili da terzi. Il Surveillance Scoring-as-a-service sarebbe così un sottoprodotto monetizzato del servizio di consegna di Amazon, da inserire nella sua più ampia costellazione di tecnologie di sorveglianza.
Voyager Labs, invece, permette alle forze dell’ordine di sfruttare il SSaas per monitorare il credo ideologico di un individuo e identificare la forza delle sue convinzioni. Valutando i post sui social media, le interazioni e le connessioni indirette, Voyager scrive algoritmi che istruiscono i computer a tracciare il percorso di dati di un utente e sviluppare un profilo che viene poi ridotto a un punteggio – lo score – , in grado determinare il rischio di sicurezza pubblica di uno specifico individuo.
Flock Safety tenta, invece, di combattere il crimine con i sistemi di riconoscimento delle targhe; usando a proprio vantaggio l’apprendimento automatico, l’azienda sostiene di poter fornire piste investigative alle forze dell’ordine e migliorare in questo modo i processi di indagine.
Possiamo quindi definire il Surveillance Scoring as a Service come un servizio di profilazione, basato su dati raccolti da fonti commerciali ma incrociati ed elaborati ai fini della pubblica sicurezza.
Riconoscimento e profilazione dei dati personali
Tutti noi – individui, aziende e istituzioni incluse – facciamo parte di un mondo segnato dalla digital disruption.
Tra gli innumerevoli cambiamenti apportati dall’evoluzione tecnologica, è emerso l’impiego di device come telecamere, microfoni e una miriade di altri dispositivi di riconoscimento che ci monitorano in tempo reale, tutto il tempo.
In questo contesto è lecito domandarsi: qual è l’impatto di queste tecnologie sulle nostre vite? È ancora possibile difendere la propria privacy in Rete e nel mondo fisico? Rimanere anonimi, oggi, sembra impossibile, almeno basandosi sull’enorme quantità di dati che produciamo quotidianamente e che i dispositivi smart offerti dalle Big Tech utilizzano per identificarci, tracciarci e prevedere le nostre azioni future sia online che offline.
Prima di entrare a fondo nel tema del riconoscimento e della profilazione dei dati personali, facciamo un passo indietro e cerchiamo di darne una definizione. Con il termine profilazione si intende l’insieme delle attività di raccolta ed elaborazione dei dati inerenti agli utenti di un servizio, al fine di suddividerli in gruppi a seconda del loro comportamento (segmentazione).
Per ottenere la profilazione non è sufficiente il semplice tracciamento dell’utente online occorre che i suoi comportamenti e le sue preferenze siano anche analizzati e classificati allo scopo di prevedere le sue azioni e o semplicemente la sua attituine all’acquisto. In poche parole, esiste una differenza tra raccolta dati e profilazione, essenzialmente definita dallo scopo per cui si raccolgono i dati.
Quali aziende hanno i miei dati ?
La risposta semplice è: tutte quelle a cui ne concediamo l’uso, e questo non include solo i nostri intenti di ricerca o le nostre preferenze musicali, alimenteri o di stile.
I sistemi di riconoscimento, che sfruttano le nostre voci, volti, impronte digitali o addirittura il battito cardiaco sono estremamente popolari, molto più di quanto spesso ci rendiamo conto:
- hai uno smarwhatch che monitora il tuo battito cardiaco? E’ molto probabile che questi dati siano raccolti dai prodottori
- hai mai usato un filtro per il volto su un’app qualsiasi? Impostato il riconoscimento facciale per sbloccare lo smartphone? Probabilmente, allora, hai accettato che i tuoi dati biometrici siano raccolti, analizzate e forse anche venduti dai fornitori del servizio
- per non parlare dell’annosa questione riguardante microfoni e videocamere dei nostri device personali o installati nelle nostre smart home e impianti di domotica: registrano mai a nostra insaputa?
Per avere una stima approssimativa delle informazioni che condividiamo quotidianamente, più o meno a nostra insaputa, è possibile provare uno dei tanti servizi disponibili sul mercato, giacché gli Stati sono parecchi anni indietro su queste tematiche.
Due buoni esempi sono Saymine e Rita, due app (la prima web l’altra mobile) che tracciano chi traccia i vostri dati e generano una lista della nostra digital footprint.
Dentro questi dati risiede un enorme valore: la rilevabilità. Molte delle nostre attività quotidiane richiedono ora una qualche forma di riconoscimento biometrico:in ambito commerciale ad esempio, il riconoscimento e la profilazione permettono alle aziende di conoscere meglio i consumatori e fornire loro un livello di personalizzazione di prodotti e servizi che non sarebbe raggiungibile su scala in altre maniere.
Sistemi di riconoscimento e profilazione: infallibili o fallaci?
L’attività di riconoscimento e profilazione dei dati personali è considerata a volte estremamente invasiva e causa di danni a carico degli utenti. La profilazione, infatti, viene utilizzata per fornire pubblicità personalizzata agli utenti, ma può anche portare a offerte commerciali diverse (price discrimination) a seconda della persona o della categoria nella quale essa è inserita, determinando possibili forme di diseguaglianza sociale o discriminazioni nei confronti di minoranze.
Un ulteriore problema è legato al fatto che gli algoritmi sono protetti come segreti commerciali (o trade secrets). In tal senso, quindi, anche i soggetti che utilizzano tali algoritmi, se non ne sono i programmatori, possono non conoscere le logiche alla base degli stessi, e quindi comprendere gli effetti della loro applicazione. Ecco perché il regolamento europeo prevede un apposito obbligo di informazione sulla logica che guida la profilazione.
Dispositivi a supporto del Surveillance Scoring-as-a-service
Quali sono i sistemi di sorveglianza di massa resi possibili dalle tecnologie digitali? Vediamo insieme alcuni dei dispositivi a supporto del SSaas e le loro più recenti applicazioni:
- Tracciamento Non-Line-of-Sight. Durante la pandemia, i ricercatori della Penn State University hanno usato le fibre ottiche per sorvegliare il campus da sotto la sua superficie. Utilizzando la tecnologia di rilevamento acustico distribuito, il team ha convertito fibre ottiche in gruppi di sensori sismici in grado di rilevare segnali sottili come le persone in movimento. Il traffico urbano pedonale e automobilistico ha creato vibrazioni che hanno alterato gli impulsi di luce trasportati nei cavi in fibra ottica, imperfezioni che potrebbero essere rilevate e collegate a una fonte. La tecnica dimostrata dai ricercatori era in grado di tracciare dati ogni 3 metri circa, fornendo una risoluzione ragionevole del movimento.
- Sorveglianza attraverso i droni. Le telecamere dei droni possono acquisire video in 4K, mentre il software di apprendimento automatico identifica le persone, individua gli obiettivi e li segue, indovinando persino la prossima mossa di un obiettivo. I droni Skydio sono in grado di orientarsi in spazi ristretti negli edifici o schivare ostacoli come alberi e pali della luce. Alcuni droni della DJI di Shenzhen includono sensori per misurare la temperatura corporea e il battito cardiaco di un individuo alla luce del giorno o agli infrarossi. Come sappiamo, i droni sono sempre più utilizzati dalle forze dell’ordine durante le manifestazioni, in cui possono identificare e tracciare i partecipanti e potenzialmente intercettare chiamate e messaggi.
- Riconoscimento della profondità di campo. Anche le telecamere 3D con una buona profondità di campo, originariamente concepite per la creazione di contenuti di alta qualità, vengono riutilizzate come sistemi di sorveglianza. Le telecamere 3D combinate con LiDAR generano fotogrammi che permettono il riconoscimento facciale, anche quando un volto è nascosto da una maschera o da occhiali. Questa tecnologia consente anche di perfezionare il riconoscimento degli oggetti utilizzando il deep learning per capire come certe caratteristiche differiscono in vari ambienti e cambiano nel tempo.
Le sfide per il futuro
A questo punto, è chiaro che i sistemi di scoring stanno lasciando un segno indelebile su tutti gli individui.
Definire i rischi di tali tecnologie sulla vita privata non è semplice: a fronte di una finalità condivisa come la tutela della sicurezza pubblica sarà comunque necessario trovare chiari parametri e limiti di liceità per queste soluzioni tecnologiche, valutandone le concrete implicazioni.
Numquam periculum sine periclo vincitur: dove troveremo, collettivamente, l’equilibrio tra diritto alla privacy e sicurezza pubblica? Tra una graticazione immediata ed una ponderata valutazione del rischio?La prossima sfida per i player del settore, e soprattutto per le istutuzioni, riguarderà la qualità dei dati: di alta qualità, ottenuti in modo etico, accessibili e il più possibile anonimizzati. Quali di queste istanze saranno raccolte ed implementate nella legislazione e nelle best practice di governance?
