Da Smart City a Panopticon Totalitario (seconda parte)
«La Guerra dei Nove Anni, il Grande Disastro Economico. C'era da scegliere fra il Controllo Mondiale e la distruzione. Fra la stabilità e...»
Aldous Huxley, Il mondo nuovo
Come abbiamo visto nella prima parte di questa disamina, dietro la promessa di città più sicure e a misura d'uomo grazie alla tecnologia e all'Intelligenza Artificiale si nasconde il rischio della creazione di vere e proprie carceri a cielo aperto dove i cittadini sono privati dei più elementari diritti legati alla privacy. E soprattutto la loro vita è messa a rischio a causa di possibili errori giudiziari legati alla fallibilità delle tecnologie per il riconoscimento facciale; evento questo che troppo spesso sta avvenendo in America dove questo genere di tecnologie sono molto utilizzate.
Rischi questi che nella percezione dei cittadini sono al di là da venire, e più legati alle fantasie di autori di romanzi di fantascienza che alla vita concreta. Nulla di più sbagliato, come dimostrerò illustrando i progetti già in essere nel comune di Trento e di Venezia che, credo, a ragione possano essere considerate come le città apripista ridotte ormai a Panopticon dove il potere tutto scruta come nel 1984 di Orwell.
Progetti Marvel e PROTECTOR/PRECRISIS del Comune di Trento
Il progetto Marvel (1) utilizza strumenti di Intelligenza Artificiale per raccogliere dati tramite telecamere e microfoni su presunte "adunanze non pacifiche, eventi o atti criminosi" (ho citato testualmente quanto scritto sul sito del comune stesso). Dalle informative sulla privacy - sempre pubblicate dal Comune - si apprende inoltre che non solo che le telecamere saranno in funzione in qualsiasi momento della vita quotidiana e che i dati verranno “anonimizzati” dopo 6 mesi; come se questo fosse sufficiente per tranquillizzare. Il punto fondamentale, come vedremo tra un attimo, è chi ha accesso ai dati e chi eventualmente può duplicarli. Non basta certamente dire che dopo 6 mesi i dati verranno resi anonimi, qualunque cosa voglia significare questo termine. Il progetto è finanziato dall'UE che trova nell'Italia un perfetto laboratorio per gli esperimenti sociali con buona pace della Costituzione che a quanto pare può essere scavalcata tranquillamente da un assessore sceriffo. Risulta infatti che il progetto ha ben 18 partner, tra cui anche privati, che avranno tutti accesso ai dati dei cittadini di Trento. Una vera follia che dovrebbe interessare le massime autorità del paese.
Precedente a questo progetto era stato implementato il progetto PROTECTOR che consisteva nella raccolta – con utilizzo della Intelligenza Artificiale - di dati relativi ai luoghi di culto e ai social network; ciò al fine di prevenire eventuali attacchi terroristici individuando messaggi che "incitano all'odio". Essendo terminato il PROTECTOR, il comune di Trento ha deciso di riattivarlo cambiandogli semplicemente il nome in PRECRISIS. Questo nuovo progetto sarà implementato non solo nei luoghi di culto, ma in tutti gli spazi pubblici urbani, utilizzando tutti i dati raccolti per fornire degli alert quando si prevede un elevato rischio terrorismo o di attività comunque illegale.
Videosorveglianza e rete di “spie umane” del Comune di Venezia
Il progetto di videosorveglianza del Comune di Venezia oltre a prevedere l'uso di telecamere che utilizzano strumenti di Machine Learning per il riconoscimento facciale utilizza anche i dati delle celle telefoniche delle persone per tracciare chiunque entri o esca dalla città (1). La cosa è stata considerata lesiva della privacy anche dal New York Times in un articolo nel quale viene illustrato il progetto della città lagunare (2). Questa rete di videosorveglianza secondo i progetti è basata sulle reti neurali ed è così potente che basta una singola immagine per l'addestramento o una semplice descrizione della persona per poter avviare la ricerca e avere un esito positivo. Naturalmente tutto ciò non corrisponde a verità, trattandosi di mera pubblicità nella speranza che qualche altro comune abbocchi ad impiantare simili costosissimi strumenti. In realtà tutti gli strumenti di Machine Learning “non supervisionato” per il riconoscimento facciale sono molto problematici (in USA i casi di arresti rivelatisi erronei a causa di questi strumenti sono innumerevoli) e pericolosi. L'unico dato positivo è che questa potente macchina di spionaggio sarà usata dalle forze dell'ordine sotto la supervisione della Magistratura, e quindi da persone ad alto grado di competenza e giuridica e informatica e verosimilmente al corrente dei pericoli dello strumento. Se fosse stato lasciato in mano all'assessore sceriffo e al vigile urbano ci sarebbe da preoccuparsi.
Ciò che rende questo strumento ad alta probabilità di successo non è tanto il riconoscimento facciale (che come ho detto è uno strumento problematico) ma la possibilità di incrociare i dati con le celle telefoniche e con le iscrizioni per poter entrare a Venezia.
Infine due parole su un altro progetto posto in essere dalla zelante amministrazione veneziana: mi riferisco al progetto denominato “controllo e sorveglianza di vicinato” che istituisce una vera rete di spie e delatori a disposizione del comune per segnalare reati o presunti tali, oppure per fare dispetto al vicino di casa antipatico. A che titolo un comune può costituire un simile strumento da stato totalitario?
Il combinato dello strumento elettronico e della rete di “spie comunali” rende enorme il rischio della trasformazione della città in un gigantesco Panopticon dove tutto viene osservato dal Grande Fratello. Con buona pace della privacy, dei diritti civili della persone e della Costituzione.
(Seconda parte – fine)
--------------------------------------
(1) https://www.comune.trento.it/Aree-tematiche/Smart-city/Progetti-d-innovazione-in-corso/MARVEL
(2) https://www.comune.trento.it/Aree-tematiche/Smart-city/Progetti-d-innovazione-conclusi/Protector
(3) Europa Today, “Come Venezia è diventata il Grande Fratello d'Europa”, 27 Ottobre 2021 Link: https://europa.today.it/attualita/venezia-grande-fratello.html
(4) New York Times, Venice Tourism Surveillance. 10 Aprile 2021, Link: https://www.nytimes.com/2021/10/04/world/europe/venice-tourism-surveillance.html
