Il Panoptcon è una macchina per dissociare la coppia vedere-essere visti: nell'anello periferico si è totalmente visti, senza mai vedere; nella torre centrale, si vede tutto, senza mai essere visti.

Michel Foucault

di Giuseppe Masala per l'AntiDiplomatico

Con l'esplosione delle nuove tecnologie fondate sulla Intelligenza Artificiale si è fatta largo l'idea di costruire delle Smart City ovvero delle città che grazie al largo uso delle tecnologie digitali possano garantire ai cittadini servizi più efficienti, a misura d'uomo e sostenibili. Ovviamente con il concetto di Smart City corre in parallelo il concetto di Smart Home; e del resto come potrebbe essere diversamente visto che una città è in definitiva (anche) un insieme di abitazioni. Per Smart Home si intende una casa o un ambiente di una casa dove uno o più dispositivi sono connessi via wi-fi e possono essere controllati anche da remoto. Strettamente connesso al concetto di Smart City e di Smart Home vi è poi il concetto di “città 15 minuti”. Ovvero di una città dove le persone possano soddisfare la maggior parte delle proprie esigenze all'interno di un raggio – partendo dalla propria casa – di 15 minuti a piedi o in bicicletta. Ovviamente, a sentire i propagandisti di questa nuova urbanistica incentrata sulla tecnologia, il futuro sarà un trionfo di benessere per tutti; meno inquinamento, più risparmio energetico, meno stress e meno costi per i cittadini.

La realtà sfortunatamente rischia di essere ben diversa – e certamente meno idilliaca – rispetto a come ci viene presentata nei depliant pubblicitari e nei servizi televisivi propagandisti di questo nuovo concetto di città e di società in divenire. Infatti, come spesso capita le tecnologie sono armi a doppio taglio; possono essere usate sia per facilitare la vita alle persone ma anche per far loro del male. E in questo caso il male insito nei nuovi costrutti a matrice tecnologica è il controllo totalizzante e asfissiante che può essere esercitato nei confronti degli individui.

Controllo che può essere esercitato grazie all'enorme mole di dati che possono essere immagazzinati, scandagliati e usati anche per generare modelli predittivi dei comportamenti grazie a strumenti di Machine Learning e di Deep Learning. Grazie a telecamere (che immagazzinano nei server “dati” video) fino al frigorifero connesso wi-fi che in automatico ci farà la spesa autonomamente, fino al pagamento – per esempio al supermercato, dal medico o in farmacia - fatto via carta contactless o magari via cryptomoneta (magari di stato) il controllo è già ora praticamente totale: chi ha accesso ai dati potrà non solo vedere a che ora esci di casa, che percorso percorri con l'automobile, che cosa mangi e quali sono i tuoi interessi. Sostanzialmente la vita ridotta ad un Truman Show – o se preferite un 1984 di Orwell – nel quale un Grande Occhio potrà non solo scrutare i nostri comportamenti ma anche prevedere quelli futuri fino alla fine dei nostri giorni grazie ai modelli matematici utilizzati negli strumenti di Machine Learning e Deep Learning.

Anche in Italia queste pericolose tecnologie sono in fase di rapida implementazione nelle nostre città, spesso con il consenso popolare concesso un po' distrattamente magari grazie alla ulteriore promessa della sicurezza contro la criminalità, oltre ovviamente alle promesse di una vita più comoda e magari più sostenibile dal punto di vista ambientale.

Sicuramente i progetti italiani - dal mio punto di vista - più importanti e allo stesso tempo più esemplificativi dei pericoli a cui andiamo incontro in questo momento sono i progetti Marvel e Protector/Precrisis del Comune di Trento e il progetto di videosorveglianza avveniristico (sic!) del Comune di Venezia, al quale peraltro, sempre il comune di Venezia, abbina orwellianamente anche una rete di delatori umani costruita grazie al progetto “controllo e sorveglianza di vicinato”; non sia mai che alle telecamere, ai sensori, alle celle telefoniche e all'Intelligenza Artificiale possa sfuggire qualche cosa: meglio andare per il sicuro con le spiate del vicino di casa, già peraltro ampiamente collaudate durante i lockdown pandemici!

Progetti che come vedremo sono di enorme invasività nella vita privata delle persone e soprattutto – a mio modo di vedere – assolutamente al di fuori di qualsiasi controllo e regolamentazione democraticamente accettabile. Un semplice sindaco o addirittura assessore ormai possono entrare nella vita delle persone venendo a conoscenza di fatti che possono anche essere assolutamente privati come per esempio quelli legati alle condizioni di salute della persona o anche a condotte di vita personalissime e riservate ma assolutamente legali. Ovviamente tutto questo senza nessuna garanzia in merito a chi abbia titolo per venire a conoscenza delle informazioni. Infatti per esempio nel caso del progetto implementato dal Comune di Venezia anche soggetti privati possono avere accesso ai dati raccolti.

Non parliamo poi della fallibilità delle macchine. Troppo spesso si sente dire da giornalisti e amministratori locali che questi strumenti sono pressoché infallibili. Niente di più falso. Gli strumenti di riconoscimento facciale incentrati sul “Machine Learning non supervisionato” sono degli strumenti fallibili, fallibilissimi. Cosa che ormai è comunemente accettata anche negli USA dove se ne fa largo uso, ma dove ormai, anche in Europa, si iniziano a manifestare dubbi rompendo la narrazione portata avanti dagli uffici marketing delle grandi multinazionali informatiche: anche la Commissione Europea nella sua proposta di regolamentazione della Intelligenza Artificiale ha previsto per esempio che gli strumenti di riconoscimento facciale vengano attivati solo su ordine della magistratura e in casi ben specificati come per esempio il rischio di attentato terroristico.

Insomma, siamo di fronte ad una realtà complessa ma estremamente pericolosa, dove i diritti civili delle persone e la loro privacy possono essere calpestate dal primo sindaco magari totalmente incosciente delle reali caratteristiche di determinati strumenti. Una realtà dove però i rischi di una deriva autoritaria sono evidentissimi; senza che noi ci rendiamo conto sta nascendo la società del controllo. Una società dove gli esseri umani oltre ad essere controllati in ogni loro attività e scelta possono essere facilmente indirizzati grazie agli “amorevoli” suggerimenti di questi strumenti messi a nostra disposizione. Dunque le città potrebbero diventare (e in buona parte già lo sono) dei Panopticon dove agiscono “a strati” diverse forme di Intelligenza Artificiale in parte controllanti la nostra vita ma in parte anche suggerenti i “corretti” comportamenti. Ovviamente al livello più basso abbiamo le forme di Videosorveglianza con riconoscimento facciale che scrutano i nostri comportamenti, e a livelli più alti altri algoritmi di Intelligenza Artificiale come, per esempio, quelli che possono essere installati nelle automobili e che suggeriscono il percorso più breve da fare. Oppure ancora Intelligenze Artificiali che suggeriscono i film da vedere o che scandiscono i ritmi di lavoro. Non entro poi nel campo biopolitico delle Intelligenze Artificiali che dovrebbero diagnosticarci le malattie alle persone.

Il rischio di fondo delle Smart City dunque sarà quello di avere delle Smart Prisons dove l'uomo vivrà la sua vita in provetta costantemente monitorato da occhi “amorevoli” e spesso anche condizionato e indirizzato nei comportamenti da tenere.

(Fine prima parte)