Nell’epoca del capitalismo digitale e della raccolta massiva dei dati, riflettere su concetti come segreto, identità e controllo sociale permette di comprendere le trasformazioni profonde che attraversano le nostre società. A partire da una riflessione empirica del libro “I figli dell’algoritmo” di Veronica Barassi, antropologa e studiosa di media, il seguente articolo tenta di analizzare come la progressiva normalizzazione della trasparenza stia ridefinendo il rapporto tra individuo, tecnologia e potere.
Trasparenza e perdita dell’intimità nell’era digitale
Nell’era del cyberspazio, la raccolta e l’analisi dei dati personali sono diventate pratiche quotidiane, spesso accettate senza particolare resistenza. Emblematica è la posizione di Angela, una delle intervistate, che afferma di non avere “nulla da nascondere” e di non sentirsi influenzata dalla pubblicità mirata. Questa affermazione riflette una trasformazione culturale più ampia: come osservava Georg Simmel, il segreto, nella modernità, tende a essere percepito come qualcosa di sospetto o deviante.
Si è così diffusa una vera e propria cultura della sorveglianza, sintetizzata nella formula “chi non ha nulla da nascondere non ha niente da temere”. Tuttavia, questa apparente innocuità cela un forte potere normativo. Il segreto non è necessariamente legato al male: esso, può rappresentare valori fondamentali come il pudore, la dignità e la protezione dell’individualità. La sua progressiva erosione comporta una perdita significativa: la scomparsa di uno spazio di libertà sottratto allo sguardo sociale.
In questo contesto, la trasparenza si configura come un lasciapassare sociale. Accettare di essere monitorati non viene più percepito come una limitazione, ma come una forma di adattamento, talvolta persino come strategia difensiva. Eppure, numerosi studi dimostrano che il microtargeting influenza concretamente comportamenti, preferenze e consumi. L’individuo che si crede impermeabile diventa, in realtà, completamente leggibile.
La conseguenza è una progressiva riduzione dell’identità a superficie visibile: senza segreti, l’individuo perde autonomia, complessità e capacità di sottrarsi allo sguardo altrui. In questo modo, nasce una condizione in cui la trasparenza rischia di trasformarsi da abitudine culturale a requisito politico.
Sorveglianza, capitalismo dei dati e nuove forme di potere
Un esempio paradigmatico di questa deriva è rappresentato dal sistema di credito sociale sviluppato in Cina tra il 2014 e il 2020, basato sull’attribuzione di punteggi di affidabilità ai cittadini. Sebbene spesso descritto come un’eccezione autoritaria, esso evidenzia dinamiche che, in forme più sottili, sono presenti anche nelle società occidentali.
Il capitalismo della sorveglianza, concetto elaborato da Shoshana Zuboff, descrive un sistema in cui i dati comportamentali vengono trasformati in risorsa economica. In questo quadro, governi, istituzioni finanziarie e piattaforme digitali partecipano a una circolazione continua di informazioni personali. Come già intuiva Max Weber, la modernità è caratterizzata da un processo di razionalizzazione fondato su calcolabilità ed efficienza: la sorveglianza diventa così un meccanismo funzionale al sistema.
Anthony Giddens sottolinea come il controllo dei dati sia parte integrante della macchina burocratica, mentre Roger Clarke introduce il concetto di dataveillance per descrivere il passaggio da forme di controllo diretto a forme digitali e a distanza. In questa trasformazione si inserisce quella che David Graeber definisce “cultura della valutazione”: voti, rating e metriche diventano strumenti attraverso cui si costruiscono verità sociali. L’identità, sempre più esternalizzata, viene depositata nei dati. Come osserva Daniel Solove, non viviamo tanto in un sistema “orwelliano”, quanto in una struttura “kafkiana”, fatta di procedure opache e decisioni automatizzate difficilmente contestabili. L’individuo diventa così classificabile, prevedibile e governabile.
Algoritmi, bias e disuguaglianze
L’uso crescente di sistemi algoritmici solleva interrogativi cruciali sulla loro equità. I dati su cui questi sistemi si basano non sono neutri: riflettono disuguaglianze sociali, bias culturali e storie di discriminazione. Come evidenziato da Friedman e Nissenbaum, esistono tre forme principali di bias: preesistenti, tecnici ed emergenti. Queste distorsioni possono avere conseguenze concrete e gravi. Casi di errori nei sistemi di riconoscimento facciale, soprattutto nei confronti di persone afroamericane o appartenenti a minoranze, mostrano come le tecnologie possano amplificare le ingiustizie esistenti. Inoltre, molti sistemi non sono in grado di riconoscere identità non conformi, come quelle transgender o non binarie.
L’introduzione di nuovi modelli di apprendimento, come il Reinforcement Learning from AI Feedback (RLAIF), rischia di aggravare il problema, creando circuiti di auto-rinforzo dei bias. In questo scenario, emerge la necessità di garantire quello che Danielle Citron ha definito un “giusto processo tecnologico”.
Parallelamente, l’antropologia della burocrazia mostra come i sistemi amministrativi tendano a trattare gli individui in modo impersonale, riducendoli a categorie. Come evidenziano Graeber e Gupta, questa logica colpisce in modo diseguale, penalizzando soprattutto i gruppi marginali. L’introduzione degli algoritmi non elimina queste dinamiche, ma le riorganizza in nuove forme di potere, definite da alcuni autori come “algocrazia”.
Identità, dati e crisi dell’interpretazione
Una delle convinzioni più diffuse è che i dati possano descrivere e prevedere accuratamente il comportamento umano. Tuttavia, come sottolinea Veronica Barassi, questa idea si basa su presupposti fallaci: i dati non sono mai neutrali e l’accumulo di informazioni non equivale a una maggiore comprensione. L’identità umana, ridotta a “data subject” (Byung-Chul Han), perde la sua dimensione dialogica e simbolica. Sistemi come il riconoscimento emotivo, basati su teorie universalistiche ormai superate, mostrano i limiti di questa pretesa di oggettività. Come osserva Luke Stark, tali tecnologie rischiano di riprodurre logiche coloniali, imponendo modelli culturali occidentali come universali.
Di fronte a queste trasformazioni, la regolamentazione appare necessaria ma non sufficiente. L’Unione Europea ha introdotto strumenti, come il Digital Services Act, che promuovono trasparenza e accountability, ma le lacune restano significative.
Hans Jonas ricorda che la capacità tecnica dell’umanità supera oggi la sua capacità di prevedere le conseguenze delle proprie azioni. In questo scenario, la responsabilità diventa un principio fondamentale. Tuttavia, essa non può essere solo tecnica o normativa: deve essere anche culturale e politica. Hannah Arendt attribuisce all’immaginazione un ruolo centrale nella vita democratica: è grazie ad essa che possiamo comprendere l’altro e costruire uno spazio comune. Senza immaginazione, la democrazia stessa rischia di collassare. David Graeber, pur critico verso la burocrazia contemporanea, mantiene una prospettiva aperta: le possibilità umane eccedono sempre i sistemi che le organizzano. I nostri figli non sono necessariamente “figli dell’algoritmo”: il futuro dipende dalle scelte collettive che saremo in grado di compiere.
Calpurnia Cammarano
Riferimenti bibliografici e sitografici
- Barassi, V. (2021). I figli dell’algoritmo. Einaudi.
- Han, B.-C. (2024). Infocrazia. Le nostre vite manipolate dalla rete (F. Buongiorno, Trad.). Einaudi
- Han, La cura al virus è lo Stato di polizia? (2020), Avvenire
- The Social Dilemma. (2020). Regia di Jeff Orlowski. Netflix.
- Capitalismo della sorveglianza (2019), Zuboff
- Profiling Machines (2004), Elmer
- Segreto, Massimo Cerullo, Il Mulino
- H. Arendt, Verità e politica, Bollati Boringhieri, 2004.
- G. Simmel, Sociologia, Edizioni di Comunità, 1989
https://www.giuseppemotta.it/burocrazia-e-algoritmi-un-rapporto-problematico/
RISORSA UTILE DISPONIBILE -> Large Language Models Pass the Turing Test Cameron R. Jones
