Scegli l'Assistente
Il potere invisibile che orienta le scelte
Esiste una differenza profonda tra aiutare una persona a decidere e costruire un ambiente capace di spingerla, senza che se ne accorga, verso una decisione.
Per anni il dibattito sui dati personali si è concentrato sulla raccolta e sulla gestione delle informazioni personali; chi raccoglie i dati, quali dati raccoglie, dove li conserva, per quanto tempo li utilizza.
Queste domande restano importanti, ma oggi non bastano più.
La questione decisiva riguarda ciò che un sistema può ricavare dai nostri dati e il modo in cui può usare questa conoscenza per influenzare le nostre decisioni.
L’intelligenza artificiale ha accelerato un cambiamento profondo.
I sistemi digitali non si limitano più a registrare ciò che facciamo ma imparano dai nostri comportamenti, li confrontano, li interpretano e cercano di anticiparli.
Questo cambia il significato stesso dell’autodeterminazione.
La persona rischia di perdere il controllo sui propri dati e sui meccanismi che orientano le sue scelte.
Dalla profilazione alla previsione
La profilazione esisteva anche prima dell’era digitale.
Le organizzazioni hanno sempre cercato di conoscere le preferenze, le abitudini e i bisogni delle persone.
Oggi, però, possono farlo su una scala enorme, in tempo reale e attraverso sistemi automatizzati capaci di analizzare quantità di informazioni impensabili fino a pochi anni fa.
Un algoritmo può osservare segnali che, presi da soli, sembrano insignificanti.
Così, ad esempio, può rilevare quanto tempo restiamo su una pagina, la velocità con cui leggiamo, le pause durante la digitazione, il tono della voce, gli acquisti effettuati, i nostri spostamenti e le interazioni sui social network.
Considerati separatamente, questi elementi dicono poco. Però, se vengono combinati e analizzati attraverso il machine learning, possono rivelare moltissimo.
Il sistema può addirittura stimare la vulnerabilità emotiva di una persona, il suo livello di impulsività, la propensione al rischio, lo stato di stress, l’orientamento politico oppure la probabilità che acquisti un prodotto o lasci il proprio lavoro.
Quindi si può affermare che l’intelligenza artificiale non si limita più a descrivere una persona ma cerca di prevedere ciò che farà.
Non è teoria. Accade da anni
Nel 2012 fece scalpore il caso della catena americana Target, il cui sistema di marketing predittivo dedusse dagli acquisti di una giovane cliente una probabile gravidanza – che il padre della ragazza scoprì proprio dalle offerte per neonati recapitate a casa.
Qualche anno dopo, lo scandalo Cambridge Analytica mostrò che i “mi piace” lasciati su un social network bastavano a ricostruire profili psicologici di milioni di elettori, che sarebbero stati impiegati per calibrare messaggi politici sulle loro fragilità.
Due episodi diversi, la stessa lezione: il dato apparentemente banale, incrociato con milioni di altri dati, produce una conoscenza che la persona non ha mai fornito – e che spesso non possiede nemmeno su sé stessa.
Qui il modello tradizionale di protezione mostra i suoi limiti perché le garanzie ruotano soprattutto intorno ai dati che consegniamo mentre le inferenze nascono dal calcolo.
Così, ad esempio, nessuno dichiara a una piattaforma di essere emotivamente più fragile il martedì sera. È il sistema a ricavarlo osservando comportamenti, orari e reazioni.
La persona fornisce alcuni dati e l’algoritmo costruisce una conoscenza nuova.
Il corpo digitale
Per capire la portata del fenomeno serve un’immagine.
Ogni individuo possiede ormai una sorta di doppio invisibile: un corpo digitale, fatto di dati, cronologie, preferenze, pattern comportamentali, relazioni, movimenti e – soprattutto – inferenze algoritmiche.
Molto spesso le piattaforme conoscono questo doppio informativo meglio di quanto la persona conosca sé stessa: abitudini di consumo, orari di vulnerabilità, impulsi ricorrenti, stabilità psicologica.
E qui emerge una delle questioni più profonde del nostro tempo: chi controlla il corpo digitale acquisisce progressivamente capacità di influenza sulla persona reale.
Per questo il GDPR non può essere ridotto a una disciplina burocratica fatta di informative e consensi.
Il suo significato più profondo è impedire che il potere informativo diventi dominio invisibile sull’essere umano.
Il potere che non appare come potere
Prevedere, però, è solo la premessa.
Il salto avviene quando la conoscenza predittiva viene usata per orientare i comportamenti.
Il potere più efficace è quasi sempre quello che non appare come potere.
Quando una persona riceve un ordine esplicito, percepisce immediatamente il vincolo e quindi può obbedire, negoziare o ribellarsi.
Quando invece l’ambiente viene costruito per orientarne silenziosamente il comportamento, il condizionamento diventa molto più difficile da riconoscere e ciò che non si riconosce non si può contestare.
Questo è il terreno del cosiddetto nudging algoritmico: un insieme di tecniche che non impongono una scelta ma la rendono più probabile modificando il contesto in cui decidiamo. Le piattaforme non devono dirci esplicitamente cosa fare.
Possono orientare le nostre decisioni cambiando l’ordine delle informazioni, la posizione dei contenuti, la frequenza con cui compaiono, la loro intensità emotiva o i meccanismi di ricompensa che li accompagnano.
È ciò che accade ogni giorno nei social network.
Un algoritmo stabilisce quali contenuti mostrarci per primi, quali riproporre e quali lasciare sullo sfondo.
Impara rapidamente che cosa:
- cattura la nostra attenzione;
- ci fa reagire;
- ci trattiene più a lungo.
Rabbia, paura e conflitto generano spesso più interazioni e aumentano il tempo trascorso sulla piattaforma.
Per questo motivo, molti sistemi tendono ad amplificare proprio i contenuti che attivano queste emozioni.
Nessuno obbliga formalmente l’utente a fare qualcosa, ma l’ambiente digitale può essere progettato per sfruttare le sue fragilità cognitive ed emotive, guidando le scelte in modo invisibile, continuo e profondamente efficace.
Due persone, due realtà
Un esempio rende concreto il meccanismo.
Immaginiamo due persone cercano online informazioni sullo stesso tema politico.
La prima riceve contenuti moderati e istituzionali; la seconda contenuti rabbiosi e polarizzanti. Non per una scelta editoriale di qualcuno, ma perché i rispettivi profili suggeriscono che quei contenuti le tratterranno più a lungo.
Dopo mesi di esposizione differenziata, le due persone non vivono più nello stesso ecosistema informativo.
Formalmente entrambe sono libere ma sostanzialmente, il loro ambiente cognitivo è stato modellato da algoritmi diversi.
Nel Novecento la protezione dei diritti fondamentali era centrata soprattutto sulla libertà fisica.
Oggi emerge un’esigenza nuova: proteggere la libertà cognitiva – la capacità di formare pensieri autonomi, di maturare convinzioni senza manipolazioni occulte e di mantenere uno spazio mentale libero da condizionamenti sproporzionati.
La questione non è affermare che la persona perda completamente la libertà: sarebbe una semplificazione sbagliata.
Si tratta di comprendere che la libertà contemporanea vive dentro ecosistemi progettati per orientarla.
La decisione finale appare individuale ma il percorso che vi conduce è stato profondamente modellato.
Conclusioni
Il condizionamento algoritmico non ha il volto del potere tradizionale. Non impartisce ordini e non formula minacce ma predispone le alternative, seleziona le informazioni, calibra gli stimoli e premia determinate reazioni.
La sua invisibilità lo rende difficile da riconoscere e, quindi, da governare.
La persona può percepire come del tutto spontanea una scelta maturata all’interno di un ambiente costruito per renderla più probabile.
Quando i sistemi riescono a prevedere alcuni nostri comportamenti meglio di quanto riusciamo a fare noi stessi, dobbiamo ripensare dalle fondamenta il rapporto tra individuo, informazione e libertà.
Nel prossimo articolo vedremo dove questa dinamica è già diventata realtà quotidiana. Entreremo nel luogo di lavoro, dove gli algoritmi selezionano, controllano e valutano le persone, e nel campo della sicurezza, dove gli stessi strumenti che ci osservano sono anche quelli chiamati a proteggerci.
Questo articolo è stato elaborato con il supporto di sistemi di intelligenza artificiale; ideazione, contenuti, valutazioni e conclusioni sono frutto del lavoro intellettuale dell’autore, che li ha verificati e ne assume la piena responsabilità editoriale (art. 50 Reg. UE 2024/1689 – AI Act; legge 23 settembre 2025, n. 132).
