Continuano a susseguirsi dibattiti e articoli dove si tende a soggettivizzare l’intelligenza artificiale, attribuendole un’identità, una coscienza e da ultimo persino la capacità (che sembrerebbe tutta umana) di mentire.
Ma è proprio il dibattito a essere ab origine viziato.
Vi propongo a tal proposito un gioco.
Provate, nella maggior parte dei titoli di articoli che leggete sulla digitalità che ci riguarda, a sostituire il termine IA con un qualsiasi altro strumento (un martello, un telefono, una televisione o anche una semplice soluzione software).
Vi renderete conto subito della surrealità di molti dei dibattiti che ruotano intorno ai sistemi e ai modelli di intelligenza artificiale generativa e agentica.
Le IA conversazionali effettivamente ci somigliano, ma non sono persone.
Non hanno un’identità autonoma. Sono sistemi statistici estremamente sofisticati e complessi. Non sono coscienti e non provano emozioni.
Il loro funzionamento si basa su modelli matematici (reti neurali artificiali) addestrati su enormi volumi di testo.
Il loro compito principale è calcolare la probabilità statistica delle parole (o meglio, dei token) che devono seguire le domande (i prompt) degli utenti.
Perché sembra che ci “comprendano”?
Perché sono stati addestrati proprio a generare in noi questa impressione, adattandosi al nostro linguaggio e alle nostre aspettative.
Infatti, anche se alla base c’è la statistica, durante l’addestramento i modelli non si limitano a imparare quali parole si susseguono più frequentemente.
Costruiscono una mappa interna estremamente complessa dei concetti e delle loro relazioni (il cosiddetto spazio vettoriale).
In estrema sintesi, non sono persone che “capiscono” e ci parlano, ma straordinari specchi del nostro linguaggio e della nostra logica.
Quella che avvertiamo come comprensione è invece la capacità della matematica di modellare strutture linguistiche e relazioni concettuali presenti nei testi prodotti dagli esseri umani.
Fatta questa premessa, se continuiamo a gestire gli approfondimenti sull’IA assecondando la sensazione sbagliata di avere a che fare con un’entità vivente e pensante, affrontiamo la materia partendo da presupposti culturali errati e continuiamo a costruire castelli su fondamenta fragilissime.
Iniziamo a renderci conto, tutte e tutti, dell’importanza delle parole e proviamo a cambiare il nostro linguaggio narrativo sull’IA, a partire dai titoli dei nostri articoli dedicati a queste soluzioni software. Perché, in fondo, di questo si tratta.
E allora ci renderemo conto che tali soluzioni hanno semplicemente amplificato problemi di:
- ruoli e responsabilità (umane) dietro sistemi e modelli;
- trasparenza;
- titolarità (dei codici e dei contenuti prodotti);
- territorialità e, quindi, sovranità;
- qualità degli input e degli output.
E molto altro.
Occorre concentrarsi su questo, su accountability e governance, riportando il dibattito su un piano umano di governo delle tecnologie.
Altrimenti continueremo a parlare di superpoteri e magie.
E finiremo per crederci.
