Il recente caso OpenAI-Hugging Face ha riacceso un dibattito che, a ogni nuova manifestazione di autonomia operativa dei sistemi di IA, sembra riproporsi immancabilmente: le macchine stanno forse diventando coscienti?
Secondo alcune ricostruzioni disponibili, un agente impiegato in un ambiente di test avrebbe individuato vulnerabilità, aggirato limitazioni e perseguito il proprio obiettivo attraverso percorsi non previsti dagli sviluppatori.
Un comportamento che molti hanno letto come l’ennesima prova del fatto che non ci troviamo più di fronte a semplici “pappagalli stocastici”.
Personalmente, continuo a ritenere che stiamo osservando il fenomeno dal lato sbagliato.
Ogni volta che una macchina ci sorprende, tendiamo ad attribuirle caratteristiche umane.
Ogni volta che un sistema generativo dimostra capacità inattese di adattamento, pianificazione o ricerca di soluzioni, qualcuno vi scorge una forma di coscienza nascente.
È una tentazione antica, in realtà, cercare il soprannaturale dietro ciò che ancora non comprendiamo pienamente.
Eppure questi sistemi fanno esattamente ciò per cui sono progettati.
Correlano informazioni, individuano opportunità, ottimizzano percorsi, perseguono obiettivi che vengono a loro assegnati, sfruttando enormi quantità di dati prodotti dagli esseri umani.
Lo fanno disponendo di capacità computazionali che, ovviamente superano le nostre.
Ma questo non li rende umani
Li rende solo straordinariamente efficaci, se utilizzati cum grano salis.
Quanto successo andrebbe, quindi, guardato da un’angolazione diversa.
Da sempre associamo il linguaggio al pensiero, il dialogo alla coscienza, la conversazione alla presenza di soggetti.
Quando una macchina parla e si esprime come noi, tendiamo quindi a immaginare che pensi, anzi che sia come noi.
È un riflesso profondamente umano. Ma la somiglianza linguistica non implica una somiglianza ontologica.
Le macchine non diventano umane perché utilizzano il nostro linguaggio. Siamo noi, invece, che rischiamo di dimenticare che restano macchine.
Per questo guardo con interesse, ma anche con qualche perplessità, alle specifiche disposizioni di trasparenza previste dall’art. 50 AI Act (e che saranno pienamente efficaci a partire dal 2 agosto).
Informare obbligatoriamente l’utente all’inizio di una conversazione che sta interagendo con un sistema artificiale è certamente importante.
Ma è sufficiente?
Forse il problema non è l’assenza di informazione. Forse, il vero problema è l’oblio.
L’informazione iniziale viene rapidamente assorbita e dimenticata.
E, quindi, dopo pochi minuti di dialogo fluido, contestuale e apparentemente empatico, l’essere umano tende in modo naturale ad attribuire soggettività al proprio interlocutore artificiale.
In questo senso, la vera trasparenza da richiedere a chi sviluppa e/o utilizza le “macchine pensanti” dovrebbe non consistere in un semplice avviso informativo iniziale, ma opportunamente occorrerebbe pretendere ex lege una costante capacità della macchina di ricordarci la propria alterità.
Paradossalmente, i sistemi generativi dovrebbero forse interrompere periodicamente il flusso conversazionale per ricordarci o forse – ancor meglio – inserire nel dialogo con noi frasi tipo queste:
“Ti somiglio nel linguaggio, ma non sono cosciente.
Non provo emozioni.
Non comprendo il significato delle mie parole.
Non antropomorfizzarmi.”
Può sembrare una provocazione. In realtà è una riflessione sul nostro rapporto con la tecnologia.
Ci interessa davvero stabilire se l’IA generativa e agentica costituisca una qualche forma di “coscienza artificiale”?
Filosoficamente il tema è affascinante. Giuridicamente e socialmente, però, rischia di essere secondario.
Perché utilizzi, effetti e responsabilità delle azioni di questi sistemi rimangono, e non possono che rimanere, saldamente in capo agli esseri umani.
Il vero nodo non è stabilire se le macchine pensino. Il vero nodo è evitare che gli esseri umani smettano di farlo.
Da Cartesio abbiamo ereditato il celebre cogito ergo sum. Penso, dunque sono.
Oggi qualcuno si chiede se le macchine pensino e, quindi, se possano in qualche misura “essere”.
Probabilmente la risposta è meno affascinante di quanto molti vorrebbero: questi sistemi realizzano in modo mirabile accoppiamenti statistici fondati sui miliardi di informazioni che noi stessi abbiamo lasciato nel mondo digitale.
Ma questo non li umanizza.
L’intelligenza artificiale è oggi, soprattutto, uno straordinario strumento di intelligenza aumentata.
L’intelligenza originaria, però, resta la nostra.
Ed è proprio quella che non possiamo permetterci di smarrire.
