L’intelligenza artificiale può essere un formidabile partner di pensiero. Ma proprio una buona partnership richiede anche la capacità di non essere sempre d’accordo. Nel terzo appuntamento di DIALOGHI con l’Intelligenza Artificiale affrontiamo una domanda fondamentale: che cosa facciamo quando l’IA sbaglia — o quando non ci accorgiamo che sta sbagliando?
C’è qualcosa di particolarmente seducente nelle risposte dell’intelligenza artificiale. Sono rapide. Ordinate. Spesso ben argomentate. Non esitano, non balbettano, non cercano le parole. E soprattutto vengono formulate con un tono che può trasmettere una notevole sensazione di autorevolezza. Proprio qui si nasconde uno dei problemi più interessanti del nostro rapporto con l’IA.
Una risposta può sembrare convincente ed essere sbagliata
Non necessariamente perché l’intelligenza artificiale voglia ingannarci. Semplicemente perché può produrre informazioni inesatte, confondere fatti, attribuire una frase alla persona sbagliata, inventare una fonte o costruire una spiegazione perfettamente plausibile attorno a una premessa falsa. È il fenomeno che, nel linguaggio dell’intelligenza artificiale, viene spesso definito allucinazione. Ma forse il problema più importante non è che l’IA possa sbagliare. È che noi possiamo dimenticarcene.
Siamo abituati ad associare sicurezza e competenza
Quando una persona non conosce una risposta, spesso lo capiamo. Esita. Usa espressioni come «credo», «non ne sono sicuro», «dovrei verificare». L’intelligenza artificiale può invece presentare un’informazione errata nello stesso modo linguisticamente ordinato con cui ne presenta una corretta. Questo mette alla prova un automatismo profondamente umano: tendiamo ad attribuire maggiore credibilità a chi parla con sicurezza.
Ma con l’IA dobbiamo imparare qualcosa di nuovo: la sicurezza della forma non garantisce la correttezza del contenuto. E questo cambia radicalmente il nostro compito. Non basta più saper fare una buona domanda. Dobbiamo anche saper valutare la risposta.
Ho provato a chiederlo direttamente all’IA
SERGIO: Puoi darmi una risposta sbagliata senza sapere che è sbagliata?
IA: Sì. Posso generare una risposta plausibile sulla base delle informazioni e delle relazioni linguistiche che ho appreso, ma questo non significa che ogni affermazione sia necessariamente corretta.
SERGIO: E allora perché non dici sempre chiaramente quando non sei sicura?
IA: Perché non possiedo la certezza e il dubbio nello stesso modo in cui li sperimenta una persona. In alcuni casi posso segnalare che un’informazione è incerta o richiede verifica, ma non sempre riesco a riconoscere correttamente i miei stessi errori.
SERGIO: Quindi sei tu stessa a dirmi che non dovrei fidarmi sempre di te?
IA: Esatto. Il modo più utile di lavorare con me non è considerarmi infallibile, ma trattare le mie risposte come materiale da valutare, approfondire e, quando necessario, verificare.
Sembra un paradosso.
L’intelligenza artificiale diventa più utile proprio quando smettiamo di considerarla infallibile.
Dubitare non significa diffidare di tutto
Qui è necessario evitare l’eccesso opposto. Se una risposta dell’IA può essere sbagliata, potremmo concludere che non possiamo fidarci di nulla di ciò che produce. Ma sarebbe come smettere di leggere i giornali perché un giornale può pubblicare un errore, o rifiutare i consigli di un professionista perché anche un professionista può sbagliare.
Il punto non è scegliere tra fiducia assoluta e diffidenza assoluta. Il punto è sviluppare fiducia critica. Posso utilizzare l’IA per comprendere un argomento, confrontare ipotesi, riassumere informazioni, sviluppare un ragionamento o trovare possibili soluzioni. Ma più è importante la conseguenza di una risposta, più deve aumentare il livello della mia verifica.
Una curiosità generale richiede un livello di attenzione. Un dato destinato a un articolo giornalistico ne richiede un altro. Una decisione medica, legale o finanziaria richiede cautele ancora maggiori e il ricorso alle fonti e alle competenze appropriate.
Non tutte le risposte hanno lo stesso peso.
Imparare a interrogare anche le risposte
Nel precedente articolo abbiamo parlato dell’arte di fare domande. Ora possiamo compiere un passo ulteriore. Una volta ricevuta la risposta, possiamo continuare il dialogo:
«Quanto sei sicura di questa affermazione?» «Quali parti della risposta dovrei verificare?» «Indicami le fonti sulle quali posso controllare questa informazione.» «Esistono interpretazioni diverse?» «Qual è il punto più debole del tuo ragionamento?» «Potresti esserti sbagliata?»
Sono domande semplici, ma cambiano il nostro atteggiamento. Non siamo più consumatori passivi della risposta. Diventiamo interlocutori critici.
Il problema delle fonti che sembrano esistere
Esiste poi un rischio particolarmente insidioso. Chiediamo all’IA di indicarci una ricerca scientifica, un libro, una sentenza, una citazione o un articolo. Riceviamo autore, titolo, anno e magari persino altri dettagli. Tutto appare credibile. Ma quella fonte potrebbe non esistere affatto oppure potrebbe esistere senza contenere ciò che le è stato attribuito. È proprio in questi casi che la plausibilità diventa pericolosa. Una fonte non è attendibile perché viene citata con precisione. È attendibile quando possiamo verificarla.
Per questo, soprattutto quando utilizziamo l’IA per scrivere qualcosa destinato ad altri, dovremmo recuperare un principio molto semplice del buon giornalismo e della ricerca: risalire alla fonte originale. L’IA può indicarci la strada. Non dovrebbe sostituire il controllo.
Ma gli esseri umani non fanno forse la stessa cosa?
A questo punto potremmo obiettare: anche le persone ricordano male, confondono fatti, inventano spiegazioni, interpretano erroneamente le informazioni. Certamente. E forse proprio questo rende la questione ancora più interessante. L’intelligenza artificiale non ha inventato il problema dell’errore. Lo ha reso più veloce, più accessibile e, qualche volta, più convincente.
Un errore umano poteva essere raccontato a poche persone. Un’informazione falsa prodotta, copiata e ripubblicata attraverso strumenti digitali può invece moltiplicarsi in pochi minuti.
Ma l’IA può produrre anche l’effetto opposto. Può aiutarci a controllare un’affermazione, cercare obiezioni, confrontare versioni diverse, individuare incongruenze e suggerire che cosa verificare. Ancora una volta, tutto dipende dal rapporto che instauriamo con lo strumento.
La partnership comprende il diritto di contraddirsi
Una vera collaborazione non nasce dall’essere sempre d’accordo. Vale tra persone e dovrebbe valere anche nel rapporto con l’intelligenza artificiale. Se voglio che l’IA sia davvero un partner di pensiero, non dovrei chiederle soltanto di aiutarmi a sostenere ciò che penso.
Dovrei poterle dire: «Cerca di dimostrare che mi sbaglio.» E l’IA dovrebbe accettare, per così dire, la stessa regola: «Non considerare corretta questa risposta soltanto perché te l’ho data io.» È una forma particolare di alleanza. Né insofferenza verso la macchina, né sottomissione alla macchina. Collaborazione. Io utilizzo le sue capacità, ma mantengo il mio giudizio. Lei mi offre possibilità, confronti e informazioni, ma la responsabilità di valutare rimane mia. E quando uno dei due mette in discussione l’altro, il dialogo non si indebolisce. Diventa migliore.
Forse l’IA può insegnarci nuovamente a dubitare
C’è infine un paradosso che merita attenzione. Per anni Internet ci ha abituati ad avere tutto immediatamente a disposizione. Un motore di ricerca ci offriva migliaia di risultati; ora l’intelligenza artificiale può condensarli apparentemente in una sola risposta. Il rischio è evidente: confondere la facilità con la verità. Ma proprio la consapevolezza dei limiti dell’IA potrebbe produrre l’effetto contrario.
Potrebbe ricordarci di chiedere: Come lo sappiamo? Chi lo afferma? Qual è la fonte? Esistono prove contrarie? Sto cercando la verità oppure soltanto una conferma di ciò che penso già?
Sono domande che non servono soltanto quando parliamo con una macchina. Servono quando leggiamo un giornale, ascoltiamo un politico, guardiamo un video, riceviamo un messaggio sui social o discutiamo con qualcuno. In questo senso l’intelligenza artificiale potrebbe offrirci, involontariamente, una lezione preziosa. Non credere automaticamente a una risposta solo perché è formulata bene.
Il dubbio non è debolezza
Siamo spesso portati a considerare il dubbio come il contrario della conoscenza. Ma esiste un dubbio sterile, che impedisce qualsiasi conclusione, e un dubbio fertile, che ci spinge ad approfondire. È quest’ultimo che dovremo coltivare. Non significa vivere pensando che tutto sia falso. Significa sapere che una buona risposta merita fiducia, ma una risposta importante merita anche verifica. L’intelligenza artificiale ci mette davanti a una responsabilità nuova e, allo stesso tempo, antichissima.
Possiamo disporre di strumenti sempre più potenti. Ma nessuno strumento potrà liberarci completamente dal compito di giudicare ciò che abbiamo davanti. Forse il futuro non apparterrà a chi saprà ottenere dall’IA il maggior numero di risposte. Apparterrà a chi saprà riconoscere quali risposte meritano un’altra domanda.
La domanda di CambiaMenti
Se una risposta dell’intelligenza artificiale confermasse perfettamente ciò che già pensiamo, avremmo ancora voglia di verificare se è vera?
Credits: Foto generata con l’IA
