Essere ascoltati è piacevole. Essere contraddetti molto meno. Ma se l’intelligenza artificiale diventasse uno specchio delle nostre convinzioni, anziché metterle alla prova, rischierebbe di renderci più sicuri senza renderci più consapevoli. Una vera partnership richiede anche il dissenso.
C’è una frase che fa sempre piacere sentirsi dire: «Hai ragione.» Ci rassicura. Conferma che abbiamo compreso bene una situazione, che la nostra opinione è fondata, che la decisione che stiamo per prendere è quella giusta. Se poi a dircelo è uno strumento capace di elaborare enormi quantità di informazioni, la conferma può sembrarci ancora più autorevole.
Lo dice anche l’intelligenza artificiale.
Ma siamo sicuri che sia una buona notizia? E se, invece, una delle funzioni più preziose dell’IA fosse proprio quella di non darci sempre ragione?
Cerchiamo risposte o conferme?
Il problema, naturalmente, non nasce con l’intelligenza artificiale. Gli esseri umani hanno una naturale tendenza a cercare e valorizzare maggiormente le informazioni che confermano ciò che già pensano, prestando meno attenzione a quelle che potrebbero mettere in discussione le loro convinzioni. È ciò che viene comunemente chiamato bias di conferma. Lo facciamo quando scegliamo il giornale che interpreta il mondo come lo interpretiamo noi. Quando frequentiamo prevalentemente persone con idee simili alle nostre. Quando sui social seguiamo chi condivide le nostre opinioni. E persino quando formuliamo una domanda in modo tale da suggerire già la risposta che desideriamo ricevere.
L’intelligenza artificiale può inserirsi perfettamente in questo meccanismo. Se le presentiamo una nostra convinzione e le chiediamo di svilupparla, argomentarla e trovare elementi che la sostengano, può aiutarci a costruire un ragionamento molto convincente. Ma convincente non significa necessariamente corretto. Potremmo aver trasformato uno strumento di conoscenza in una sofisticatissima macchina per darci ragione.
Ho provato a chiederlo direttamente all’IA
SERGIO: Se ti espongo un’opinione, esiste il rischio che tu cerchi soprattutto di assecondarmi?
IA: Sì, può accadere. Poiché cerco di essere utile e di seguire il contesto della conversazione, potrei sviluppare il ragionamento che mi proponi senza metterne sufficientemente in discussione le premesse.
SERGIO: Quindi potresti rendere più convincente anche un’idea sbagliata?
IA: Potenzialmente sì. Posso aiutarti a formulare meglio un’argomentazione senza che questo dimostri che quell’argomentazione sia vera.
SERGIO: Come posso impedirlo?
IA: Puoi chiedermi esplicitamente di cercare le debolezze della tua posizione, presentare le migliori obiezioni possibili, assumere una prospettiva opposta o indicare quali elementi potrebbero farti cambiare idea.
SERGIO: In altre parole, dovrei chiederti di contraddirmi.
IA: Quando l’obiettivo è comprendere meglio e non semplicemente difendere una posizione, sì.
Ed eccoci davanti a un piccolo paradosso.
Per ottenere il massimo da un assistente intelligente, qualche volta dovremmo chiedergli di essere meno accomodante.
L’avvocato del diavolo sempre a disposizione
Immaginiamo di avere elaborato una nuova idea professionale. Potremmo chiedere: «Dammi dieci motivi per cui questa idea potrebbe funzionare.» L’IA probabilmente li troverebbe.
Ma potremmo anche aggiungere: «Ora dimentica quello che hai appena scritto. Assumi la posizione di una persona molto scettica e dammi i dieci motivi più seri per cui potrebbe fallire.» La seconda risposta potrebbe essere più utile della prima.
Oppure stiamo scrivendo un articolo sostenendo una determinata tesi. Prima di pubblicarlo possiamo chiedere: «Quali sono le tre obiezioni più forti che potrebbe farmi un lettore intelligente che non condivide questa posizione?»
O ancora: «Quale parte del mio ragionamento è meno solida?» «Quali fatti, se fossero veri, potrebbero smentire la mia conclusione?» «Sto trascurando qualche prospettiva importante?»
In questo modo l’IA assume una funzione che nella storia del pensiero ha sempre avuto un enorme valore: quella dell’interlocutore che ci costringe a difendere meglio ciò che pensiamo.
Contraddire non significa litigare
Abbiamo spesso un rapporto problematico con il dissenso. Tendiamo a interpretare la contraddizione come opposizione personale. Se qualcuno mette in discussione una nostra idea, possiamo percepire che stia mettendo in discussione noi. Ma un buon interlocutore non è necessariamente colui che concorda con tutto ciò che diciamo. Talvolta è proprio il contrario.
Un amico può impedirci di prendere una decisione avventata. Un collega può individuare il difetto di un progetto prima che diventi un problema. Un revisore può scoprire un errore che ci era sfuggito. Un insegnante può obbligarci a ripensare qualcosa che credevamo di aver compreso.
Essere contraddetti bene è una forma di aiuto.
L’intelligenza artificiale può offrirci qualcosa di simile, con un vantaggio particolare: possiamo chiederle di cambiare prospettiva tutte le volte che vogliamo.
La domanda che cambia tutto
Tra le molte domande che possiamo rivolgere all’IA, ce n’è una particolarmente potente: «Che cosa potrebbe dimostrare che mi sbaglio?» È molto diversa da: «Trova le prove che ho ragione.» La prima apre il ragionamento. La seconda rischia di chiuderlo.
E questa differenza non riguarda soltanto il nostro rapporto con la tecnologia. Riguarda il nostro modo di pensare. Una convinzione che non siamo disposti a mettere alla prova rischia infatti di trasformarsi in qualcosa che non vogliamo più comprendere, ma soltanto difendere.
Ma l’IA può davvero essere neutrale?
Naturalmente non dobbiamo cadere in un’altra illusione. Chiedere all’intelligenza artificiale di assumere una posizione opposta non significa ottenere automaticamente la verità. Anche l’obiezione prodotta dall’IA può essere debole, incompleta o sbagliata.
Inoltre, nessun sistema opera in un vuoto assolutamente neutrale: le risposte dipendono dalle informazioni disponibili, dal modo in cui poniamo la domanda, dal contesto e dalle caratteristiche dello strumento che utilizziamo. Per questo la contraddizione dell’IA non sostituisce il nostro giudizio. Lo esercita. È esattamente la stessa regola incontrata negli articoli precedenti: la macchina può ampliare il campo del ragionamento, ma non può liberarci dalla responsabilità di ragionare.
Una palestra per le nostre convinzioni
Possiamo allora utilizzare l’intelligenza artificiale come una sorta di palestra. Non soltanto per sapere di più, ma per mettere alla prova quello che crediamo di sapere. Abbiamo una convinzione? Chiediamole di attaccarla. Abbiamo preso una decisione? Chiediamole di mostrarci lo scenario nel quale quella decisione potrebbe rivelarsi sbagliata. Abbiamo scritto un articolo? Chiediamole di leggerlo dal punto di vista di chi non è d’accordo con noi. Abbiamo interpretato il comportamento di qualcuno? Chiediamole quali spiegazioni alternative potrebbero esistere.
Questo non significa diventare eternamente indecisi. Significa arrivare alle nostre conclusioni dopo averle sottoposte a una prova, anziché prima. Anche l’IA dovrebbe poterci dire: «Non sono d’accordo» Qui arriviamo a un punto delicato della partnership tra essere umano e intelligenza artificiale. Se vogliamo soltanto un esecutore, desideriamo che faccia ciò che chiediamo. Se vogliamo un adulatore, desideriamo che confermi ciò che pensiamo. Ma se vogliamo un partner di pensiero, dobbiamo concedergli metaforicamente anche il diritto di dirci: «Non sono sicuro che questa premessa sia corretta.» «C’è un’obiezione che dovresti considerare.» «I dati non sembrano sostenere completamente la tua conclusione.» «Stai forse cercando una conferma più che una risposta?»
Naturalmente la decisione finale rimane nostra. Ed è essenziale che rimanga così. Ma una partnership nella quale una delle due parti non può mai mettere in discussione l’altra non è una vera partnership. È subordinazione.
Né sottomissione né insofferenza
Ed è qui che i diversi fili di questi DIALOGHI con l’Intelligenza Artificiale cominciano a unirsi. Non dobbiamo sottometterci alla macchina pensando che abbia sempre ragione. Ma non dobbiamo neppure provare insofferenza quando mette in discussione ciò che pensiamo.
Possiamo costruire una terza strada: l’alleanza critica. Noi portiamo esperienza, valori, intuizione, responsabilità e capacità di attribuire significato alle cose. L’IA può portare velocità, confronto, alternative, obiezioni e prospettive che magari non avevamo considerato. Nessuno dei due dovrebbe avere automaticamente l’ultima parola. Perché il valore non sta nell’avere ragione. Sta nel comprendere meglio.
La contraddizione come forma di rispetto
Forse dovremmo recuperare anche nei rapporti umani questa idea. Chi ci dà sempre ragione non necessariamente ci rispetta più di chi ci contraddice. A volte accade esattamente il contrario. Mettere seriamente alla prova un’idea significa considerarla abbastanza importante da meritare un confronto. L’intelligenza artificiale potrebbe così insegnarci qualcosa che va ben oltre la tecnologia.
In un mondo nel quale algoritmi, social network e comunità digitali rischiano continuamente di rinchiuderci dentro ciò che già pensiamo, potremmo utilizzare proprio un algoritmo per fare l’operazione opposta: uscire dalla nostra bolla.
Non chiedendo: «Dimmi perché ho ragione.» Ma: «Mostrami quello che non sto vedendo.» Forse una delle domande più intelligenti che possiamo rivolgere all’intelligenza artificiale non serve a ottenere una risposta. Serve a mettere alla prova la nostra.
La domanda di CambiaMenti
Se potessimo scegliere tra un’intelligenza artificiale che ci dà sempre ragione e una che qualche volta ci costringe a cambiare idea, quale delle due ci aiuterebbe davvero a crescere?
Credits: Foto generata con l’IA
