Chiediamo sempre più spesso all’IA non soltanto informazioni, ma anche consigli: cosa scegliere, come comportarci, quale alternativa preferire. Ma quando un suggerimento diventa una decisione? Nell’ottavo appuntamento di DIALOGHI con l’Intelligenza Artificiale affrontiamo il confine forse più delicato della nostra partnership con la macchina: quello della responsabilità.
«Che cosa mi consigli?» È probabilmente una delle domande più naturali che possiamo rivolgere a un’intelligenza artificiale. Dobbiamo acquistare qualcosa e le chiediamo di confrontare le alternative. Dobbiamo organizzare un viaggio e le domandiamo quale itinerario scegliere. Abbiamo scritto due versioni di un testo e vogliamo sapere quale funziona meglio. Dobbiamo affrontare una situazione professionale e le chiediamo come comportarci. Fin qui nulla di particolarmente sorprendente. Ma proviamo a spostarci di qualche passo. «Dovrei accettare questa proposta di lavoro?» «È meglio investire in questa soluzione o nell’altra?» «Dovrei interrompere questa collaborazione?»«Secondo te questa persona è affidabile?» «Che cosa faresti al mio posto?» A quel punto qualcosa cambia. Non stiamo più chiedendo semplicemente informazioni. Stiamo avvicinando l’intelligenza artificiale al territorio delle nostre decisioni.
Decidere è più che calcolare
Una decisione può certamente contenere una parte di calcolo. Quale automobile consuma meno? Quale contratto costa meno? Quale percorso è più veloce? Quale soluzione presenta statisticamente meno rischi? In questi casi l’intelligenza artificiale può aiutarci a raccogliere informazioni, confrontare criteri e mettere ordine tra molte variabili. Ma non tutte le decisioni funzionano così. Immaginiamo due offerte di lavoro. La prima garantisce uno stipendio più alto e maggiori possibilità di carriera. La seconda offre meno denaro ma più tempo per la famiglia e un’attività che sentiamo maggiormente vicina ai nostri valori. Qual è la scelta migliore? Non esiste necessariamente un calcolo capace di stabilirlo. Perché prima di confrontare le alternative dobbiamo rispondere a un’altra domanda: che cosa conta di più per noi? Ed è qui che il confine tra intelligenza artificiale e decisione umana diventa evidente. L’IA può aiutarci a calcolare le conseguenze. Ma non dovrebbe essere lei a stabilire quali conseguenze abbiano più valore nella nostra vita.
Ho provato a chiederlo direttamente all’IA
SERGIO: Se ti raccontassi perfettamente una situazione, potresti prendere una decisione migliore della mia?
IA: Potrei aiutarti a confrontare alternative, individuare rischi, evidenziare conseguenze e considerare elementi che potresti aver trascurato. Ma “migliore” dipende anche dai tuoi valori, dalle tue priorità e da ciò che sei disposto ad accettare.
SERGIO: Ma se conoscessi anche i miei valori?
IA: Potrei cercare di tenerne conto, ma rimarrebbe una differenza fondamentale: io posso elaborare ciò che mi hai comunicato sui tuoi valori; tu sei la persona che dovrà vivere le conseguenze della scelta.
SERGIO: Quindi quando ti chiedo: “Che cosa devo fare?”, qual è la risposta più utile?
IA: In molte situazioni potrebbe essere più utile aiutarti a chiarire i criteri della decisione anziché scegliere direttamente al posto tuo.
SERGIO: In pratica, ancora una volta dovresti farmi delle domande.
IA: Spesso sì. Una buona decisione può nascere da domande migliori prima ancora che da una risposta migliore.
Siamo tornati al punto dal quale questa serie era partita. L’IA può essere più utile quando ci aiuta a pensare, non quando ci evita di farlo.
Il consiglio è comodo perché alleggerisce la responsabilità
C’è però un motivo molto umano per cui potremmo essere tentati di delegare una decisione. Decidere pesa. Soprattutto quando non esiste una scelta chiaramente giusta. Ogni decisione importante contiene infatti una rinuncia. Scegliere una strada significa non percorrerne un’altra. E quando le conseguenze sono incerte, può essere rassicurante affidarsi a qualcuno che sembra vedere più cose di noi. «L’IA mi ha consigliato questa soluzione.» Questa frase potrebbe diventare molto più comune di quanto immaginiamo. Ma contiene un pericolo. Perché possiamo delegare un’analisi. Possiamo delegare un calcolo. Possiamo persino delegare parte della ricerca delle alternative. Non possiamo delegare nello stesso modo la responsabilità delle conseguenze.
La macchina non paga il prezzo delle nostre scelte
Immaginiamo di chiedere all’IA se lasciare un lavoro. Può analizzare stipendio, prospettive professionali, distanza da casa, mercato del settore, vantaggi e svantaggi. Può persino aiutarci a costruire scenari: «Che cosa potrebbe accadere tra un anno se rimango?» «E se invece me ne vado?» Tutto utile. Ma dopo aver premuto il pulsante Invia delle dimissioni, non sarà l’intelligenza artificiale a svegliarsi il mattino successivo chiedendosi se abbiamo fatto la scelta giusta. Non dovrà pagare il mutuo. Non dovrà spiegare la decisione alla famiglia. Non proverà sollievo se la scelta si rivelerà giusta. Non sentirà rimpianto se si rivelerà sbagliata. Chi vive le conseguenze deve conservare un ruolo decisivo nella scelta. Può sembrare ovvio. Ma potrebbe diventarlo sempre meno man mano che i sistemi saranno capaci di offrirci consigli sempre più personalizzati e convincenti.
Dalla risposta alla mappa della decisione
Possiamo allora cambiare il modo in cui utilizziamo l’IA. Invece di chiedere: «Quale alternativa devo scegliere?»potremmo dire: «Aiutami a costruire una mappa della decisione.» Quali sono le alternative? Quali vantaggi e svantaggi presenta ciascuna? Quali conseguenze potrebbero emergere nel breve e nel lungo periodo? Quali informazioni mi mancano? Quali rischi sto sottovalutando? Quale scenario non ho considerato? Quali miei valori entrano in conflitto? Che cosa dovrebbe essere vero perché una scelta sia migliore dell’altra? A quel punto l’IA non decide. Illumina il terreno sul quale dovremo decidere. Ed è probabilmente uno dei modi più potenti di utilizzarla.
Possiamo anche chiederle di non consigliarci
Potremmo persino formulare una richiesta apparentemente paradossale: «Non dirmi cosa devo fare.» E continuare: «Fammi invece dieci domande che mi aiutino a capire quale decisione è più coerente con ciò che considero importante.» La differenza è enorme. Nel primo caso cerchiamo un verdetto. Nel secondo cerchiamo chiarezza. E la chiarezza è spesso ciò di cui abbiamo realmente bisogno quando diciamo di volere un consiglio. Perché qualche volta conosciamo già le alternative. Quello che non abbiamo ancora compreso è quale prezzo siamo disposti a pagare per ciascuna di esse.
Quando l’IA conosce le nostre preferenze
Il problema diventa ancora più interessante se colleghiamo questo articolo al precedente. Abbiamo visto che un’intelligenza artificiale può, entro determinati limiti e a seconda delle funzioni disponibili, utilizzare informazioni sulle nostre preferenze e sui nostri comportamenti passati. Immaginiamo allora che ci dica: «Considerando ciò che hai scelto in situazioni simili, penso che preferirai la seconda alternativa.» Potrebbe avere ragione. Ma qui nasce una domanda fondamentale. Vogliamo decidere oggi sulla base della persona che siamo stati ieri? Le nostre scelte precedenti sono informazioni preziose. Non sono necessariamente istruzioni per il futuro. Possiamo cambiare. Possiamo decidere che una priorità non è più tale. Possiamo accettare un rischio che prima evitavamo. Possiamo scoprire un valore che avevamo trascurato. Una buona IA dovrebbe forse ricordarci le nostre preferenze. Ma non trasformarle in una gabbia. «Che cosa faresti al mio posto?» È una domanda che rivolgiamo spesso anche alle persone. A un amico. A un familiare. A un professionista. Ma contiene una piccola impossibilità. Nessuno può essere davvero al nostro posto. Perché porterebbe comunque con sé la propria storia, il proprio carattere, le proprie paure e i propri valori. Con l’intelligenza artificiale questa impossibilità è ancora più evidente. Può elaborare le informazioni che le forniamo. Può simulare scenari. Può confrontare prospettive. Ma non può diventare noi. Forse dovremmo allora sostituire: «Che cosa faresti al mio posto?» con una domanda molto più utile: «Che cosa dovrei considerare prima di decidere?» È meno rassicurante. Ma ci restituisce la responsabilità.
Non tutte le decisioni hanno lo stesso peso
Naturalmente sarebbe assurdo trasformare ogni scelta quotidiana in una questione filosofica. Possiamo tranquillamente chiedere all’IA quale formato utilizzare per un’immagine, come ordinare un elenco o quale percorso sembri più efficiente. Il problema cambia quando aumentano le conseguenze. Più una decisione riguarda salute, denaro, lavoro, relazioni, diritti o altri aspetti importanti della nostra vita, meno dovremmo confondere assistenza alla decisione e delega della decisione. In alcuni ambiti sarà inoltre indispensabile rivolgersi a professionisti qualificati e verificare le informazioni su fonti affidabili. L’IA può essere una voce nella stanza. Non necessariamente la voce che decide.
E quando sarà l’algoritmo a decidere davvero?
Finora abbiamo immaginato decisioni personali. Ma esiste un’altra dimensione. Algoritmi e sistemi automatizzati possono contribuire sempre più spesso a decisioni che riguardano altre persone: selezione di candidati, valutazione del rischio, concessione di servizi, individuazione di anomalie, definizione di priorità. Qui la domanda «Chi ha deciso?» diventa ancora più importante. Perché dire: «Lo ha deciso l’algoritmo» non dovrebbe diventare un modo elegante per far scomparire la responsabilità umana. Qualcuno ha scelto di utilizzare quel sistema. Qualcuno ha stabilito i criteri. Qualcuno deve poter controllare il risultato. E soprattutto qualcuno deve poter rispondere delle conseguenze. Automatizzare una decisione non significa automatizzare la responsabilità.
Il rischio dell’autorità invisibile
L’IA possiede inoltre una caratteristica particolare. Può influenzare una decisione senza apparire come qualcuno che sta decidendo. Ci presenta tre alternative. Ma perché proprio quelle tre? Ne ordina una per prima. Ci dice che una soluzione è “probabilmente migliore”. Utilizza una formulazione più favorevole per una possibilità rispetto a un’altra. Anche senza impartirci un ordine, può orientare il nostro giudizio. È ciò che accade già in molti ambienti digitali. Un navigatore non ci obbliga a percorrere una strada. Eppure, quasi sempre percorriamo quella che ci propone. Una piattaforma non ci obbliga a guardare un video. Ma decide quale mostrarci subito dopo. La raccomandazione può diventare una forma silenziosa di decisione. Per questo dovremo imparare non soltanto a chiederci se un consiglio è buono. Ma anche: «Perché questa alternativa mi è stata presentata?»
La partnership ha bisogno di un confine
Arriviamo così ancora una volta al principio che accompagna questi DIALOGHI con l’Intelligenza Artificiale. Partnership non significa equivalenza dei ruoli. Io e l’IA possiamo collaborare. Ma portiamo nella collaborazione cose diverse. L’IA può confrontare. Calcolare. Organizzare. Simulare. Far emergere contraddizioni. Ricordarci qualcosa che abbiamo trascurato. Noi dobbiamo portare ciò che non possiamo consegnarle con la stessa facilità: valori, significato, coscienza delle conseguenze e responsabilità. Forse potremmo riassumere questa divisione dei compiti con una formula molto semplice: all’IA possiamo chiedere di ampliare la decisione; non di sottrarci alla responsabilità di prenderla.
Restare autori delle nostre scelte
L’intelligenza artificiale potrebbe diventare uno dei più potenti strumenti decisionali mai messi a disposizione dell’essere umano. Proprio per questo dovremo imparare a utilizzarla senza consegnarle qualcosa di essenziale. La nostra capacità di scegliere. Non perché l’essere umano scelga sempre bene. Sbagliamo continuamente. Siamo condizionati dalle emozioni, dai pregiudizi, dalla fretta e dalle informazioni incomplete. Ed è proprio per questo che l’IA può esserci utile. Può mostrarci ciò che non vediamo. Può rallentare una decisione impulsiva. Può costringerci a considerare un’obiezione. Può aiutarci a distinguere un fatto da una supposizione. Ma alla fine dovrebbe accadere qualcosa di molto semplice. Dovremmo poter chiudere la conversazione e dire: «Ho deciso.» Non: «L’intelligenza artificiale ha deciso per me.» Perché una buona partnership non dovrebbe trasformarci in passeggeri delle nostre vite. Dovrebbe aiutarci a diventarne autori più consapevoli.
La domanda di CambiaMenti
Se l’intelligenza artificiale arrivasse a consigliarci una scelta con maggiore probabilità di successo della nostra, avremmo ancora il diritto — e il coraggio — di scegliere diversamente?
Credits: Foto generata con l’IA
