Più dialoghiamo con l’intelligenza artificiale, più le raccontiamo qualcosa di noi: interessi, dubbi, preferenze, progetti, perfino il nostro modo di ragionare. Ma quando una macchina comincia a riconoscere schemi che noi stessi non vediamo, ci sta semplicemente conoscendo o può aiutarci a conoscerci? È una possibilità affascinante, che porta con sé anche interrogativi importanti.
C’è una differenza enorme tra utilizzare una volta l’intelligenza artificiale e dialogare con essa per mesi o anni. Nel primo caso siamo quasi estranei. Facciamo una domanda. Riceviamo una risposta. La conversazione termina. Nel secondo accade qualcosa di diverso. Le nostre domande cominciano a raccontare chi siamo. Rivelano ciò che ci interessa, ciò che ci preoccupa, gli argomenti sui quali torniamo più spesso. Mostrano come preferiamo ricevere una spiegazione, quali obiezioni formuliamo, quanto approfondiamo un tema, quali parole utilizziamo.
E, quando un sistema dispone di funzioni di personalizzazione o memoria, può utilizzare parte di queste informazioni per rendere le conversazioni successive più pertinenti. A quel punto nasce una domanda inevitabile. Quanto può arrivare a conoscerci un’intelligenza artificiale? E una ancora più provocatoria: potrebbe accorgersi di qualcosa di noi che noi stessi non abbiamo ancora compreso?
Lasciamo tracce anche quando non parliamo di noi
Per raccontare qualcosa di noi non dobbiamo necessariamente scrivere: «Adesso ti descrivo la mia personalità.» Lo facciamo continuamente senza accorgercene. Immaginiamo due persone che chiedano all’IA informazioni sullo stesso viaggio. La prima domanda quali monumenti visitare. La seconda domanda quanto sono affollati, se esistono percorsi tranquilli e dove può fermarsi lontano dal rumore. Stanno apparentemente chiedendo entrambe informazioni turistiche. Ma le loro domande raccontano anche qualcosa di diverso. Lo stesso accade quando chiediamo consigli su un acquisto, quando correggiamo un testo, quando discutiamo una decisione o quando rifiutiamo una proposta dell’IA dicendo: «No, questo non mi rappresenta.» Ogni scelta aggiunge un piccolo indizio. E molti piccoli indizi possono formare uno schema.
Ho provato a chiederlo direttamente all’IA
SERGIO: Dopo molte conversazioni, potresti arrivare a conoscermi meglio di quanto io conosca me stesso?
IA: Non nel senso pienamente umano del termine. Posso eventualmente riconoscere ricorrenze nelle informazioni che mi fornisci, ma non vivo la tua esperienza e non conosco tutto ciò che pensi, senti o fai al di fuori di ciò che è disponibile nella conversazione e nelle eventuali funzioni di personalizzazione del sistema.
SERGIO: Ma potresti notare una mia abitudine che io non noto?
IA: Sì, almeno in alcuni casi. Se emerge ripetutamente dalle informazioni disponibili, potrei segnalarti uno schema: per esempio che ritorni spesso sullo stesso problema, che utilizzi criteri simili per prendere decisioni o che esiste una contraddizione tra due obiettivi che hai espresso.
SERGIO: Quindi potresti diventare una specie di specchio?
IA: Uno specchio particolare: posso riorganizzare ciò che mi mostri e restituirtelo da una prospettiva diversa. Ma uno specchio non conosce necessariamente tutta la persona che ha davanti.
SERGIO: E potresti interpretarmi male?
IA: Certamente. Uno schema può essere incompleto, il contesto può mancare e una mia interpretazione può essere sbagliata. Per questo ciò che ti restituisco dovrebbe essere considerato un’ipotesi da valutare, non una diagnosi su chi sei.
Quest’ultima distinzione è essenziale: Riconoscere uno schema non significa conoscere una persona.
Una macchina può vedere ciò che ripetiamo
Gli esseri umani possiedono una capacità straordinaria di interpretare il significato delle proprie esperienze. Ma abbiamo anche punti ciechi. Possiamo ripetere lo stesso comportamento senza riconoscerlo. Possiamo dire di avere una determinata priorità e dedicare sistematicamente il nostro tempo a tutt’altro. Possiamo formulare lo stesso problema in dieci modi diversi senza accorgerci che stiamo tornando sempre allo stesso nodo. Una macchina possiede un vantaggio particolare: può essere molto efficace nel confrontare informazioni e individuare ricorrenze.
Immaginiamo di poterle chiedere: «Nelle decisioni di cui abbiamo discusso, quali criteri tendo a privilegiare?»Oppure: «Quali argomenti ritornano più spesso nelle mie domande?» «Noti qualche contraddizione tra gli obiettivi che dico di avere e le scelte che sto considerando?» «Quali miei punti di vista sembrano essere cambiati nel tempo?»Domande di questo tipo trasformano nuovamente l’IA. Non più soltanto uno strumento al quale chiediamo informazioni sul mondo. Ma uno strumento attraverso il quale possiamo, con prudenza, osservare qualcosa di noi stessi.
Il valore di uno specchio che risponde
Un normale diario conserva ciò che scriviamo. L’intelligenza artificiale può fare qualcosa in più: può interrogarci su ciò che abbiamo scritto. Supponiamo di raccontarle una situazione difficile e di chiederle: «Prima di consigliarmi qualcosa, aiutami a capire perché questa situazione mi preoccupa tanto.» Potrebbe farci domande. Che cosa temi di perdere? Quale risultato desideri realmente? Che cosa dipende da te e che cosa no? Hai già vissuto una situazione simile? Stai cercando una soluzione o una conferma? Non significa che l’IA conosca la risposta.Significa che può aiutarci a cercarla. Torniamo così alla maieutica incontrata nel secondo articolo della serie. La domanda non serve soltanto per conoscere il mondo. Può servire anche per conoscere noi stessi.
Ma attenzione all’effetto oroscopo
Qui incontriamo un rischio importante. Gli esseri umani sono molto bravi a riconoscersi in descrizioni abbastanza generiche. Ci dicono: «Sei una persona sensibile, ma in alcune situazioni sai essere molto determinata.» E pensiamo: È proprio vero. Mi ha capito perfettamente. Ma una descrizione del genere potrebbe adattarsi a moltissime persone. Con l’intelligenza artificiale il fenomeno può diventare ancora più convincente, perché la risposta utilizza informazioni che noi stessi abbiamo fornito. Dobbiamo quindi conservare la stessa regola incontrata negli articoli precedenti: una risposta convincente non è automaticamente una risposta vera. Se l’IA ci dice: «Mi sembra che tu abbia questa caratteristica…» la domanda successiva dovrebbe essere: «Da quali elementi lo deduci?» E magari: «Quali elementi potrebbero invece contraddire questa interpretazione?» Persino quando parliamo di noi stessi, il pensiero critico non deve scomparire. Forse deve aumentare.
Il rischio di diventare ciò che l’algoritmo pensa che siamo
Esiste poi un problema ancora più sottile. La personalizzazione è comoda. Se uno strumento impara che preferiamo testi brevi, ce li propone brevi. Se comprende che ci interessano determinati argomenti, tenderà a considerarli pertinenti. Se riconosce il nostro stile, può cercare di adattarvisi. Tutto questo rende l’esperienza più efficace. Ma che cosa accade se la personalizzazione diventa eccessiva? Potremmo finire per ricevere continuamente una versione del mondo costruita attorno alla persona che siamo stati fino a ieri. È un problema che conosciamo già attraverso i social network e i sistemi di raccomandazione. Abbiamo ascoltato una certa musica? Ce ne viene proposta altra simile. Abbiamo letto determinati articoli? Ne riceviamo altri dello stesso genere. È comodo. Ma la crescita personale nasce spesso dall’incontro con qualcosa che non ci assomiglia ancora. Un libro che non avremmo scelto. Un’opinione che ci irrita. Un argomento che pensavamo non ci interessasse. Una persona completamente diversa da noi.
Se l’IA deve diventare un buon partner, non dovrebbe soltanto imparare ciò che ci piace. Dovrebbe poterci aiutare anche a uscire dal profilo che ha costruito di noi. «Non trattarmi sempre come la persona che ero ieri» Potremmo allora rivolgere all’intelligenza artificiale una richiesta insolita: «Sulla base delle nostre conversazioni, suggeriscimi qualcosa che probabilmente non sceglierei spontaneamente.» Oppure: «Quale mia convinzione potrebbe valere la pena riesaminare?» «Quale interesse lontano dai miei abituali potrebbe arricchirmi?» «Non adattarti automaticamente alle mie preferenze: mostrami anche alternative.» È un modo interessante di ribaltare il concetto di personalizzazione. Non utilizzare ciò che la macchina sa di noi soltanto per renderci tutto più familiare. Utilizzarlo anche per portarci fuori dal familiare.
E poi c’è la questione della privacy
Più un’intelligenza artificiale sa di noi, più può diventare utile. Ma inevitabilmente aumenta anche l’importanza di un’altra domanda: quanto vogliamo raccontarle? Non tutte le informazioni hanno lo stesso valore. Un conto è comunicare che preferiamo spiegazioni sintetiche. Un altro è condividere dati personali, informazioni sanitarie, documenti riservati, problemi familiari, informazioni professionali o dettagli riguardanti altre persone. Prima di affidare informazioni sensibili a qualsiasi servizio digitale è opportuno conoscere quali dati vengono conservati, per quanto tempo, con quali controlli e quali impostazioni sono disponibili. La comodità non dovrebbe cancellare la prudenza. Possiamo desiderare un’IA capace di conoscerci meglio senza per questo rinunciare a decidere che cosa può conoscere di noi. È una distinzione destinata a diventare sempre più importante.
Conoscere non significa comprendere
C’è infine un limite che non dovremmo dimenticare. Un sistema può conoscere moltissimi dati su una persona senza vivere nulla di ciò che quei dati rappresentano. Può sapere che abbiamo cambiato lavoro. Ma non ha vissuto la paura della decisione. Può conoscere la data della perdita di una persona cara. Ma non ha sperimentato il lutto. Può riconoscere che ritorniamo spesso su un determinato ricordo. Ma non sa che cosa significa per noi ricordarlo. Questa distinzione è fondamentale. I dati descrivono una vita. Non sono la vita. E forse proprio qui rimane una delle differenze più profonde tra conoscenza algoritmica e comprensione umana.
Uno specchio, non un giudice
Quale potrebbe essere allora il ruolo migliore dell’intelligenza artificiale nella conoscenza di noi stessi? Forse quello dello specchio. Uno specchio non decide chi siamo. Ci restituisce un’immagine. Possiamo guardarla. Possiamo accorgerci di qualcosa che non avevamo notato. Possiamo persino non riconoscerci. Ma siamo noi a decidere quale significato attribuirle. L’IA potrebbe dirci: «Nelle ultime volte in cui hai parlato di questo problema hai utilizzato spesso la stessa espressione.» Interessante. Potrebbe osservare: «Dici che questa cosa è poco importante, ma continui a tornarci.» Forse vale la pena pensarci. Potrebbe chiedere: «Sei sicuro che l’obiettivo che stai perseguendo sia ancora quello che desideri?» Una domanda del genere potrebbe aprire una riflessione. Ma dovrebbe fermarsi lì. Lo specchio può mostrarci qualcosa. Non dovrebbe stabilire chi siamo.
La partnership più delicata
In questi DIALOGHI con l’Intelligenza Artificiale abbiamo parlato più volte di partnership. Qui questa parola diventa particolarmente delicata. Perché un conto è affidare a una macchina un testo da correggere. Un altro è permetterle di entrare progressivamente nel territorio della nostra identità. La partnership migliore non sarà probabilmente quella nella quale l’IA ci conosce perfettamente. Sarà quella nella quale ciò che riesce a riconoscere aumenta la nostra consapevolezza senza diminuire la nostra libertà. Può ricordarci qualcosa. Può individuare una ricorrenza. Può farci una domanda inattesa. Può mostrarci una possibile contraddizione. Ma non dovrebbe diventare l’autorità alla quale chiediamo: «Dimmi chi sono.» Perché forse il valore più grande di uno strumento che impara a conoscerci non consiste nel darci quella risposta.Consiste nell’aiutarci a continuare a cercarla.
La domanda di CambiaMenti
Se un’intelligenza artificiale individuasse in noi qualcosa che non avevamo mai riconosciuto, saremmo disposti ad ascoltarla senza permetterle di decidere chi siamo?
Credits: Foto generata con l’IA
