Intelligenza artificiale Bastano 10 minuti di utilizzo dell’IA per minare la tua capacità di perseverare nelle attività difficili

Un ricercatore dell’Università di Berkeley è coautore di uno studio che solleva profonde riflessioni su come interagiamo con l’intelligenza artificiale nel campo dell’istruzione e nella vita quotidiana.

Brian Christian ha dedicato 20 anni a riflettere su come l’intelligenza artificiale cambierà le nostre menti e il nostro mondo. Il suo libro del 2020, *The Alignment Problem*, è stato acclamato come uno dei migliori sull’IA e, come molti scienziati, a volte prova un senso di euforia di fronte ai progressi di questa tecnologia. Dopotutto, quando tutti avranno a disposizione una flotta di agenti autonomi pronti a velocizzare la ricerca, è difficile non avere la sensazione che una scoperta in grado di cambiare la vita sia a portata di mano.

Tiene anche un taccuino sulla scrivania e ci scrive ogni giorno. Questa abitudine lo aiuta a mantenere i piedi per terra e a placare il fastidioso sospetto che dedicare troppo tempo al lavoro con l’intelligenza artificiale possa fargli perdere il proprio spirito critico da studioso.

Ha buoni motivi per preoccuparsi — e basta che guardi alle sue ricerche più recenti per averne la prova.

Christian ha fatto parte del team autore di uno studio di riferimento che ha dimostrato come dedicare anche solo 10 minuti all’uso di uno strumento di intelligenza artificiale comprometta in modo significativo la nostra capacità di concentrarci e portare a termine compiti difficili. Una bozza preliminare aveva suscitato grande interesse all’inizio di quest’anno e questa settimana il team ha presentato l’articolo aggiornato e sottoposto a revisione tra pari alla Conferenza sulla modellizzazione del linguaggio.

«È una scoperta sorprendente, ma in un certo senso avvalora una sensazione che molti di noi provano istintivamente», ha affermato Christian, ricercatore presso il Center for Human-Compatible AI dell’Università della California, Berkeley. «Lo provo anch’io».

Per verificare con quale rapidità la concentrazione e la perseveranza delle persone fossero in calo, i ricercatori hanno ideato una serie di studi randomizzati controllati e hanno reclutato online 1.222 partecipanti.

Nel primo esperimento, condotto su 354 partecipanti, a un gruppo è stato chiesto di risolvere 15 problemi di base sulle frazioni senza alcun aiuto, mentre un altro gruppo aveva ChatGPT aperto in una finestra laterale da utilizzare come ausilio e persino per chiedere la risposta. Il gruppo con accesso all’IA ha iniziato con una precisione maggiore rispetto a quello che ne era sprovvisto. Poi, dopo 12 problemi, i ricercatori hanno rimosso lo strumento di IA. Quasi immediatamente, i partecipanti di quel gruppo hanno smesso di risolvere correttamente i problemi.

Qualcosa di simile è accaduto quando hanno condotto l'esperimento su un secondo gruppo, più ampio, composto da 667 partecipanti. Mentre gli utenti dell'IA hanno fornito risposte errate o hanno rinunciato del tutto quando l'assistenza dell'IA è stata sospesa, il gruppo senza IA ha portato avanti il compito e alla fine ha ottenuto risultati migliori.

I ricercatori hanno poi condotto un terzo esperimento con 201 partecipanti e un esercizio di comprensione del testo tratto dal SAT. I risultati hanno confermato quelli ottenuti con i problemi sulle frazioni: quando lo strumento di IA è stato rimosso, la perseveranza e l’accuratezza sono diminuite.

«Non si potrebbe chiedere una storia più chiara di così», disse Christian.

I risultati hanno confermato quanto emerso sempre più spesso negli ultimi anni da aneddoti e sondaggi: affidarsi eccessivamente all’IA per ottenere risposte indebolisce la nostra forma cognitiva. Quando l’IA fornisce risposte in pochi secondi, ci abituiamo a quella velocità; tutto ciò che richiede più tempo ci sembra inefficiente. Inoltre, affidarsi all’IA elimina anche quella che il team ha definito «lotta produttiva», che può portare le persone a scoprire i propri punti di forza e le proprie passioni nella ricerca.

«Abbiamo creato questi sistemi perché fossero utili, ma ci stanno davvero aiutando in modo concreto?» ha detto Christian. «Abbiamo dimostrato, ironia della sorte, che spesso ci aiutano in modi che in realtà non sono poi così utili.»

Il team era composto da ricercatori della Carnegie Mellon University, del Massachusetts Institute of Technology, dell’Università di Oxford e dell’UCLA. Diverse testate, da WIRED a Psychology Today, hanno dato risalto allo studio quando, in primavera, sono stati resi noti i primi risultati. La scorsa settimana il New York Times ha pubblicato un articolo sull’articolo scientifico e su ricerche simili.

Le aziende all’avanguardia nel campo dell’IA hanno riconosciuto come affidare determinati compiti ai chatbot possa ridurre la comprensione di base e la padronanza di una materia. Anziché fornire di default risposte rapide, le risposte dell’IA potrebbero essere di default più istruttive, proprio come farebbe un tutor, ha affermato Christian.

«Dobbiamo impegnarci per un futuro in cui le capacità umane siano, per quanto possibile, potenziate anziché sostituite», ha affermato.

Christian ha affermato che ciò vale in particolare per la ricerca e il mondo accademico. Teme che un eccessivo affidamento agli strumenti di IA nel campo scientifico possa compromettere proprio ciò che contraddistingue un buon scienziato: la vicinanza ai dati, l’immersione nella materia e il lavoro di squadra. Si rischia di perdere qualcosa di significativo quando quel team di dieci persone che sviluppa le idee portanti a una scoperta rivoluzionaria viene ridotto a due o tre ricercatori e un chatbot.

«Questa non è una storia di frazioni e problemi del SAT», ha detto Christian. «È qualcosa che sta accadendo alla conoscenza e alla competenza umana a tutti i livelli, dagli alunni delle scuole elementari fino ai massimi esperti del mondo».