Hannah Fry: “L’intelligenza artificiale può fare cose sovrumane, ma anche i carrelli elevatori possono farlo”

È probabile che oggi pensi molto di più all’intelligenza artificiale rispetto a cinque anni fa. Da quando ChatGPT è stato lanciato nel novembre 2022, ci siamo abituati a interagire con l’intelligenza artificiale nella maggior parte degli ambiti della vita, dai chatbot e la tecnologia della casa intelligente alle banche e all’assistenza sanitaria.

Ma cambiamenti così rapidi comportano problemi inaspettati, come dimostra la matematica e giornalista televisiva Hannah Fry AI confidenziale con Hannah FryUn nuovo documentario della BBC in tre parti in cui parla con persone le cui vite sono state cambiate dalla tecnologia. ha parlato nuovi scienziati Come dovremmo vedere l’intelligenza artificiale, il suo ruolo nella matematica moderna e perché avrà un impatto sull’economia globale.

Bethan Ackerley: Nello spettacolo esplori ciò che l’intelligenza artificiale sta facendo alle nostre relazioni e al senso della realtà. Parte di ciò deriva dal “servitù dell’intelligenza artificiale” – l’idea che questi dispositivi ci danno ciò che vogliamo sentire, non ciò di cui abbiamo bisogno. Come avviene questo?

Hannah Fry: I modelli precedenti erano molto lusinghieri. Qualunque cosa tu scriva, diranno: “Oh mio Dio, sei così straordinario, sei il miglior scrittore che abbia mai visto”. Adesso stanno un po’ meglio, ma questa è la contraddizione fondamentale. Vogliamo che siano utili, incoraggianti e che ci facciano sentire importanti, queste sono le cose che ottieni da un rapporto umano davvero buono.

Inoltre, un rapporto umano davvero buono dirà ad alta voce anche le cose difficili. Se ne metti troppa nell’intelligenza artificiale, smette di essere utile e diventa polemica e non è più divertente averla in giro. C’è anche un numero enorme di persone che hanno rotto con un partner perché lo usavano come terapista e l’intelligenza artificiale ha detto “sbarazzati di lui”.

Ci sono persone che hanno lasciato il lavoro. Ci sono persone che hanno provato a utilizzare l’intelligenza artificiale per fare soldi e hanno perso le loro fortune perché avevano troppa fiducia nelle sue capacità. Una volta che inizierai a includere tutte quelle persone, sarà un gruppo davvero grande. Penso che tutti conosciamo qualcuno che è stato colpito dalle bolle dei social media e dalla radicalizzazione. Penso che questa sia una nuova versione di quello.

La constatazione di questi problemi ha cambiato il modo in cui utilizzi l’intelligenza artificiale?

Ciò che è cambiato è il modo in cui lo segnale. Quindi ora lo chiedo regolarmente, diciamo, dimmi cosa non vedo, trova i miei pregiudizi. Non essere un adulatore, dimmi la cosa difficile.

Se non vogliamo che l’intelligenza artificiale sia così, come vogliamo che sia?

La risposta probabilmente dipende dalla situazione. In campo scientifico ci sono esempi sorprendenti: penso ad AlphaFold (un’intelligenza artificiale che prevede le strutture delle proteine). In matematica si stanno facendo progressi incredibili, dove gli algoritmi hanno un’intelligenza diversa da quella umana. Ma non penso che si possa avere un buon modello logico a meno che non abbia una sovrapposizione concettuale con il modo in cui gli esseri umani comprendono il mondo. Quindi penso che debba essere più umano.

Sembra che ogni giorno ci sia una notizia su un problema matematico rimasto irrisolto per anni, ma che ora è stato risolto utilizzando l’intelligenza artificiale. Ti eccita?

Mi piace pensarla come se ci fosse questa grande mappa della matematica, e i matematici umani si trovano in un’area particolare e disegnano dei cerchi attorno ad essa. Non sempre vedono i collegamenti con le cose vicine. Matematici straordinari hanno trovato ponti tra due aree della mappa, come nella congettura di Taniyama-Shimura, in cui i matematici giapponesi hanno trovato un ponte tra due diverse aree della matematica. Quindi, tutto ciò che sapevamo da qui si applicava lì e viceversa.

Penso che l’intelligenza artificiale sia davvero brava nel dire: “Dai un’occhiata qui, sembra un’area fruttuosa e meno esplorata”, e questo è davvero molto eccitante. Ciò in cui l’intelligenza artificiale non è così brava è oltrepassare i limiti. E la cosa in cui davvero non è bravo… è la completa astrazione di principi più ampi e più ampi. La gente dice sempre che se si desse tutto all’intelligenza artificiale entro il 1900, non si otterrebbe la relatività generale. Quindi sono ancora entusiasta del fatto che siamo in questo posto davvero fantastico in cui l’intelligenza artificiale renderà la matematica umana più veloce, più efficiente, più emozionante, ma ne abbiamo ancora bisogno.

Ci sono molte idee sbagliate sull’intelligenza artificiale. Chi elimineresti se potessi?

La gente immagina che sia onnipotente, quasi onnipotente. “L’AI ha detto questo; l’AI mi ha detto di acquistare queste azioni.” Sono poche le situazioni in cui l’intelligenza artificiale può svolgere compiti sovrumani, ma lo stesso possono fare i carrelli elevatori. Abbiamo creato dispositivi in ​​grado di fare per lunghi periodi di tempo cose che gli esseri umani non possono fare. Ciò non significa che siano divini o abbiano una conoscenza intoccabile.

Non darai a un carrello elevatore l’accesso al tuo conto bancario…

NO! Assolutamente. Penso che sia proprio così: la struttura di queste cose. Poiché parlano nella lingua e ci parlano, si sentono come un essere. Non abbiamo questo problema con Wikipedia. Potrebbe essere meglio pensare a questa cosa come a un foglio di calcolo Excel piuttosto che a una creatura effettivamente capace.

Perché tendiamo ad antropomorfizzare l’IA?

Il nostro corpo è predisposto per le interazioni sociali cognitive. Siamo una specie intelligente e sociale. Ed è un’entità apparentemente intelligente, apparentemente sociale. Ovviamente ci abbiamo messo un personaggio. Nel nostro passato, non c’è nulla nella nostra progettazione che ci costringa a fare qualcos’altro.

Non c’è modo di sfuggire a quell’impulso antropomorfico?

Penso che sia davvero ingiusto metterlo nelle mani dei singoli individui. Questo è un po’ come dire che il cibo spazzatura è facilmente disponibile ed è tua responsabilità assicurarti di non averne troppo. Dal modo in cui sono progettate queste interfacce, dalla loro interazione con te, ora abbiamo prove davvero evidenti che tutto ciò porta le persone a cadere in questa trappola. E penso che solo progettando questi sistemi si potrà evitare che le persone cadano in queste tane di coniglio.

Ci sono molti problemi sociali che l’intelligenza artificiale evidenzia, come ad esempio le persone che diventano molto isolate e sole. Ma l’intelligenza artificiale non può aiutare con questi problemi?

Se dici “Okay, se ti senti solo non puoi parlare con nessun chatbot, vietiamolo”, allora hai ancora persone sole. E, naturalmente, sarebbe meraviglioso se ci fossero abbondanti relazioni umane per tutti, ma non è così. Quindi, dato che questo è il mondo in cui viviamo, penso che ci siano alcune situazioni in cui parlare con un chatbot può alleviare alcuni dei peggiori problemi associati alla solitudine. Ma questi sono argomenti delicati. Quando inizi a utilizzare la tecnologia per risolvere effettivamente i problemi umani, diventa incredibilmente vulnerabile.

Parliamo del lontano futuro. Pensiamo spesso a scenari estremi con l’intelligenza artificiale: diciamo che un’intelligenza artificiale superintelligente progettata per creare graffette ci trasforma tutti in graffette. Quanto è utile questo tipo di pensiero apocalittico?

C’è stato un punto in cui ho pensato che questi scenari folli e inverosimili fossero una distrazione da ciò che contava davvero, ovvero che le decisioni venivano prese da algoritmi che influenzavano la vita delle persone. Nel corso degli anni ho cambiato idea, perché penso che preoccupandosi di cose del genere si possano creare tutele tecniche per evitare che accadano.

Quindi, preoccuparsi non è inutile, in realtà c’è potere nel preoccuparsi. Ci sono risultati potenziali davvero negativi derivanti dall’intelligenza artificiale, e più siamo onesti al riguardo, più è probabile che saremo in grado di mitigarli. Voglio che sia come Y2K, sai? Vorrei che questa fosse la cosa di cui eravamo preoccupati e preoccupati, e quindi abbiamo lavorato per evitare che accadesse.

Pensi che raggiungeremo mai l’intelligenza artificiale generale?

Non abbiamo una definizione chiara di cosa sia l’AGI. Ma se assumiamo che l’AGI sia efficace almeno quanto la maggior parte degli esseri umani in qualsiasi attività che coinvolga i computer, allora sì, ci siamo quasi. Alcune persone ritengono che l’AGI significhi oltre le capacità umane in ogni compito possibile. Non lo so. Ma penso che l’AGI in realtà non sia affatto lontana. Penso davvero che nei prossimi 5-10 anni assisteremo a un cambiamento epocale.

Che tipo di cambiamenti?

Penso che ci sarà un profondo cambiamento nei modelli economici a cui siamo stati abituati nel corso della storia dell’umanità. Penso che ci saranno davvero grandi passi avanti nella scienza, cosa di cui sono davvero entusiasta, anche nella progettazione medica. L’intera struttura della nostra società è costruita sull’idea che si scambia il lavoro, la conoscenza e l’intelligenza umana con denaro che si usa per comprare cose – penso che ci sia qualche debolezza in questo.