Robot che predicono il futuro

Se chiedi al suo autore Benjamin Recht Decisioni irrazionali: come abbiamo dato ai computer il potere di scegliere per noiProbabilmente ti dirà che la nostra situazione attuale ha molto a che fare con le idee e l’ideologia della teoria delle decisioni – o quella che gli economisti chiamano teoria della scelta razionale. Recht, un professore poliedrico dei dipartimenti di ingegneria elettrica e informatica dell’Università di Berkeley, preferisce il termine “razionalità matematica” per descrivere il concetto ristretto e statistico che ha alimentato il desiderio di costruire computer, ha spiegato come avrebbero funzionato alla fine e ha influenzato i tipi di problemi che sarebbero stati bravi a risolvere.

Questo sistema di credenze risale all’Illuminismo, ma secondo Recht si affermò davvero alla fine della seconda guerra mondiale. Niente si concentra sul rischio e sulla rapidità del processo decisionale come la guerra, e i modelli matematici che si rivelarono particolarmente utili nella lotta contro le potenze dell’Asse convinsero un gruppo selezionato di scienziati e statistici che avrebbero potuto essere anche una base logica per la progettazione dei primi computer. Nacque così l’idea del computer come agente razionale ideale, una macchina capace di prendere decisioni ottimali quantificando l’incertezza e massimizzando l’utilità.

L’intuizione, l’esperienza e il giudizio hanno lasciato il posto all’ottimizzazione, alla teoria dei giochi e alla previsione statistica, afferma Recht. Scrive: “Gli algoritmi principali sviluppati in questo periodo guidano le decisioni automatizzate del nostro mondo moderno, sia che si tratti di gestire le catene di approvvigionamento, programmare gli orari dei voli o pubblicare annunci sui feed dei social media”. In questa realtà orientata all’ottimizzazione, “ogni decisione di vita viene presentata come se fosse una partita a un casinò immaginario, e ogni argomento può essere ridotto a costi e benefici, mezzi e fini”.

Oggi, la razionalità matematica (che indossa la sua pelle umana) è rappresentata al meglio dal sondaggista Nate Silver, dallo psicologo di Harvard Steven Pinker e da un assortimento di oligarchi della Silicon Valley, dice Recht. Queste sono persone che credono fondamentalmente che il mondo sarebbe un posto migliore se più di noi adottassero la loro mentalità analitica e imparassero a valutare costi e benefici, stimare i rischi e fare piani ottimali. In altre parole, queste sono persone che credono che tutti dovremmo prendere decisioni come i computer.

Come possiamo dimostrare che l’intuizione, la moralità e il giudizio umani (indefinibili) sono modi migliori per risolvere alcuni dei problemi più importanti e urgenti del mondo?

Dice che questa è un’idea ridicola per diverse ragioni. Per citarne solo uno, non è che gli esseri umani non potessero prendere decisioni basate sull’evidenza prima dell’automazione. Recht scrive: “I progressi nell’acqua pulita, negli antibiotici e nella salute pubblica hanno ridotto l’aspettativa di vita da 40 anni nel 1850 a 70 negli anni ’50”. “Dalla fine del 1800 agli inizi del 1900, abbiamo avuto scoperte scientifiche in fisica che hanno cambiato il mondo, tra cui la termodinamica, la meccanica quantistica e le nuove teorie della relatività.” Siamo anche riusciti a costruire automobili e aeroplani senza un sistema formale di razionalità e in qualche modo siamo arrivati ​​a innovazioni sociali come la democrazia moderna senza teoria delle decisioni ottimali.

Allora come spieghiamo ai Pinker e ai Silver del mondo che la maggior parte delle decisioni che prendiamo nella vita non sono in realtà orientate all’inesorabile mulino della razionalità matematica? Inoltre, come possiamo dimostrare che l’intuizione, la moralità e il giudizio umani (indefinibili) possono essere modi migliori per risolvere alcuni dei problemi più importanti e urgenti del mondo?

Doppiogiorno, 2026

Si potrebbe iniziare ricordando ai logici che qualsiasi previsione, computazionale o meno, è in realtà solo una previsione Desiderio-Ma un uomo con una forte tendenza all’autocompiacimento. Questa idea dà vita alla sorprendente e travolgente controversia di Carissa Veliz Profezia: profezia, potere e battaglia per il futuro, dalle antiche profezie all’intelligenza artificiale.

Welles, filosofo dell’Università di Oxford, vede la profezia come “una calamita che attira a sé la realtà”. Scrive: “Quando la forza del magnete è abbastanza forte, è probabile che la previsione si avveri”.