L’intelligenza artificiale è progettata quasi esclusivamente da uomini: ecco come risolvere il problema

è il secondo giorno Le donne e il futuro della scienza conferenza alla Royal Society di Londra, ma faccio fatica a concentrarmi sugli oratori perché il mio software di trascrizione AI, che dovrebbe semplificarmi la vita, continua a insistere nel digitare male il nome di qualcuno. Per ogni menzione di Julie, digita Julian. L’ironia non mi sfugge: questa è una sessione sull’intelligenza artificiale, e in particolare su come le donne vengono cancellate dalle ultime tecnologie di intelligenza artificiale.

Questo è molto più grande dell’idea ormai familiare secondo cui gli algoritmi di intelligenza artificiale portano con sé i pregiudizi dei set di dati su cui sono addestrati, compresi i pregiudizi di genere.

Invece, il focus della sessione della conferenza è stato presieduto da un informatico. Wendy HallSi sta cercando di affrontare una questione più fondamentale: il fatto che le nuove tecnologie di intelligenza artificiale, che avranno effetti trasformativi sulla società nel suo complesso, vengono progettate quasi esclusivamente da uomini.

La tecnologia è sempre stata un dominio prevalentemente maschile. In Gran Bretagna, Solo il 25% di coloro che studiano informatica sono donne. Ma negli ultimi anni – e mentre l’intelligenza artificiale generativa è in forte espansione – la Silicon Valley è diventata sempre più ostile nei confronti delle donne.

“Negli ultimi due anni c’è stato un calo”, dice David LeslieJoe è responsabile della ricerca sull’etica e sull’innovazione responsabile presso l’Alan Turing Institute. “La questione è innegabile se l’amministrazione Trump abbia causato un danno generazionale alle donne nella scienza. Stiamo vivendo un periodo di pensiero arretrato.”

L’anno scorso, il presidente degli Stati Uniti Donald Trump ha emesso un ordine esecutivo contro la cosiddetta “wake AI” e ha raccomandato al National Institute of Standards and Technology degli Stati Uniti di rivedere il proprio quadro di gestione del rischio dell’IA per “eliminare i riferimenti alla disinformazione, alla diversità, all’equità, all’inclusione e al cambiamento climatico”.

un relatore, Rummann ChaudharyIl data scientist ed ex ambasciatore scientifico statunitense per l’intelligenza artificiale era responsabile dell’etica e della responsabilità su Twitter prima di Elon Musk. prese il comando e licenziò la sua squadra. Spiega che il concetto di intelligenza artificiale sveglia è nato da atteggiamenti misogini all’interno della Silicon Valley prima dell’ordine di Trump.

Quando Hall ha chiesto di descrivere l’intelligenza artificiale senza le donne, diversi relatori hanno sostenuto che ci siamo già. “Vivo in un mondo di intelligenza artificiale di frontiera, e questo è un mondo di intelligenza artificiale senza donne”, afferma Chaudhary, un sentimento che risuona. Rachel ColdicuttChe ricerca gli impatti sociali delle tecnologie nuove ed emergenti. “Se pensiamo a come sarebbe un mondo senza donne nell’intelligenza artificiale, penso che sia quello che abbiamo in questo momento. Non è affatto una fantasia.”

Dovrebbe essere ovvio: è importante. Dai manichini per i crash test all’aria condizionata negli uffici, alle tute spaziali degli astronauti e alla maggior parte della ricerca medica, esiste una lunga storia di sviluppo di tecnologie per il corpo e le esigenze degli uomini. Questo è noto come divario dei dati di genere e i suoi effetti possono variare da fastidiosi a pericolosi per la vita.

L’intelligenza artificiale avrà un impatto su tutto, dai lavori che svolgiamo al modo in cui educhiamo i nostri figli alle malattie che possiamo curare. Ma attualmente solo il 2% dei finanziamenti in capitale di rischio va alle donne, sottolinea Choudhary. Durante questo periodo, meno dell’1 per cento La ricerca e l’innovazione in campo sanitario determinano le condizioni di salute delle donne. “Dobbiamo far sì che la tecnologia funzioni non per otto miliardari, ma per 8 miliardi di persone”, afferma Coldicutt.

Cosa sarà necessario fare? A causa di centinaia di anni di dati distorti presenti negli attuali modelli di intelligenza artificiale, Coldicutt non crede che sarà possibile correggerli. “Abbiamo bisogno di modelli alternativi”, afferma. “Questa è anche un’opportunità per concentrarsi su ciò che fanno questi modelli”. “Si tratta di sviluppare modelli… che diano priorità alla cura delle persone, del pianeta.”

Chaudhary, co-fondatore di Humane Intelligence, un’organizzazione no-profit che aiuta le aziende a rendere i sistemi di intelligenza artificiale più responsabili ed equi, afferma che parte del problema è che molti degli attuali sviluppi dell’intelligenza artificiale sono costruiti attorno a un falso senso di urgenza, con particolare attenzione al rischio esistenziale dell’intelligenza artificiale per l’occupazione o addirittura per l’umanità. Se la storia racconta che la tua casa ha preso fuoco, “Non diresti: ‘Che fine hanno fatto i gioielli di mia madre?'”, dice. Se le persone sentono di non avere tempo, dice, rinunceranno a tutto ciò che sembra estraneo, inclusa la varietà.

Per quanto riguarda la prossima generazione, se vogliamo incoraggiare i giovani a sviluppare l’intelligenza artificiale per il bene sociale, dobbiamo guardare al quadro economico e politico attraverso il quale l’intelligenza artificiale viene sviluppata, afferma Leslie: “Dobbiamo iniziare dalle basi, a cominciare dal cambiamento degli incentivi”.

In definitiva, potremmo anche dover ripensare la nostra definizione di intelligenza nel contesto dell’intelligenza artificiale per includere modi di pensare più ampi e diversificati. Gran parte del pensiero originale sull’intelligenza artificiale, compreso il modo in cui definirla, ha avuto origine in un influente incontro al Dartmouth College nel New Hampshire negli anni ’50. “Questa definizione di intelligenza emerge dalla conferenza di Dartmouth”, afferma Hall. “Che, tra l’altro, erano tutti uomini.”