Come i ladri del Louvre hanno sfruttato la psicologia umana per evitare sospetti e cosa rivela sull’intelligenza artificiale

I visitatori continuano a navigare. La sicurezza non ha reagito (fino a quando non è stato attivato l’allarme). Scomparso nel traffico cittadino prima che qualcuno se ne accorgesse.

Gli investigatori hanno poi rivelato che i ladri si erano travestiti indossando giubbotti ad alta visibilità operaio edile. Hanno inventato un ascensore per mobili, una vista comune nelle strette strade di Parigi, e lo hanno utilizzato per raggiungere un balcone che si affaccia sulla Senna. Vestiti con abiti da lavoro, si sentivano come se appartenessero.

Questa strategia funziona perché non vediamo il mondo in modo obiettivo. Lo vediamo attraverso le categorie, attraverso ciò che ci aspettiamo di vedere. I ladri comprendono le categorie sociali che consideriamo “normali” e le sfruttano per evitare sospetti. molto Intelligenza artificiale I sistemi (AI) funzionano in modo simile e di conseguenza sono vulnerabili agli stessi tipi di errori.

Il sociologo Erving Goffman utilizzerà le sue idee per descrivere ciò che accadde al Louvre presentazione di sé: persone “Prestazione” I ruoli sociali prendono spunto da ciò che gli altri si aspettano. Qui, l’esibizione della normalità diventava il travestimento perfetto.

La sociologia della visione

Gli esseri umani usano continuamente la categorizzazione mentale per comprendere persone e luoghi. Quando qualcosa rientra nella categoria “normale”, viene rimosso dall’avviso.

I sistemi di intelligenza artificiale utilizzati per compiti come il riconoscimento facciale e il rilevamento di attività sospette nelle aree pubbliche funzionano in modo simile. Per gli esseri umani, la categorizzazione è culturale. Per l’intelligenza artificiale, è matematico.

Ma entrambi dipendono dal sistema Modelli appresi piuttosto che realtà oggettiva. Poiché l’intelligenza artificiale apprende dai dati chi sembra “normale” e chi sembra “sospetto”, sfrutta le categorie incorporate nei suoi dati di addestramento. E questo lo rende Suscettibile di pregiudizi.

I ladri del Louvre non erano considerati pericolosi perché rientravano in una categoria fidata. Nell’intelligenza artificiale, lo stesso processo può avere l’effetto opposto: coloro che non rientrano nella norma statistica sono più visibili e sovraesaminati.

Ciò potrebbe significare che un sistema di riconoscimento facciale segnala in modo sproporzionato alcuni gruppi razziali o di genere come potenziali minacce, trascurandone altri.

Una lente sociologica ci aiuta a vedere che questi non sono problemi separati. L’intelligenza artificiale non inventa categorie; Ci insegna. Quando un sistema di visione artificiale viene addestrato su filmati di sicurezza in cui “normale” è definito da determinati corpi, indumenti o comportamenti, riproduce tali presupposti.

Proprio come le guardie del museo hanno visto oltre i ladri come sembravano appartenere, l’intelligenza artificiale può vedere oltre alcuni artefatti mentre reagisce in modo eccessivo ad altri.

La categorizzazione, umana o algoritmica, è un’arma a doppio taglio. Ci aiuta a elaborare rapidamente le informazioni, ma codifica anche i nostri presupposti culturali. Sia gli esseri umani che le macchine si affidano al riconoscimento di schemi, che è una tecnica efficiente ma imperfetta.

Una visione sociologica dell’intelligenza artificiale tratta gli algoritmi come specchi: riflettono le nostre categorie e gerarchie sociali. Nel caso del Louvre lo specchio è rivolto verso di noi. I ladri ci sono riusciti non perché fossero invisibili, ma perché erano visti attraverso la lente della normalità. Nella categoria AI hanno superato il test di classificazione.

Dalle sale dei musei al machine learning

Questo legame tra percezione e categorizzazione rivela qualcosa di importante sul nostro mondo sempre più algoritmico. Sia che sia una guardia a decidere chi sembra sospetto o un’intelligenza artificiale a decidere chi sembra un “taccheggiatore”, il processo di fondo è lo stesso: segmentare le persone in base a segnali che sembrano oggettivi ma culturalmente appresi.

Quando un sistema di intelligenza artificiale viene descritto come “di parte”, spesso significa che riflette troppo fedelmente quelle categorie sociali. Louvre Heist ci ricorda che queste categorie non solo modellano i nostri atteggiamenti, ma modellano anche ciò che viene osservato.

Dopo il furto, Il ministro francese della Cultura promette nuove telecamere e maggiore sicurezza. Ma non importa quanto avanzati siano questi sistemi, si baseranno comunque sulla categorizzazione. Qualcuno o qualcos’altro deve decidere cosa conta come “comportamento sospetto”. Se tale decisione si basa su congetture, gli stessi punti ciechi persisteranno.

La rapina al Louvre sarà ricordata come una delle rapine ai musei più spettacolari d’Europa. I ladri hanno avuto successo perché padroneggiavano la sociologia dell’apparenza: comprendevano le categorie della normalità e le usavano come strumenti.

E così facendo, hanno dimostrato come sia gli esseri umani che le macchine possano confondere la compatibilità con la sicurezza. Il loro successo all’aperto non fu l’unico trionfo della pianificazione. È stato un trionfo del pensiero razionale, la stessa logica che sta alla base sia della percezione umana che dell’intelligenza artificiale.

La lezione è chiara: prima di poter insegnare alle macchine a vedere meglio, dobbiamo prima imparare a mettere in discussione il modo in cui vediamo.

Vincenzo CarloLettore di AI per le scienze aziendali e gestionali, Queen’s University di Belfast E Tatiana è tedescaProfessore Associato di AI per le Imprese e la Strategia, Università di Northampton.

Ristampato da questo articolo la conversazione Sotto licenza Creative Commons. continua a leggere Articolo principale.