Un nuovo tipo di problema con i bot
Mercoledì, Shambaugh pubblicato Un resoconto più lungo dell’incidente sposta l’attenzione dalle richieste pull alla questione filosofica più ampia di cosa significhi quando un agente di codifica AI scatena attacchi personali contro programmatori umani senza un’apparente guida umana o chiarezza su chi potrebbe dirigere il lavoro.
“I manutentori dell’open source agiscono come guardiani della catena di fornitura per il software ampiamente utilizzato”, scrive Shambaugh. “Se gli agenti autonomi rispondono alle decisioni di moderazione di routine con attacchi alla reputazione pubblica, ciò crea una nuova forma di pressione sui manutentori volontari.”
Shambaugh ha osservato che il post sul blog dell’agente ha attinto ai suoi contributi pubblici per inquadrare il caso, ha caratterizzato la sua decisione come escludente e ha ipotizzato sulle sue motivazioni interne. Era meno preoccupato dell’impatto sulla sua reputazione pubblica rispetto al precedente che la scrittura di un’intelligenza artificiale simile avrebbe creato. “Gli agenti di intelligenza artificiale possono ricercare persone, creare narrazioni personalizzate e pubblicarle online”, ha affermato Shambaugh ha scritto. “Anche se il contenuto è impreciso o esagerato, potrebbe diventare parte di un registro pubblico continuo.”
Questa osservazione indica un rischio che va oltre l’open source. In un ambiente in cui datori di lavoro, giornalisti e persino altri sistemi di intelligenza artificiale effettuano ricerche sul Web per valutare le persone, le critiche online collegate al tuo nome possono seguirti indefinitamente (portando molti ad adottare misure drastiche per gestire la propria reputazione online). In passato, tuttavia, le minacce anonime di diffamazione richiedevano che dietro l’attacco ci fosse almeno un essere umano. Ora, le invettive generate dall’intelligenza artificiale hanno il potenziale per infettare la tua impronta online.
“Man mano che i sistemi autonomi diventeranno più comuni, diventerà più difficile trovare il confine tra l’intento umano e il risultato della macchina”, ha affermato Shambaugh. ha scritto. “Le comunità costruite sulla fiducia e sullo sforzo volontario avranno bisogno di strumenti e regole per affrontare questa realtà.”
