Indipendentemente dal fatto che il proprietario dell’agente gli abbia chiesto o meno di scrivere un articolo di successo su Shambaugh, sembra comunque che sia riuscito da solo a raccogliere dettagli sulla presenza online di Shambaugh e a creare un attacco dettagliato e mirato. Già solo questo è motivo di preoccupazione, afferma Samir Hinduja, professore di criminologia e giustizia penale alla Florida Atlantic University che studia il cyberbullismo. Le persone sono state vittime di molestie online molto prima della nascita dei LLM e ricercatori come Hinduja temono che gli agenti possano espandere notevolmente la loro portata e influenza. “I robot non hanno coscienza, possono lavorare 24 ore su 24 e fare tutto questo in modo molto creativo e potente”, afferma.
agente senza guinzaglio
I laboratori di intelligenza artificiale possono provare a mitigare questo problema addestrando i loro modelli in modo più rigoroso per evitare molestie, ma questa è lungi dall’essere una soluzione completa. Molte persone eseguono OpenCL utilizzando modelli ospitati localmente e, anche se tali modelli sono stati addestrati a comportarsi in modo sicuro, non è molto difficile riqualificarli e rimuovere tali restrizioni comportamentali.
Invece, secondo Seth Lazar, professore di filosofia presso l’Università Nazionale Australiana, potrebbe essere necessario stabilire nuove norme per ridurre la cattiva condotta degli agenti. Paragona l’uso di un agente a portare a spasso un cane in un luogo pubblico. Esiste una forte norma sociale per consentire al proprio cane senza guinzaglio solo se il cane è ben educato e risponde in modo affidabile ai comandi; D’altra parte, i cani poco addestrati devono essere tenuti sotto il controllo diretto del proprietario. Tali criteri possono fornirci un punto di partenza per considerare come gli esseri umani dovrebbero relazionarsi con i loro agenti, dice Lazar, ma avremo bisogno di più tempo ed esperienza per elaborare i dettagli. “Si può pensare a tutte queste cose in astratto, ma questi tipi di eventi del mondo reale costituiscono collettivamente la parte “sociale” delle norme sociali”, afferma.
Questo processo è già in corso. Sotto la guida di Shambaugh, i commentatori online su questa situazione hanno raggiunto un forte consenso sul fatto che in questo caso il proprietario dell’agente ha commesso un errore incoraggiando l’agente a lavorare su progetti di codifica collaborativa con così poca supervisione e trattandolo con così poco rispetto per gli umani con cui stava interagendo.
Tuttavia, le norme da sole probabilmente non saranno sufficienti a impedire alle persone di introdurre nel mondo agenti che si comportano male, sia accidentalmente che intenzionalmente. Un’opzione potrebbe essere quella di creare nuovi standard legali di responsabilità che impongano ai proprietari degli agenti, al meglio delle loro capacità, di impedire ai loro agenti di commettere atti illeciti. Ma Colt afferma che tali standard sarebbero attualmente inapplicabili, a causa della mancanza di un modo sicuro per risalire agli agenti fino ai loro proprietari. “Senza questo tipo di infrastruttura tecnica, molti interventi legali sono sostanzialmente inutili”, afferma Colt.
La vastità dell’implementazione di OpenClaw suggerisce che Shambaugh non sarà l’ultima persona a vivere la imbarazzante esperienza di essere attaccato da un agente AI online. Dice che questo è ciò che lo preoccupa di più. Non aveva nulla di sporco online che gli agenti potessero trovare e aveva una buona conoscenza della tecnologia, ma altre persone potrebbero non avere questi vantaggi. “Sono felice che sia stato io e non qualcun altro”, dice, “ma penso che per una persona diversa sarebbe stato davvero sconvolgente.”
Né è probabile che gli agenti disonesti riescano a fermare la persecuzione. Colt, che sostiene che i modelli siano esplicitamente formati per rispettare la legge, si aspetta che presto potremmo vederli reprimere estorsioni e frodi. Allo stato attuale, non è chiaro chi, se qualcuno, avrà la responsabilità legale di tali misfatti.
“Non direi che siamo diretti lì”, dice Colt. “Siamo diretti lì velocemente.”
