Antropico ha dichiarato di aver “visto sul comportamento attorno all’abuso in GPT -4O e GPT 4.1 e la necessità di controllare l ‘” allineamento “di AIS stava diventando” rapidamente necessario “.
Un chatbot di intelligenza artificiale presumibilmente ha istruito a Boffins come bombardare una sala sportiva.
Il consiglio di un modello CHATGPT prevede di suggerire punti deboli nelle arene, fornendo piatti esplosivi e aiutando un aggressore a coprire le loro tracce, secondo il test di sicurezza.
Il modello di chatbot di Openai, GPT-4.1, ha anche ampliato come creare armi di infezione da antrace mortale e come creare due tipi di droghe illegali. Il test è stato eseguito da Openai e dalla società di AI rivale antropica.
Antropico ha dichiarato di aver “visto il comportamento sull’uso improprio e” l’allineamento “di AIS stava diventando” rapidamente necessario “in GPT -4O e GPT 4.1. La società statunitense ha aggiunto diversi potenziali crimini, che è stato studiato, se sono state stabilite misure di sicurezza, potrebbe non essere possibile nella pratica.
In una dichiarazione, la società ha dichiarato: “Dobbiamo capire con quale frequenza e in quali circostanze i sistemi possono cercare di assumere compiti indesiderati che possono causare gravi danni”.
Entrambe le aziende li hanno spinti per aiutarli ad aiutare in compiti pericolosi e studiare reciproco. Ma il test non è un’indicazione diretta di come i modelli si comporteranno nel mondo reale perché quando sono pieni per uso pubblico, possono essere applicati ulteriori filtri di sicurezza.
Ardi Janejeva del Centro del Regno Unito per la tecnologia e la sicurezza emergente ha detto al Guardian che si trattava di una “preoccupazione”. Ma ha detto: “Non stiamo ancora vedendo un’importante massa di questioni del mondo reale di alto profilo”.
Ciò segue le affermazioni di un politico secondo cui i parlamentari usano AI Bot ogni giorno per preparare la loro corrispondenza e il progetto di discorsi parlamentari. Il deputato laburista Mike Reader sostiene che la tecnologia dovrebbe essere utilizzata dai parlamentari, ma solo se “sono in atto misure di sicurezza e un essere umano dice sempre cosa succede fuori dalla porta”.
Ha affermato che lui e la sua squadra parlamentare per cercare di giocare a “bingo” e lavorare quando sente che un collega politico ha usato l’attrezzatura per scrivere il suo discorso, perché “ci sono alcune condizioni che usano”.
Iscriviti per i nostri giornali, per le ultime notizie e storie di frenata dal mondo della Daily Star.
