“La patch è incompleta e la posizione artistica sta cambiando. Ma non è una cosa. “Siamo qualcosa in una gara di armi.”
Per garantire che nessuno abuso di ricerche, dicono i ricercatori, non stanno rivelando alcuni dei loro codici e non hanno detto di non averlo rivelato alle proteine velenose per ri -design AI. Tuttavia, alcune proteine pericolose sono ben note, come il veleno ricina-A che si trova in fagioli di ricino e prieioni infettive che sono la causa della disfunzione folle.
“Questa scoperta, combinata con rapidi progressi nella modellazione biologica capacità AI-AI, mostra esigenze chiare e immediate per i processi di screening della sintesi di acido nucleico esteso combinati con un meccanismo affidabile di applicazione e verifica”, afferma Dean Ball, Foundation for American Innovation, un partner di San Francisco.
Ball Notes afferma che il governo degli Stati Uniti considera già lo screening del DNA, che è un’importante linea di sicurezza. Lo scorso maggio, In un ordine esecutivo sulla sicurezza della ricerca biologicaIl presidente Trump ha chiesto la riforma complessiva del sistema, sebbene la Casa Bianca non abbia ancora emesso nuove raccomandazioni.
Altri sospettano che la sintesi commerciale del DNA sia il miglior punto di difesa contro i cattivi attori. Michael Cohen, un ricercatore di sicurezza AI dell’Università della California, Berkeley, crede che ci sarebbero sempre stati modi per nascondere le sequenze e Microsoft ha reso difficile il suo test.
“La sfida appare debole e la loro attrezzatura patching fallisce molto”, Cohen. “Sembra che ci sia una riluttanza ad accettare che presto un po ‘di tempo, ci ritireremo da questo presunto punto di strozzamento, quindi dovremmo iniziare a cercare il terreno che possiamo effettivamente prendere.”
Cohen afferma che la sicurezza della bio dovrebbe essere fatta nel sistema AI stesso, direttamente o attraverso il controllo di ciò che danno.
Ma Chlor afferma che il monitoraggio della sintesi genica è ancora un approccio pratico per rilevare la biotrici, poiché alcune aziende hanno dominato il DNA negli Stati Uniti che lavorano insieme al governo. Al contrario, la tecnica utilizzata per produrre e formare modelli AI è più ampia. “Non puoi rimettere quel genio nella bottiglia”, chiama Chlor. “Se hai risorse per provare a ingannarci nella creazione di una sequenza di DNA, probabilmente puoi addestrare un modello linguistico di grandi dimensioni.”
