Dovremmo preoccuparci che l’IA creerà un bioopone mortale? Non ancora, ma un giorno

L’intelligenza artificiale promette di cambiare biologia, permettendoci di progettare medicinali migliori, vaccini e persino organismi sintetici, dice, mangiando la plastica di scarto. Ma un po ‘di paura che può essere usato anche per scopi profondi, per creare bioopone che non sarebbe stato rilevato con metodi tradizionali fino a quando non era troppo tardi. Quindi, quanto dovremmo essere preoccupati?

“I progressi di intelligenza artificiale stanno alimentando i successi in biologia e medicina”, afferma Eric HorvitzChief Scientific Officer di Microsoft. “Le cause sono responsabili della vigilanza con un nuovo potere.”

Il suo team ha pubblicato uno studio in considerazione se l’IA può progettare proteine ​​che fanno la stessa cosa delle proteine ​​che sono note per essere pericolose, ma separatamente che non saranno considerate pericolose. Il team non ha rivelato quali proteine ​​che hanno cercato di ri -design – parti dello studio sono state interrotte – ma probabilmente ha coinvolto tossine come Recine, che è stata notoriamente usata nell’omicidio del 1978, e botulinum, la potente neurotossina è conosciuta come Better Botox.

Per creare molte proteine ​​come il botulinio, hai bisogno di una ricetta – DNA che lo codifica per questo. Quando i biologi vogliono un pezzo di DNA specifico, di solito lo ordinano da aziende specializzate nella creazione di qualsiasi pezzo desiderato.

A causa delle preoccupazioni che saranno i bioteroristi che possono ordinare piatti per creare bioviponi in questo modo, alcune aziende di società di DNA indagano volontariamente gli ordini per verificare se qualcuno sta cercando di fare qualcosa di pericoloso. Le proteine ​​sono sequenze di aminoacidi e controllano lo screening se la sequenza di aminoacidi corrisponde a qualsiasi “sequenza di ansia”, ovvero potenziali biooponi.

Ma con AI, è possibile progettare una versione di una proteina che ha una sequenza di aminoacidi separata, ma fa ancora la stessa cosa. Horvitz e i suoi colleghi hanno tentato con 72 proteine ​​potenzialmente pericolose e hanno mostrato che i metodi di screening spesso ricordano queste versioni alternative.

Questo non è così preoccupante come sembra. Prima di tutto, il team non ha realizzato la proteina progettata per ragioni davvero chiare. Ma in uno studio separato all’inizio di quest’anno, ha testato le versioni di proteine ​​innocue Ho scoperto che non hanno funzionato,

In secondo luogo, mentre gli attacchi biotaristici sono stati tentati, molto poco, è molto meno la ragione per pensare che sia dovuta al fallimento del sistema di scansione volontario. Esistono già diversi modi per muoversi senza ricorrere ai redigini di AI – ad esempio la ricina può essere ottenuta da piante di olio di ricino, che si trovano in molti giardini. Questo studio è uguale all’avvertimento che una banca può essere saccheggiata da qualcosa di altamente sofisticato Missione impossibile-I dei piani di stile di I, quando la porta del caveau è effettivamente lasciata aperta.

Ultimo ma almeno, quando gli attori dello stato sono esclusi, nessun bioterorista è mai riuscito a uccidere chiunque usa un biopone a base di proteine. Aum Shinrikyo Panth in Giappone ha cercato di uccidere le persone con botulinio, ma è riuscito solo con agenti chimici. Le lettere senza ricina inviate alla Casa Bianca non uccidevano nessuno. A seconda del conteggio del corpo, le pistole e gli esplosivi sono più pericolosi delle biotossine.

Quindi questo significa che smettiamo di preoccuparci del biovipone progettato dall’intelligenza artificiale? Non abbastanza. Mentre gli studi di Horvitz sono stati visti solo su proteine, è il virus che causa un grande pericolo – e l’IA è già usata per ri -progettare l’intero virus.

Il mese scorso, una squadra della Stanford University in California ha rivelato i risultati I loro sforzi per ri -progettare un virus Infetta i batteri e coliCon le proteine ​​reinsamate, i risultati erano inefficaci-302 virus progettati dall’IA che sono stati creati, solo 16 possono essere infettati e coliMa questo è solo l’inizio.

Alla domanda sul virus progettato dall’IA, James Dignges Una twist per la società di DNA, un membro del team di Bioscience e Horvitz, ha affermato che è facile rilevare il virus dell’ansia che avvolge il DNA rispetto alla proteina dell’ansia. “Lo screening della sintesi funziona meglio su più informazioni piuttosto che bassa. Quindi, sulla scala del genoma, è incredibilmente istruttivo.”

Ma non tutte le aziende che creano il DNA fanno questo screening e sono disponibili la sintesi del DNA da banco. Si tratta di progettare dispositivi AI Si rifiuterà di fare virus pericolosi Oppure cerca di scoprire le intenzioni del maleista, ma le persone hanno scoperto diversi modi per passare alle misure di sicurezza, ad esempio, per impedire agli AIS di fornire istruzioni per creare bombe.

Per essere chiari, la storia suggerisce che il rischio dal virus “selvaggio” è superiore al rischio di bioterorismo. Nonostante abbia rivendicato l’attuale amministrazione degli Stati Uniti, le prove suggeriscono che SARS-CoV-2 è emerso quando un virus del pipistrello è saltato per altri animali selvatici, e poi in un laboratorio di mercato-no di mercato.

Inoltre, i biotaristi possono semplicemente fare un’incredibile danno rilasciando un virus noto, come il vaiolo. Non è necessario ricorrere alle acque reflue dell’IA per muoversi attorno a loro, con più fori a intervalli negli sforzi di controllo della bierpola.

Per tutti questi motivi, il rischio di virus progettato dall’IA inizierà presto, forse con zero. Ma questo rischio aumenterà perché varie tecniche continueranno ad avanzare e l’epidemia di Kovid -19 ha mostrato quanto cabina può creare un nuovo virus, anche quando non è particolarmente fatale. Rapido, causerà ansia.