Rischi per la sicurezza di lavoro ‘Agenti del sistema operativo’ avverte come controllo di computer e telefoni

“Gli agenti del sistema operativo possono completare autonomamente compiti e avere il potenziale per aumentare significativamente la vita di miliardi di utenti in tutto il mondo”, affermano i ricercatori. “Immagina un mondo in cui compiti come lo shopping online, la prenotazione degli accordi di viaggio e altre attività quotidiane possono essere eseguite senza intoppi da questi agenti.”

I sistemi più sofisticati possono elaborare complessi flussi di lavoro a più stadi che coprono diverse applicazioni per prenotare una prenotazione di ristoranti, quindi aggiungere un promemoria da aggiungere al calendario, quindi per lasciare il traffico in anticipo. Ciò che le persone ricevono clic e i minuti di scrittura possono ora essere in pochi secondi senza intervento umano.

Perché gli esperti di sicurezza danno allarmi sui sistemi aziendali controllati dall’IA?

Per i leader della tecnologia aziendale, la produttività comporta una promessa di guadagni: questi sistemi rappresentano una superficie completamente nuova di attacchi che la maggior parte delle organizzazioni non è pronta a difendere.

I ricercatori danno grande importanza a ciò che chiamano diplomatico “Sicurezza e privacy“Preoccupazioni, ma i risultati sono più preoccupanti di quanto suggeriscono le lingue accademiche.” Gli agenti del sistema operativo affrontano questi rischi, soprattutto considerando i dati degli utenti e le ampie applicazioni su dispositivi personali. Kaz

I metodi di attacco documentati vengono letti come Cyber Security Nightmare. “Iniezione di richiesta indiretta web“Permette agli attori dannosi di posizionare le istruzioni nascoste che possono sequestrare il comportamento di un rappresentante di intelligenza artificiale sulle loro pagine Web. Ancora più importante, sono” attacchi di iniezione ambientale ği, che sembrano ingannare i dati degli utenti o ingannare azioni non autorizzate.

Considera i risultati: un’intelligenza artificiale con accesso al tuo e -mail, i sistemi finanziari e i database dei clienti aziendali possono essere manipolati con una pagina Web attentamente preparata per fornire informazioni sensibili. I tradizionali modelli di sicurezza basati su utenti umani in grado di rilevare le iniziative di caccia all’identità aperta vengono disintegrati quando esiste un sistema di intelligenza artificiale che funziona diversamente “utente”.

Il questionario rivela che esiste un divario preparato. Sebbene ci siano quadri di sicurezza generale per agenti di intelligenza artificiale, “Studi sulle difese specifiche per gli agenti del sistema operativo sono limitati”. Questa non è solo una preoccupazione accademica, ma una difficoltà urgente per qualsiasi organizzazione, considerando la distribuzione di questi sistemi.

Controllo della realtà: gli agenti AI esistenti stanno ancora combattendo compiti digitali complessi

Nonostante l’hype che circonda questi sistemi, l’analisi dei criteri di prestazione del questionario rivela limitazioni significative che alleviano immediatamente le aspettative dell’adozione.

I tassi di successo variano significativamente tra compiti e piattaforme diverse. Alcuni sistemi commerciali raggiungono oltre il 50% di tassi di successo in determinati criteri che sono impressionanti per una nuova tecnologia, ma lottano con altri. I ricercatori classificano le loro attività di valutazione a tre tipi: la “messa a terra della GUI” di base (comprensione degli elementi dell’interfaccia), “reclutamento di informazioni” (ricerca e sottrazione dei dati) e complesse “attività degli agenti” (operazioni autonome a più stadi).

Il modello descrive: i sistemi esistenti sono semplici, ben identificati nei compiti perfetti, ma quando si trovano di fronte a flussi di lavoro complessi e dipendenti che definiscono la maggior parte del lavoro di informazione moderno. Possono fare clic in modo affidabile su un pulsante particolare o compilare un modulo standard, ma possono combattere compiti che richiedono ragionamento continuo o adattamento a cambiamenti di interfaccia imprevisti.

Questo divario di prestazione spiega perché la distribuzione precoce si concentra su attività strette e ad alto volume piuttosto che su automazione generale. La tecnologia non è ancora pronta a sostituire il giudizio umano in scenari complessi, ma può discutere sempre più di un impegno digitale sempre più di routine.

Cosa succede quando gli agenti AI imparano a personalizzare se stessi per ogni utente?

Forse il più interessante e potenzialmente trasformativo del sondaggio include ciò che i ricercatori chiamano “personalizzazione e autoevoluzione. Ogni interazione indipendente, i futuri agenti del sistema operativo dovranno imparare dalle interazioni degli utenti e adattarsi alle preferenze individuali nel tempo.

“Lo sviluppo di veicoli di sistema operativo personalizzato è stato un obiettivo di lunga data nella ricerca AI, Yazar afferma che gli autori.” Si prevede che un assistente personale adatterà costantemente e fornirà esperienze avanzate basate sulle preferenze dei singoli utenti “.

Questa capacità può fondamentalmente cambiare il nostro modo di interagire con la tecnologia. Pensa a un rappresentante di intelligenza artificiale che apprende il tuo stile di scrittura elettronica, comprende le tue preferenze del calendario, sapendo quali ristoranti preferisci e può prendere decisioni più complesse per tuo conto. I potenziali guadagni di efficienza sono enormi, ma anche le consacrazioni della privacy sono molto elevate.

Le difficoltà tecniche sono importanti. Il questionario indica non solo il testo, ma anche la necessità di migliori sistemi di memoria multi -MOD in grado di rendere immagini e suoni e offrire “sfide importanti Için per la tecnologia esistente. Come si crea un sistema che ricorda le tue preferenze senza creare una registrazione completa di sorveglianza della tua vita digitale?

Per i gestori della tecnologia che valutano questi sistemi, questa difficoltà di personalizzazione rappresenta sia la più grande opportunità che il rischio maggiore. In primo luogo, le organizzazioni che lo risolvono otterranno significativi vantaggi competitivi, ma possono essere gravi se le conseguenze sulla privacy e sulla sicurezza vengono gestite male.

La corsa di costruzione per costruire assistenti di intelligenza artificiale, che può davvero operare come gli utenti umani, si sta rapidamente intensificando. Sebbene le principali sfide per la sicurezza, l’affidabilità e la personalizzazione non siano state risolte, l’orbita è aperta. I ricercatori continuano a sviluppare un monitoraggio del magazzino a livello aperto accettando “rapidi sviluppi che continuano a offrire nuove metodologie e pratiche” che gli agenti del sistema operativo sono ancora nelle prime fasi dello sviluppo “.

La domanda non è se gli agenti AI trasformano il modo in cui interagiamo con i computer, quando sono pronti per i risultati. La finestra di creare cornici di sicurezza e riservatezza si restringe con precisione con la stessa rapidità con cui la tecnologia avanza.

Informazioni quotidiane sull’utilizzo del business con quotidianamente ecc.

Se vuoi impressionare il tuo capo, ci sono quotidianamente, ecc. Dai turni normativi alle distribuzioni pratiche, ti diamo ciò che le aziende fanno con l’intelligenza artificiale produttiva, in modo da poter condividere informazioni per il massimo YG.

Leggi la nostra politica sulla privacy

Grazie per aver iscritto. Dai un’occhiata di più ecc.

C’è stato un errore.