Anthropic afferma di disporre di misure di sicurezza per prevenire rischi comuni come l’iniezione tempestiva e che limiterà per impostazione predefinita l’accesso a determinate app “off limit” (ad esempio “piattaforme di investimento e trading, criptovalute”).
Anche antropologico Nota su una pagina di supporto Il modello è addestrato per evitare “attività rischiose” come trasferire o investire denaro, modificare file, raschiare immagini facciali o inserire “dati sensibili”. Ma l’azienda avverte che tali garanzie di formazione “non sono perfette” e “non assolute”, il che significa che “i cloud a volte possono operare al di fuori di questi confini”.
Anthropic avverte inoltre che, quando l’utilizzo del computer è abilitato, il cloud sarà in grado di visualizzare qualsiasi cosa visibile sullo schermo, inclusi “dati personali, documenti sensibili o informazioni personali”. Per tutti questi motivi, l’azienda consiglia di “iniziare con app di cui ti fidi e di non lavorare con dati sensibili” durante questa fase di anteprima della ricerca.
L’annuncio di Anthropic arriva settimane dopo il lancio del personal computer di Perplexity, Utente personale del computerE Nemocla di NvidiaCiò consente allo stesso modo ai loro agenti AI di assumere il controllo diretto del desktop. Tutte queste mosse aziendali seguono la diffusione virale di OpenClaw all’inizio dell’anno, che ha portato a OpenAI Assumi il creatore di OpenClaw Peter Steinberger “Per guidare la prossima generazione di agenti personali.”
