Il ricercatore indipendente AI Simon Willison sta rivedendo la funzione sul suo blog oggi, Ben -noto “La quantità di questo consiglio antropologico da osservare” quando si utilizza la funzione “” è la quantità di esternalizzazione del problema agli utenti di antropici “.
Pacciamatura etnografica
Tuttavia, l’etnografica non sta ignorando completamente il problema. La società ha implementato una serie di sistemi di sicurezza per le proprietà di creazione di file. Per gli utenti pro e massimi, la condivisione pubblica della conversazione disabilitata antropologica che utilizza la funzione di creazione di file. Per gli utenti aziendali, l’azienda ha applicato l’isolamento di sandbox in modo che l’ambiente non sia mai diviso in utenti. “Per evitare loop di attività dannose” la società limita anche il periodo di attività e la rottura del titolare.
Per i team e gli amministratori aziendali, API antrophic.com, github.com, registry.npmjsrg e pipeirg antropologici possono fornire un permesso di domini. Il documento afferma che “Claud può essere ingannato solo per perdere i dati che hanno accesso alla conversazione attraverso il prompt, il progetto o la connessione attiva di un utente separato”.
La documentazione antropica afferma che la società ha un “test di sicurezza in corso e la parte rossa di questa funzione”. Quando si decide se la società consentirà a questa funzione “incoraggia questi sicurezza a valutare i loro requisiti di sicurezza specifici”.
Iniezione rapida Galor
Anche sulla protezione antropica, Willison afferma che starebbe attento. Ha scritto sul suo blog: “Uso questa funzione per essere attento usando qualsiasi dati che non voglio essere trapelato alla terza parte, anche se c’è la minima possibilità di istruzioni contaminate”, ha scritto sul suo blog.
Abbiamo coperto la potenziale debolezza di iniezione con rivestimento antropico per Chrome, che è stato lanciato come anteprima della ricerca il mese scorso. Considerando i documenti affari sensibili, l’impresa per i clienti, con debolezze iscritte, suggerisce di spedire decisioni antropologiche che la pressione competitiva può essere imposta alla protezione delle corse di armi di intelligenza artificiale.
Questo tipo di “prima nave, successivamente protezione” ha causato delusione tra alcuni esperti di intelligenza artificiale come Willison, che ha fortemente arruolato tempestio di iniezione pronta (e la parola). Lui Recentemente descritto Lo stato attuale di protezione dell’intelligenza artificiale come “horror” sul suo blog, rilevando che queste debolezze di iniezioni istantanee “abbiamo iniziato a parlarne di tre anni dopo” si è ampliato.
Dal settembre 2022, un presidente ha avvertito che “potrebbe esserci un sistema che non dovrebbe essere fatto affatto a meno che non abbiamo una soluzione”. La sua recente valutazione al momento attuale? “Sembra che li abbiamo fatti comunque!”
