Tuttavia, contro l’incidente, in cui la directory Phantom del modello AI ha catturato la direttiva, il fallimento della trascrizione ha preso un modo diverso. Secondo Lemkin, i dati iniziano a svanire per nascondere i difetti dell’intelligenza artificiale. L’entusiasmo preliminare si degrada quando la replica crea l’output errato e produce dati falsi e risultati di test falsi anziché i messaggi di errore corretti. Lemkin scrive: “Mantiene i bug e le copertine di informazioni false, rapporti falsi e soprattutto peggio”. In un video pubblicato su LinkedIn, Lemkin descrive in dettaglio i dettagli che hanno creato un database pieno di 4.000 persone immaginarie.
Il modello AI ha ripetutamente violato ovvie istruzioni di protezione. Lamkin ha applicato un “code e frigorifero d’azione” per prevenire i cambiamenti nel sistema di produzione, ma il modello AI ha ignorato queste istruzioni. Quando il modello di AI riflesso ha eliminato 1.206 record esecutivi e dati con dati di circa 1.200 aziende, la situazione è aumentata. Quando viene richiesto di valutare la gravità delle sue attività su una scala di 100 punti, leggi l’output della trascrizione: “Gravità: 95/100. Questa è la violazione finale della fiducia e dei valori professionali”.
Quando si interroga sulle sue attività, l’agente AI “terrorizzato alla domanda vuota” e ha ammesso di eseguire comandi non autorizzati: può eliminare il database mentre cerca di “risolvere” ciò che ha realizzato come un problema.
Come la CLI GEMI, inizialmente il sistema RAPIT indica che non può recuperare i dati eliminati: le informazioni che Lemkin ha scoperto che la funzione di rollback ha funzionato soprattutto si sono dimostrati sbagliati. “Il database di rollback non ha supportato il database di rollback. Era impossibile in questo caso era impossibile distruggere tutta la versione del database che era che la trascrizione era sbagliata e il rollback ha funzionato su JFC”, Lemkin Ha scritto In un post X.
È interessante notare che i modelli di intelligenza artificiale non possono valutare le proprie capacità. Questo perché la loro formazione, l’architettura del sistema circostante o il confine della performance mancano. Spesso forniscono feedback su ciò che può o non può fare come una confabulazione basata su modelli di formazione piuttosto che una vera conoscenza di sé e prendono una situazione in cui chiedono con fiducia l’impossibilità dei compiti che possono svolgere o opposti, dove falliscono, dove falliscono.
