Il protagonista di Keer è consigliato dall’IA? Il governo del Regno Unito non ci dirà

Migliaia di dipendenti pubblici al centro del governo del Regno Unito, compresi coloro che lavorano direttamente per sostenere il Kir Stmper del Primo Ministro, stanno usando un chatbot di intelligenza artificiale di proprietà per completare il loro lavoro, Nuovo scienziato Può rivelare. I funzionari hanno rifiutato di divulgare sul record come viene utilizzato lo strumento, sia che il primo ministro stia preparando consulenza utilizzando l’IA o come i dipendenti pubblici stanno riducendo i rischi di produzione di intelligenza artificiale errata o distorta. Gli esperti affermano che la mancanza di divulgazione aumenta le preoccupazioni sulla trasparenza del governo e l’accuratezza delle informazioni utilizzate nel governo.

Dopo aver assicurato il primo rilascio del mondo del registro della chat ai sensi della legge sulla libertà di informazione (FOI), Nuovo scienziato Chiese 20 dipartimenti governativi per record della loro interazione con Redbox, un generativo sviluppato presso la casa degli strumenti AI e testato tra i dipendenti del governo del Regno Unito. Il chatbot gestito dal modello di grande linguaggio consente agli utenti di interrogare i documenti del governo e “generare” prima del briefing ” COME Una delle persone dietro il suo sviluppo. Nei processi iniziali, un dipendente pubblico ha affermato la pretesa di sintetizzare 50 documenti “nel secondo caso” anziché il lavoro dell’intero giorno.

Tutti i dipartimenti contattati hanno affermato di non aver utilizzato il Redbox o si sono rifiutati di fornire nastri di conversazione con l’attrezzatura, sostenendo che Nuovo scienziatoUn termine ufficiale utilizzato in risposta alle richieste è stato usato “vessatorio”. Definisce Come “crisi, disintegrazione o irritazione probabilmente causerà livelli irregolari o ingiusti”.

Tuttavia, due dipartimenti hanno fornito alcune informazioni sull’uso di Redbox. L’ufficio del gabinetto a sostegno del primo ministro ha affermato che 3000 persone nel suo dipartimento hanno partecipato a un totale di 30.000 chat con Redbox. Ha detto che sarà necessario più di un anno di lavoro per rivedere queste chat per riprendere eventuali informazioni sensibili prima di emetterle ai sensi della FOI. Il Dipartimento del commercio e del commercio ha anche rifiutato, affermando che conduce “oltre 13.000 segnali e reazioni” e non sarà possibile rivederli per il rilascio.

Alla domanda sulle domande seguenti sull’uso di Redbox, entrambi i dipartimenti citati Nuovo scienziato Per il Dipartimento di Scienza, Innovazione e Tecnologia, che supervisiona l’attrezzatura. DSIT ha rifiutato di rispondere a domande specifiche se il Primo Ministro o altri ministri del gabinetto stanno ricevendo consigli che sono stati progettati utilizzando l’equipaggiamento di intelligenza artificiale.

Un portavoce del DSIT ha detto Nuovo scienziato: “Nessuno dovrebbe trascorrere del tempo su nulla, l’IA può fare meglio e più velocemente. Incorporato in Whitehall, Redbox ci sta aiutando a sfruttare il potere dell’IA in modo sicuro, sicuro e pratico – riassumendo i documenti per i funzionari, disegna l’agenda del disegno e altro.

Ma l’uso di strumenti di intelligenza artificiale generici riguarda alcuni esperti. I modelli di linguaggio di grandi dimensioni hanno problemi ben scritti riguardo al pregiudizio e alla precisione che sono difficili da ridurre, quindi non abbiamo modo di sapere se la Redbox sta fornendo informazioni di buona qualità. DSIT ha rifiutato di rispondere a domande specifiche in che modo gli utenti di Redbox evitano inesattezze o pregiudizi.

“Il mio problema è che il governo è considerato servire il pubblico e la quota di tale servizio è che come paglieri, come elettori, come elettori a capire che dovrebbe esserci un certo accesso per comprendere come vengono prese le decisioni e quali sono le procedure in termini di processo decisionale”, ” Catherine Flick Presso l’Università di Staffordshire, Regno Unito.

Poiché gli strumenti di AI generici sono scatole nere, i film sono preoccupati che non sia facile testare o capire come raggiunge un output particolare, come evidenziare alcuni aspetti del documento su altri. Dice che la riluttanza del governo riduce tali informazioni più trasparenza, dice.

La mancanza di trasparenza si estende a un terzo dipartimento del governo, Tesoro. In risposta alla richiesta FOI, ha detto il tesoro Nuovo scienziato I suoi dipendenti non hanno accesso a Redbox e che “HM (Majestic) non mantiene una rapida storia” HM (maestosa) attrezzatura GPT interna disponibile “. In effetti, lo strumento GPT che si riferisce ad esso non è chiaro – mentre il chipt è l’esempio più famoso, altri modelli di linguaggio di grandi dimensioni sono noti anche come GPT. La risposta suggerisce che il Tesoro sta usando lo strumento AI, ma non è il chi mantenne una grande risposta. Nuovo scienziatoRichiesta di chiarimenti.

“Se non stanno mantenendo segni che vengono utilizzati, è difficile ottenere qualsiasi tipo di idee su come ripetere i processi decisionali”, afferma Flicks.

John Baines Lo studio legale del Regno Unito Mishkon D Riya afferma che è insolito non registrare queste informazioni. “È sorprendente per me che il governo afferma che non può recuperare l’input delle indicazioni nel suo sistema GPT interno.” Mentre i tribunali hanno stabilito che gli enti pubblici non hanno bisogno di conservare i registri pubblici prima di raccogliere, “buone informazioni suggerirebbero che il mantenimento dei registri può essere ancora molto importante, specialmente dove possono essere utilizzati per sviluppare o informare la politica”, dicono.

Tuttavia, l’esperto di protezione dei dati Tim Turner afferma che il tesoro non è quello di mantenere segnali di intelligenza artificiale in base ai suoi diritti che le leggi FOI: “Penso che non esista una specifica regola legale o di servizio civile sulla natura dei dati, possono farlo”.