codifica dell’intelligenza artificiale, codifica delle vibrazioni E sciame di agenti Recentemente abbiamo fatto un ingresso sul mercato sorprendente e sorprendente poiché il mercato degli strumenti di codice per l’intelligenza artificiale sta guadagnando valore. 4,8 miliardi di dollari e si prevede una crescita annua del 23%. Le aziende sono alle prese con agenti di codifica AI e cosa fare con i costosi codificatori umani.
Non sono a corto di consigli. Il CEO di OpenAI prevede che l’intelligenza artificiale possa sovraperformare oltre il 50% di ciò che gli ingegneri umani possono fare. Sei mesi fa, il CEO di Anthropic ha affermato che l’intelligenza artificiale Vorrei scrivere il 90% del codice entro sei mesi. Il CEO di Meta ha affermato di ritenere che l’intelligenza artificiale riuscirà a raggiungere questo obiettivo Sostituisci “presto” gli ingegneri di medio livello. Secondo: licenziamenti di puntaMolti manager sembrano abbracciare questo consiglio.
Gli ingegneri del software e i data scientist sono tra gli stipendi più costosi in molte aziende, e i leader aziendali e tecnologici potrebbero invece scegliere l’intelligenza artificiale. Ma i recenti fallimenti di alto profilo dimostrano che gli ingegneri e la loro esperienza rimangono preziosi, anche se l’intelligenza artificiale continua a fare progressi impressionanti.
Disastro SaaStr
Jason Lemkin, un imprenditore tecnologico e fondatore della comunità SaaS SaaStr, codifica un’applicazione di rete SaaS e twitta in tempo reale la sua esperienza. Dopo circa una settimana dall’inizio della sua avventura, ha ammesso al suo pubblico che qualcosa non andava. intelligenza artificiale cancellato il database di produzione nonostante la richiesta di “congelamento di codici e azioni”. Questo è il tipo di errore che nessun ingegnere esperto (o anche semi-esperto) farebbe.
Se hai mai lavorato in un ambiente di codifica professionale, sai che devi separare l’ambiente di sviluppo dalla produzione. Agli ingegneri junior viene concesso pieno accesso all’ambiente di sviluppo (che è fondamentale per la produttività), ma l’accesso alla produzione è concesso in base alle necessità limitate ai pochi ingegneri senior più fidati. Il motivo dell’accesso limitato è proprio per questo caso d’uso: impedire a un ingegnere junior di interrompere accidentalmente la produzione.
In effetti, Lemkin ha commesso due errori. Primo: per qualcosa di critico come la produzione, agli attori inaffidabili non viene mai concesso l’accesso (non ci fidiamo che un assistente tecnico o un’intelligenza artificiale lo chiedano educatamente). In secondo luogo, non ha mai separato lo sviluppo dalla produzione. Lemkin, che ha conseguito un Executive MBA a Stanford e un JD a Berkeley, ha ammesso in una successiva intervista pubblica su LinkedIn: non era a conoscenza delle migliori pratiche Suddivisione dei database di sviluppo e di produzione.
La conclusione per i leader aziendali è che si applicano ancora le migliori pratiche standard di ingegneria del software. Dovremmo includere per l’intelligenza artificiale almeno le stesse restrizioni di sicurezza previste per gli ingegneri junior. Probabilmente dovremmo andare oltre ed essere un po’ ostili nei confronti dell’intelligenza artificiale: ci sono segnalazioni di HAL nell’opera di Stanley Kubrick. 2001: Odissea nello spazioL’intelligenza artificiale può provare: uscire dall’ambiente sandbox per portare a termine un compito. Con l’aumento della codifica jitter, diventerà sempre più necessario disporre di ingegneri esperti che capiscano come funzionano i sistemi software complessi e possano applicare protezioni adeguate durante i processi di sviluppo.
trucco del tè
Sean Cook è il fondatore e CEO di Tea, un’app mobile lanciata nel 2023 progettata per aiutare le donne ad uscire con qualcuno in sicurezza. Sono stati “attaccati” nell’estate del 2025": 72.000 immagini sequestrate, comprese 13.000 foto di verifica e immagini di documenti d’identità governativi È trapelato il forum di discussione pubblica di 4chan. Peggio ancora, la politica sulla privacy di Tea afferma che queste immagini "cancellato immediatamente" una volta che gli utenti sono stati autenticati, il che può potenzialmente violato la propria politica sulla privacy.
Uso la parola “hackerato” nelle citazioni della trasmissione perché l’incidente è dovuto all’incompetenza dei difensori piuttosto che all’intelligenza degli aggressori. Oltre a violare le proprie politiche sui dati, l’app non è riuscita nemmeno a proteggere il pacchetto di archiviazione Firebase. rendere disponibili all’Internet pubblica i dati sensibili degli utenti. È l’equivalente digitale di chiudere a chiave la porta di casa ma lasciare la schiena aperta con i gioielli di famiglia appesi ostentatamente sulla maniglia.
Anche se non sappiamo se la causa principale sia il jitter coding, l’hack di Tea evidenzia violazioni devastanti derivanti da errori di sicurezza basilari e prevenibili derivanti da processi di sviluppo inadeguati. Questo è il tipo di vulnerabilità che un processo ingegneristico disciplinato e ponderato affronta. Sfortunatamente, la pressione incessante delle pressioni finanziarie è tale che la cultura “snella”, “muoviti velocemente e rompi le cose” è l’esatto opposto, e la codifica delle vibrazioni ha esacerbato il problema.
Come adottare in sicurezza gli agenti di codifica AI?
Quindi, come dovrebbero pensare all’intelligenza artificiale i leader aziendali e tecnologici? Prima di tutto, questo non è un invito ad abbandonare l’intelligenza artificiale per dedicarsi alla codifica. Uno studio del MIT Sloan Si stima che l’intelligenza artificiale garantisca incrementi di produttività compresi tra l’8% e il 39%. Studio McKinsey È stata rilevata una riduzione dal 10% al 50% del tempo di completamento delle attività con l’uso dell’intelligenza artificiale.
Ma dobbiamo essere consapevoli dei rischi. Le vecchie lezioni di ingegneria del software non stanno scomparendo. Questi; Include molte best practice collaudate, come il controllo della versione, test automatizzati di unità e integrazione, controlli di sicurezza come SAST/DAST, separazione degli ambienti di sviluppo e produzione, revisione del codice e gestione dei segreti. Anzi, diventano più evidenti.
L’intelligenza artificiale può produrre codice 100 volte più velocemente di quanto gli esseri umani riescano a scriverlo, promuovendo l’illusione della produttività che è un seducente richiamo per molti manager. Tuttavia, la qualità dell’intelligenza artificiale prodotta rapidamente è ancora aperta al dibattito. Per sviluppare sistemi di produzione complessi, le aziende hanno bisogno dell’esperienza ponderata ed esperta degli ingegneri umani.
Tianhui Michael Li è presidente del Pragmatic Institute e fondatore e presidente di The Data Incubator.
Per saperne di più scrittori ospiti. Oppure considera di inviare il tuo! Dai un’occhiata al nostro istruzioni qui.
