“La questione non è se Ryan avesse ragione o torto”, ha detto il coautore Sino Li, psicologo sociale di Stanford. “Non ce lo dice veramente. Si tratta più di modelli coerenti tra i dati. Un’intelligenza artificiale che non si è dimostrata eccessivamente sicura, rispetto a coloro che hanno interagito con questa IA troppo rassicurante, erano più sicuri di avere ragione e meno disposti a riparare la relazione, sia che ciò significhi scusarsi, adottare misure per migliorare le cose o cambiare il proprio comportamento. “
Un modello auto-rinforzante
Tutte queste influenze abbracciano dati demografici, tipi di personalità e atteggiamenti individuali nei confronti dell’intelligenza artificiale. Tutti sono sensibili (sì, anche tu). Anche quando il team ha modificato l’intelligenza artificiale per renderla meno cordiale e amichevole e adottare un tono più neutro, i risultati non hanno fatto alcuna differenza. “Ciò suggerisce che il servilismo può avere un effetto di auto-rafforzamento”, ha detto il coautore Pranab Khadpe, uno studente laureato alla Carnegie Mellon University che studia l’interazione uomo-computer. In effetti, è integrato in parametri basati sul coinvolgimento. Ogni volta che un utente risponde positivamente a un messaggio ChatGPT, ad esempio, quella risposta viene utilizzata per addestrare il modello a replicare quel “buon comportamento”. Le preferenze dell’utente vengono combinate in un set di dati sulle preferenze, utilizzato per ottimizzare ulteriormente il modello.
“Se i messaggi adulatori piacciono agli utenti, probabilmente questo ha già spostato il modello di comportamento verso la pacificazione e consigli meno critici,” dice Khadpe, il che si traduce in meno attrito sociale—non necessariamente una buona cosa, perché “alcune cose sono difficili perché sono percepite come difficili.” Infatti, Anat Perry, una psicologa di Harvard e dell’Università Ebraica di Gerusalemme che non è stata coinvolta nello studio, ha sostenuto Prospettiva concomitante Questo attrito sociale è sia auspicabile che importante per il nostro sviluppo sociale.
“Il benessere umano dipende dalla capacità di orientarsi nel mondo sociale, un’abilità acquisita principalmente attraverso l’interazione con gli altri”, scrive Perry. “Tale apprendimento sociale dipende da un feedback affidabile: riconoscere quando abbiamo torto, quando viene fatto del male e quando è necessario considerare il punto di vista degli altri… La vita sociale raramente è priva di attriti perché le persone non vanno perfettamente d’accordo tra loro. Eppure è proprio attraverso questo attrito sociale che le relazioni si approfondiscono e si sviluppa la comprensione morale.”
