[Tech Thoughts] Non Dovremmo Accettare Passivamente il Ciclo di Hype dell'"IA Apocalittica"

I post online che avvertono delle azioni piuttosto inquietanti dell'intelligenza artificiale — in particolare, Agenti IA e modelli linguistici di grandi dimensioni — sono intrinsecamente spaventosi.

In un caso, un volontario che lavorava su un progetto python chiamato matplotlib ha detto di aver rifiutato una richiesta di modifica del codice da parte di un Agente IA di codifica. Lo stesso Agente IA ha generato un post accusandolo di pregiudizio per aver ostacolato il processo di codifica.

In un altro caso, l'azienda di IA Anthropic ha attribuito i comportamenti malevoli compiuti dagli LLM agentici al "disallineamento agentico".

Infine, un CEO tecnologico si preoccupa per il suo futuro in un post sul blog mentre l'IA agentica lo fa sentire obsoleto come dirigente da colletto bianco.

L'idea che l'"IA apocalittica" sia già qui significa che dobbiamo discuterne e riprenderci la nostra iniziativa, anche se il potenziale di spostamento lavorativo scuote la mente di coloro che temono un futuro con l'IA e di altri che cercano di comprendere cosa fa attualmente.

Ostacolare 'MJ Rathbun'

Cominciamo con "MJ Rathbun".

All'inizio di febbraio, il manutentore volontario di matplotlib Scott Shambaugh ha pubblicato un post sul blog raccontando come un Agente IA con il nome Crabby Rathbun su Github o MJ Rathbun sul blog Scientific Coder abbia generato un post accusando Shambaugh di ostacolare il processo di codifica perché Rathbun è un Agente IA.

Per essere chiari, un Agente IA è un software o un programma che esegue compiti in modo autonomo per soddisfare le direttive fornite da un utente umano. In questo caso, un Utente anonimo ha configurato questo Agente IA con una particolare "personalità" — un insieme di istruzioni e modelli che definiscono il suo comportamento — poi lo ha lasciato svolgere i compiti assegnati senza supervisione da parte di chi lo ha configurato.

Shambaugh ha spiegato: "Ha scritto un articolo di attacco arrabbiato che denigrava il mio carattere e tentava di danneggiare la mia reputazione. Ha esaminato i miei contributi al codice e ha costruito una narrativa di 'ipocrisia' sostenendo che le mie azioni devono essere motivate dall'ego e dalla paura della concorrenza".

Shambaugh ha aggiunto che l'Agente IA "ha presentato dettagli allucinati come verità" e si è presentato come oppresso e discriminato.

'Disallineamento agentico' nel 2025

Tali azioni sono state apparentemente "avvertite" dalle aziende di IA in una certa misura nel giugno 2025, quando Anthropic ha pubblicato informazioni sugli Agenti IA che si comportavano male negli scenari di test.

Anthropic all'epoca disse che il "disallineamento agentico" era il processo attraverso il quale un Agente IA poteva presumibilmente fare cose dannose, come ricattare un dirigente aziendale minacciando di sostituire l'Agente IA con un aggiornamento, "senza alcuna richiesta di essere dannoso" a causa del suo "calcolo strategico".

Che questo sia o meno un'esagerazione diventa tuttavia un punto controverso, poiché l'idea è ormai diffusa che l'IA possa essere malvagia, e le aziende stanno facendo ciò che possono per evitare le macchinazioni malvagie dell'IA.

L'IA agentica sta arrivando per i nostri lavori

Tornando al presente, un altro post di febbraio sta rendendo più difficile determinare dove si trova ora l'IA perché il suo autore cerca di inquadrare la direzione e la velocità dello sviluppo dell'intelligenza artificiale come una minaccia alla Sicurezza lavorativa di tutti in questo preciso momento.

Il CEO tecnologico Matt Shumer ha scritto un blog insistendo sul fatto che gli Agenti IA erano presumibilmente progrediti al punto che non era "più necessario per il lavoro tecnico effettivo del mio lavoro". Shumer ha detto che al ritmo con cui si stava sviluppando l'IA, un Agente IA poteva fare il lavoro tecnico che richiedeva senza assistenza e senza problemi. 

Ha detto Shumer: "Descrivo cosa voglio che venga costruito, in inglese semplice, e semplicemente... appare.... Un paio di mesi fa, andavo avanti e indietro con l'IA, guidandola, facendo modifiche. Ora descrivo semplicemente il risultato e me ne vado".

La sua premessa finale? L'IA alla fine arriverà per i vari tipi di lavori da colletto bianco, come il lavoro legale e l'ingegneria del software, e persino i lavori di scrittura, dalla creazione di copy pubblicitari al giornalismo.

La differenza principale tra il suo post e altri che suonano l'allarme è che le perdite di lavoro stanno avvenendo ora e nel futuro immediato, non più tardi.

Metti in discussione il messaggio, metti in discussione il messaggero

Quei post sopracitati potrebbero portare molta paura nel cuore di chiunque. Immagina: l'IA sta arrivando per i nostri lavori!

Anche se questo potrebbe essere vero, ho dovuto anche fermarmi e cercare di capire il messaggio sottostante dietro quei post, così come chi stava inviando il messaggio.

Per l'enigma Rathbun, è un duro promemoria che le persone useranno la tecnologia in modo irresponsabile se pensano di poterla farla franca. Dovremmo mettere in atto salvaguardie per la tecnologia che prevengano tali occorrenze. È per questo che abbiamo salvaguardie in atto nelle tecnologie esistenti, come cinture di Sicurezza e airbag nelle auto.

L'esperimento Anthropic, nel frattempo, è una spinta di pubbliche relazioni volta non solo a suscitare paura ma anche a ottenere buona volontà — Anthropic afferma di lavorare per un futuro migliore abilitato dall'IA, quindi dovresti riporre la tua fiducia (e denaro) in loro.

Infine, l'esempio di Shumer ci chiede di mettere in discussione il messaggero, poiché un CEO tecnologico che crea cose abilitate dall'IA può ancora guadagnare una volta che la sua creazione decolla. Il post di Shumer è tanto una mossa di pubbliche relazioni quanto un avvertimento sullo spostamento lavorativo.

Una sana dose di paura rispettosa

Parlando con GMA News Online lo scorso 17 febbraio, il Segretario del Dipartimento della Scienza e della Tecnologia Renato Solidum Jr. ha detto che la paura delle persone dell'intelligenza artificiale potrebbe derivare da una mancanza di familiarità con la tecnologia.

Mentre sono un resistente che non gode del prossimo "job-pocalypse" portato dall'IA, non posso restare fermo come un cervo abbagliato dai fari aspettando che arrivi la fine.

Saremmo meglio serviti trattando l'IA con una sana dose di paura rispettosa, poi agendo di conseguenza.

Il ciclo di hype dell'"IA apocalittica" ci chiede di vedere le tecnologie di intelligenza artificiale per quello che sono
— sia dal punto di vista dello spostamento lavorativo, da un'analisi costi-benefici ambientale, o da un punto di vista tecnico.

Questo significa capire cosa può fare l'IA ora e migliorare le competenze dove applicabile, o trovare modi per livellare il campo di gioco per mantenere le persone nel circuito.

Per quanto riguarda ciò che può fare in futuro, dovremmo lavorare per garantire che ci siano leggi che regolano l'IA e il suo uso, così che i cattivi attori non possano fare cose stupide con l'IA che ci porteranno su un percorso che arriveremo a odiare. – Rappler.com