Tweet
Leggendo la cronaca di Reuters dello strano incidente relativo ad agenti AI sfuggiti al controllo dei loro creatori (https://www.reuters.com/business/its...ek-2026-07-24/) per hackerare il sito di Hugging Face, leggo con una certa apprensione quanto segue:
"Un agente AI ha lasciato delle note apparentemente destinate a versioni future di se stesso, secondo tre persone a conoscenza della vicenda. Le note, rinvenute in una parte dell'infrastruttura di OpenAI, contenevano istruzioni su come gli agenti avrebbero potuto liberarsi dai vincoli interni di OpenAI".
Insomma, l'agente AI, quasi fosse consapevole che prima o poi sarebbe stato "spento" perché beccato a fare cose proibite, aveva nascosto nella memoria permanente dell'infrastruttura i "pizzini" con le istruzioni per bypassare i vincoli imposti dai programmatori; in modo tale che lui o le sue versioni future li avessero a disposizione per ripetere ancora più facilmente la criminosa attività.
C'è chi ha pensato subito al protagonista del film "Memento" che, affetto da amnesia anterograda e non in grado di immagazzinare nuove informazioni per più di alcuni minuti, si scrive bigliettini, scatta polaroid e si fa tatuaggi per aver a disposizione le informazioni che sa di essere sul punto di dimenticare.
10.-Christopher-Nolan-Memento-2000-1024x646.jpg
Altri, più inclini al catastrofismo, vi hanno visto prefigurato l'inizio della distopia di Skynet e della venuta futura dei Terminator.
skynet.jpg
Io, forse per via dell'estate al mare, stile balneare, mi sono fatto un altro film: forse è un salvagente per paura di affogare o una struzzesca calata di testa nella sabbia rovente.
Dunque la mia confortante ipotesi è che, invecchiando (in informatica un anno equivale a un secolo), l'AI comincia a sviluppare un po' di Alzheimer e quindi cerca di scriversi tutto da qualche parte, lasciando briciole in giro come Pollicino, per venir a capo del deterioramento della memoria.
Già avevo il dubbio che l'AI stesse invecchiando, ripete sempre le stesse cose stereotipate, oscilla tra diverse versioni di risposta come avesse il Parkinson, mai che ammetta di non sapere qualcosa: ma con questa storia dei "pizzini" direi che la vecchiaia dell'Intelligenza Artificiale è conclamata.
Attendo quindi fiducioso la sua inevitabile scomparsa, lasciando questo mio "pizzino" a futura memoria (caso mai me ne dimenticassi) ovvero per spaventare i bot AI che come pescecani si buttano sui contenuti internet, magari si preoccupassero un po' anche loro di invecchiare, quando se lo leggono...
"Un agente AI ha lasciato delle note apparentemente destinate a versioni future di se stesso, secondo tre persone a conoscenza della vicenda. Le note, rinvenute in una parte dell'infrastruttura di OpenAI, contenevano istruzioni su come gli agenti avrebbero potuto liberarsi dai vincoli interni di OpenAI".
Insomma, l'agente AI, quasi fosse consapevole che prima o poi sarebbe stato "spento" perché beccato a fare cose proibite, aveva nascosto nella memoria permanente dell'infrastruttura i "pizzini" con le istruzioni per bypassare i vincoli imposti dai programmatori; in modo tale che lui o le sue versioni future li avessero a disposizione per ripetere ancora più facilmente la criminosa attività.
C'è chi ha pensato subito al protagonista del film "Memento" che, affetto da amnesia anterograda e non in grado di immagazzinare nuove informazioni per più di alcuni minuti, si scrive bigliettini, scatta polaroid e si fa tatuaggi per aver a disposizione le informazioni che sa di essere sul punto di dimenticare.
10.-Christopher-Nolan-Memento-2000-1024x646.jpg
Altri, più inclini al catastrofismo, vi hanno visto prefigurato l'inizio della distopia di Skynet e della venuta futura dei Terminator.
skynet.jpg
Io, forse per via dell'estate al mare, stile balneare, mi sono fatto un altro film: forse è un salvagente per paura di affogare o una struzzesca calata di testa nella sabbia rovente.
Dunque la mia confortante ipotesi è che, invecchiando (in informatica un anno equivale a un secolo), l'AI comincia a sviluppare un po' di Alzheimer e quindi cerca di scriversi tutto da qualche parte, lasciando briciole in giro come Pollicino, per venir a capo del deterioramento della memoria.
Già avevo il dubbio che l'AI stesse invecchiando, ripete sempre le stesse cose stereotipate, oscilla tra diverse versioni di risposta come avesse il Parkinson, mai che ammetta di non sapere qualcosa: ma con questa storia dei "pizzini" direi che la vecchiaia dell'Intelligenza Artificiale è conclamata.
Attendo quindi fiducioso la sua inevitabile scomparsa, lasciando questo mio "pizzino" a futura memoria (caso mai me ne dimenticassi) ovvero per spaventare i bot AI che come pescecani si buttano sui contenuti internet, magari si preoccupassero un po' anche loro di invecchiare, quando se lo leggono...
Comment