Buon articolo di Melanie Mitchell:
*Misleading Metaphors and Real Risks
*/What To Fear from AI Agents and How to Reclaim Our Human Agency
/
https://aiguide.substack.com/p/misleading-metaphors-and-real-risks
JC
On 09/09/2026 14:44, Giacomo Tesio via nexa wrote:
Salve Orianna
On Wed, 9 Sep 2026 13:11:34 +0200 Oriana Bozzarelli wrote:
Dimostra infatti che agenti molto capaci, persistenti e orientati
al raggiungimento di un obiettivo possono combinare autonomamente...
Automaticamente, non "autonomamente".
vulnerabilità diverse e provocare conseguenze reali non previste
dagli stessi sviluppatori.
Questo è ovviamente quello che OpenAI & friends vogliono farti credere,
per non rispondere delle proprie azioni quando utilizzano software
programmati statisticamente per compierle.
OpenAI lo ha definito un vero e proprio *warning shot*, un colpo
d’avvertimento. E per chi si occupa di valutazione e sicurezza dei
sistemi di IA è certamente un caso di studio fondamentale.
Io direi invece che è un caso di studio fondamentale solo per chi si
occupa di marketing e di controllo lobbying politico.
Chi si occupa di "valutazione e sicurezza dei sistemi di IA" dovrebbe
semplicemente qualificare le aziende che hanno FINTO simili incidenti
come inaffidabili e ad alto rischio operativo.
Conseguentemente, chi si occupa di assicurazioni dovrebbe incrementare
adeguatamente il premio alle aziende che ne utilizzano i servizi.
Giacomo
_______________________________________________
nexa mailing list [email protected]
To change settings or unsubscribe please go
to:https://server-nexa.polito.it/postorius/lists/nexa.server-nexa.polito.it/
The general archive of the list is located
at:https://server-nexa.polito.it/hyperkitty/list/[email protected]/
Permalink to this
message:https://server-nexa.polito.it/hyperkitty/list/[email protected]/message/MWIHCNJ4TZLB4ZBEGUXFJOPYOOXLPKND/
_______________________________________________
nexa mailing list -- [email protected]
To change settings or unsubscribe please go to:
https://server-nexa.polito.it/postorius/lists/nexa.server-nexa.polito.it/
The general archive of the list is located at:
https://server-nexa.polito.it/hyperkitty/list/[email protected]/
Permalink to this message:
https://server-nexa.polito.it/hyperkitty/list/[email protected]/message/E26U4ZZJ7TIN3D4S4FPPTCL7RUCZ3BKA/
