Salve Orianna On Wed, 9 Sep 2026 13:11:34 +0200 Oriana Bozzarelli wrote:
> Dimostra infatti che agenti molto capaci, persistenti e orientati > al raggiungimento di un obiettivo possono combinare autonomamente... Automaticamente, non "autonomamente". > vulnerabilità diverse e provocare conseguenze reali non previste > dagli stessi sviluppatori. Questo è ovviamente quello che OpenAI & friends vogliono farti credere, per non rispondere delle proprie azioni quando utilizzano software programmati statisticamente per compierle. > OpenAI lo ha definito un vero e proprio *warning shot*, un colpo > d’avvertimento. E per chi si occupa di valutazione e sicurezza dei > sistemi di IA è certamente un caso di studio fondamentale. Io direi invece che è un caso di studio fondamentale solo per chi si occupa di marketing e di controllo lobbying politico. Chi si occupa di "valutazione e sicurezza dei sistemi di IA" dovrebbe semplicemente qualificare le aziende che hanno FINTO simili incidenti come inaffidabili e ad alto rischio operativo. Conseguentemente, chi si occupa di assicurazioni dovrebbe incrementare adeguatamente il premio alle aziende che ne utilizzano i servizi. Giacomo _______________________________________________ nexa mailing list -- [email protected] To change settings or unsubscribe please go to: https://server-nexa.polito.it/postorius/lists/nexa.server-nexa.polito.it/ The general archive of the list is located at: https://server-nexa.polito.it/hyperkitty/list/[email protected]/ Permalink to this message: https://server-nexa.polito.it/hyperkitty/list/[email protected]/message/MWIHCNJ4TZLB4ZBEGUXFJOPYOOXLPKND/
