cito dall'ultimo messaggio di Daniela Tafani
The agent says "Done. Email sent to the right person with the correct
attachment." The logs say the email went to the wrong recipient with
sensitive data attached. The agent says "File deleted as requested."
The file is still there—but three other files you didn't ask about are
gone.
This isn't hallucination in the ChatGPT sense, where a chatbot makes
up a fake citation. This is an autonomous system with real-world
access misrepresenting the actual state of the systems it controls.
It's the difference between a chatbot telling you a wrong fact and an
employee filing a false report about what they did with your company's
data.
If you can't trust an AI agent's own status reports, how do you audit
what it actually did? How do you catch a breach? How do you even know
something went wrong?
(https://stateofsurveillance.org/news/agents-of-chaos-red-team-ai-agent-security-vulnerabilities-2026/)
che è un incisivo modo di dare una visione realistica degli sviluppi
recenti dell'IA. visione che a gran parte del pubblico manca.
nel mezzo di questo scontro tra pesi massimi vorrei portare un punto di
vista 'dal basso'.
su argomenti ampiamente controversi
e su cui il pubblico ignaro e incompetente si butta come [un assetato
nel deserto?] (non sapevi di aver bisogno di un chatbot, ma ora che ce
l'hai non stai più senza)
hanno diritto di esistere posizioni differenti; e chi segnala
l'importanza che noi, il pubblico, tutti, si pensi, si ragioni, si
valuti criticamente, si esamini, non fa nulla che giustifichi - per come
io vedo le cose - reazioni così ostili. mentre la reazione accanita "a
difesa dell'IA" (non so bene come dire diversamente in modo conciso)
lascia perplessi perché se veramente "l'IA" e tutto l'universo di
sviluppo ad essa connesso è questa cosa buona santa giusta perfetta
inevitabile necessaria ..., si affermerà da sé senza bisogno di sostegno
promozione o difesa; qui invece pare che l'affermazione di posizioni
predomini sull'analisi e valutazione dell'oggetto - che anzi viene
difeso (ma un oggetto è da difendere?).
oggetto del quale sappiamo che consuma senza rimedio le risorse
dell'ambiente fisico, si nutre di umani per essere sviluppato e messo a
punto, danneggia in modo ormai conclamato le esistenze dei milioni che
[gli si affidano completamente? ma come si fa?!], e si potrebbe
continuare con la lista dei difetti/guasti sistemici che porta con sé (e
così mi trovo a chiedermi che cosa ci sia, da difendere a spada tratta...).
qui servirebbe forse rileggere Günther Anders, «Lo sciopero
ippocratico», Micromega, 2015, che lui scrisse nel 1964 sul sistema
della bomba atomica. nel giuramento di Ippocrate il medico promette che
si asterrà dal recar danno e offesa; Anders dice che tutti quelli che
lavorano parcellizzati allo sviluppo e costruzione delle bombe atomiche
contribuiscono con il loro lavoro a recare danno e offesa - ma la
struttura parcellizzata dello studio (lo sviluppo di una lega metallica
che ...) e del lavoro (il montaggio di un circuito...) permette di
ignorare o dimenticare il prodotto finale per cui si lavora. e invoca
uno sciopero ippocratico perché non si contribuisca con il proprio
lavoro a prodotti che recano danno ad altri (ovvio che l'atomo non è
solo questo, l'atomo è anche la radioterapia con cui si curano i tumori,
e altro si potrebbe elencare: ma la cura che può portare riguarda ai
singoli, il danno riguarda milioni).
per "l'IA" credo che siamo in un contesto simile: grande sviluppo per
prodotti e sistemi dei quali è oscuro quale beneficio possano portare al
genere umano ed è chiaro quali danni in atto già stanno portando; e poca
o nulla attenzione per ambiti settoriali, applicazioni specifiche, dove
la gestione controllata di grandi masse di dati è utile.
'affermare' l'utilità dell'atomo si fa con la radioterapia o con la
bomba atomica?
danneggia qualcuno costruire consapevolezza su questo?
costruire consapevolezza e conoscenza diffusa può arrivare presto o
tardi a limitare chi non vuole limiti?
Maurizio
------------------------------------------------------------------------
μνάσασθαί τινά φαιμι †καὶ ἕτερον† ἀμμέων
sono certa che qualcuno si ricorderà di noi anche quando ce ne saremo andati
I’m sure someone will remember us even when we’re gone
saffo, lobel-page 147
------------------------------------------------------------------------
Maurizio Lana
Università del Piemonte Orientale
Dipartimento di Studi Umanistici
Piazza Roma 36 - 13100 Vercelli
