Sarà che sono eretico, disertore, disfattista e... femminista, ma non riesco a non notare che, caso certamente fortuito (!!), l'idea dei Pappagalli Stocastici viene da una donna, Emily Bender, mentre le critiche sempre più insistenti, furibonde, con la bava alla bocca, scomposte... arrivano tutte da maschi. Forse un'idea del perché ce la dà l'ottimo Marco Paolini:
Il sentimento delle mamme si chiamava: «Povera Longaron, povera Longaron, povera Longarone». Era un sentimento per fondamenta: fondamenta senza muri che venivano su in mezzo alla ghiaia del Piave che aveva riempito tutta la valle, e a noi bambini avevano spiegato che sotto quei sassi c’erano ancora i morti, perché non li avevano trovati tutti. E allora io avevo questo sentimento disciplinato a nome «Povera Longaron, povera Longaron, povera Longarone». Però io, bambino, non potevo fare a meno di avere anche un altro sentimento: quello dei papà, per la diga. Perché era rimasta su. E io, bambino, pensavo: «Ma insomma… la montagna è cascata, ma la diga ha tenuto! Il suo dovere l’ha fatto. Se fosse cascata la diga, sarebbe andata peggio, no?». E allora un po’ di consolazione ti resta dentro. Con questa consolazione qua si diventa grandi. Anche perché poi i maschi… Guardali, a una certa età dello sviluppo, noi maschi, tutti, davanti a una diga, tutti là: impiantati. Come davanti a una portaerei, là! Guardaci, noi maschi, a una certa età dello sviluppo, davanti a una portaerei… Sempre tutti là: impiantati! E non c’entra niente che poi da grande diventi anche pacifista, e magari fai l’obiettore di coscienza. Non c’entra niente. È che a un certo stadio dello sviluppo, se vedi la portaerei, qualcosa dentro lo senti… È che si intuisce che là dentro c’è qualcosa, no? E cosa c’è? C’è il segreto del progresso. È il sentimento dei papà. È da Ulisse che ce lo insegnano: «Vai, piccolo!». Spingersi avanti, imparare, oltre le colonne d’Ercole… «Guarda, guarda l’aereo che decolla…». Man mano che cresci te lo ficcano nel cervello: «Papà, mi porti all’aeroporto?». AVANZARE, CONQUISTARE Diamoci una calmata, noi maschietti, va. Che ci fa bene. E magari viviamo anche meglio. Stefano P.S.: Si, io fisico rispondo con la letteratura, perché questo dibattito da troppi giorni si è spostato su un territorio che con la scienza non ha più nulla a che fare, come notava Carlo qualche giorno fa. Il 14/05/26 00:43, Fabio Alemagna via nexa ha scritto: > Riporto qui un post di Alberto Puliafito, pubblicato su Facebook:: > https://www.facebook.com/share/p/18kiudNQqK/ > > _______________ > > 🦜🤖 Ci sono molte cose interessanti nelle precisazioni di Emily Bender sui > pappagalli stocastici. Queste precisazioni, finalmente, potrebbero aiutarci a > depurare il dibattito e a concentrarci sulla parte del lavoro di Bender che è > davvero importante: lo studio e la critica dei rapporti di potere dentro > l'industria delle intelligenze artificiali. > > Ma andiamo con ordine. > > La prima cosa interessante è il fatto stesso che ci sia stato il bisogno, > cinque anni dopo la pubblicazione di "On the Dangers of Stochastic Parrots", > di fare delle precisazioni. > > La seconda è il chiarimento sul fatto che "pappagalli stocastici" è solo una > metafora e non un'ipotesi empirica. > > La terza è il fatto che secondo Bender "pappagalli stocastici" non dovrebbe > essere usato come "insulto" nei confronti della tecnologia. Suo malgrado, > però, è quel che è stato fatto. > > La quarta e più importante, per me, è questo passaggio qui sulla > comprensione: "It is true that image/text models, for example, that can be > used to map from linguistic strings to images or vice versa, can be argued to > meet the definition of understanding in Bender & Koller 2020 — albeit in an > extremely thin way". > > Si può provare a sostenere che questa non sia una retromarcia. Ma è una > retromarcia bella grossa, per quanto manovrata con delicatezza e ottima arte > retorica. Nel 2020, nel 2021 e fino al 2024 almeno, Bender affermava che non > si potesse parlare di "understanding" da parte dei modelli secondo la sua > stessa definizione. Adesso, invece, c'è uno spiraglio. E uno spiraglio è > diverso da "non c'è understanding". Molto diverso. > > Da qui in avanti mi aspetto una serie di lente ma inesorabili operazioni di > riposizionamento da parte di molte persone che hanno usato – impropriamente, > come dice oggi Bender stessa, finalmente – la metafora dei pappagalli > stocastici per sminuire i large language model. > > Ovviamente gli errori e i danni fatti dai detrattori e dai minimizzatori non > verrano mai riconosciuti come tali, ma questo è comunque un punto di non > ritorno sia per i critici a priori di queste tecnologie sia per chi ha usato > i pappagalli per costruirsi un posizionamento personale. > > La metafora – non ipotesi empirica – dei pappagalli stocastici, per quanto > affascinante, era già riduttiva quando è stata proposta. In questi cinque > anni lo è diventata sempre di più ma nel frattempo è diventata addirittura > identitaria, ingombrando il dibattito e portandolo completamente fuori fuoco. > > Adesso che quella metafora perde i pezzi, resta, appunto, la parte del lavoro > di Bender che era la più utile fin dall’inizio: la critica al potere. > > Link: > > 1) Climbing towards NLU: On Meaning, Form, and Understanding in the Age of > Data (Emily M. Bender, Alexander Koller, 2020) > https://aclanthology.org/2020.acl-main.463/ > > 2) On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? 🦜 > (Emily M. Bender, Timnit Gebru, Angelina McMillan-Major, Shmargaret > Shmitchell, 2021 https://dl.acm.org/doi/10.1145/3442188.3445922 ) > > 3) Stochastic Parrots 🦜: Frequently Unasked Questions (Emily M. Bender, > https://medium.com/@emilymenonbender/stochastic-parrots-frequently-unasked-questions-49c2e7d22d11 > ) > > 4) Video, Chatbot Critics: Chatbots as Stochastic Parrots, Emily M. Bender > https://www.youtube.com/watch?v=f4OZ7B2iP_E
