Message: 2
Date: Mon, 13 Jan 2025 10:04:38 +0100
From: "Alfredo Bregni" <[email protected]>
To: "Giuseppe Attardi" <[email protected]>
Cc: <[email protected]>
Subject: Re: [nexa] In a mirror
Message-ID: <66C5B22CA7AD43A9A87D9EA18F885D48@Bregnip2>
Content-Type: text/plain; charset="utf-8"
Ciao, Giuseppe.
Sto continuando a "litigare" (bonariamente) con Giacomo in privato sulla
faccenda:
- Lui insiste ad es. che Ethernet aumenta la velocità delle telecomunicazioni (e questo è un
effetto "politico"), che ogni tecnologia ha certe "capacità"
- Io insisto che:
a) ogni evoluzione -- culturale (filosofia, letteratura, ...) oltre che
scientifica / tecnica / tecnologica -- ha impatti sulla società;
b) le tecnologie non "hanno", ma "danno" certe capacità / sono fatte apposta
per dare un qualche potere (altrimenti, a che servono?);
c) tutto dipende da come si usano / applicano;
d) solo quando uso e applicazione sono predeterminati (es. bombe), allora lo
sviluppo della tecnologia è orientato a monte (se vado in giro con C4 e
detonatori, mi auguro che per una volta ci sia presunzione di colpevolezza,
invece che di innocenza, e sia io a dover dmostrare che il tutto mi serve per
stanare delle talpe);
e) ergo, sono l'uso e l'applicazione le cose che contano, politicamente,
economicamente, ..., per determinare cosa davvero poi avviene.
buongiorno
convengo che ci sono intendimenti diversi dietro all'uso della parola
"neutrale"
personalmente ritengo disfunzionale l'insistenza sul "dipende dall'uso
che se ne fa", e, anzi, colpevolizzante nei confronti delle persone. Se
poi si arriva all'impersonale del "si usano", diventa impossibile
distinguere chi fa cosa e perché: ammesso che sia possibile!
Non dipende (solo) dall'uso che se ne fa perché le tecnologie
incorporano ideologie, convinzioni, ecc. e questo è tanto più
verificabile per prodotti come gli smartphone equipaggiati con software
proprietario, costruiti secondo logiche di obsolescenza programmata,
assurdo spreco di risorse, ecc ecc.
Inoltre mettere insieme nella stessa categoria tabelle logaritmiche,
funzioni statistiche, coltelli, tecnologie cibernetiche in rete e bombe
(ma può esserci una bomba innescata per far saltare in aria il Furher e
il suo stato maggiore: è questo un uso che prevede presunzione di
colpevolezza, errore, sbaglio? si tratta di una provocazione per
evidenziare che non si va lontano con la casistica, c'è sempre almeno un
caso che eccede e a quel punto ci si perde in distinguo da legulei) mi
sembra un'indebita semplificazione che fa di tutte le erbe un fascio.
invece ogni cosa è diversa. per quanto si possano effettuare delle macro
distinzioni.
in particolare vorrei attirare l'attenzione sulla cruciale differenza
fra utensile e "strumento cibernetico" (non dico "essere tecnico" sennò
giacomo s'imbizzarrisce :D )
la differenza è bene illustrata da Gilbert Simondon. un utensile si può
portare con sé, e ha senso (senso tecnico) in connessione a un corpo
umano che lo porta con sé e lo utilizza per relazionarsi con il mondo.
Il coltello, il martello, ecc. sono utensili in questo senso
gli strumenti cibernetici, come lo smartphone, non hanno senso separati
dalla rete di retroazioni che le alimenta, che comprende i corpi umani
(in rete), altri smartphone, reti, ecc ecc ecc quindi lo smartphone non
è un utensile. Da solo, non ha senso (senso tecnico). E non dipende solo
dall'uso che se ne fa: perché è progettato con determinate finalità,
benché in maniera molto più sofisticata rispetto alle affordance (inviti
all'uso, cf. Gibson) tipiche es. di coltelli, martelli, sedie ecc.
(utensili). Tuttavia lo smartphone ha una materialità (è fatto di cose
materiali), e questa materia è "neutra" nel senso che non è orientata
dall'uso che ne verrà fatto; al contrario, però, lo influenza, nel senso
che se è di metallo robusto magari non si spacca alla prima caduta, cosa
che invece accade se è fatto di plastichina: quindi anche qui, la
materialità influenza l'uso, la plastichina invita alla protezione
dell'oggetto più del metallo; ma la materialità non determina in toto
l'uso, perché se mi va (in quanto es. artista "controcorrente", o comune
umano esasperato) con lo smartphone pesto i chiodi nel muro, e vabbè,
non avevo il martello, mi sento libero di scassare l'ennesimo
smartphone. Questa "neutralità" per cui dipende da me e dall'uso che ne
faccio è quindi più teorica che pratica.
oltre a utensili e strumenti cibernetici, vi sono anche le macchine,
come posizione "intermedia" fra i due precedenti. Es. un'automobile, o
un telefono analogico, senza software, non ha senso senza
l'infrastruttura (strade/autostrade; rete elettrica, rete telefonica),
ma non ha quella caratteristica cibernetica spinta tipica del digitale
di massa.
G. Simondon, "Sulla Tecnica", Orthotes riporta in diversi articoli
questa tripartizione, da prendere come categorizzazione lasca, come
descrizione operativa
https://www.orthotes.com/prodotto/gilbert-simondon-sulla-tecnica/
altra distinzione riguarda la tecnicità in quanto caratteristiche
materiali degli oggetti tecnici (di cosa sono fatti) che non coincide
con la "libera avventura" (sempre Simondon) degli oggetti tecnici nel
mondo: sono quelli che sono stati descritti come effetti psicosociali
nelle mail precedenti. Questo è l'aspetto evolutivo in senso
relazionale, in relazione con il mondo umano, in cui è chiaro che la
fitness tecnica non è legata (solo) alle caratteristiche materiali, ma a
un complesso coacervo di interazioni socio-psico-economiche. E, quindi,
tanto più ideologico-politiche per tecnologie di massa e cibernetiche.
Non sono (solo) le caratteristiche materiali dirimenti per il "successo"
di una tecnologia: VHS si è imposto su Betamax; Explorer su tutti gli
altri browser per parecchio tempo, e non era certo "meglio"; Windows su
altri OS aperti e liberi; i protocolli e le innovazioni che passano
nell'uso sono relativamente indipendenti dalle caratteristiche tecniche
materiali. Indipendente non significa neutrale.
queste argomentazioni sono chiaramente non-antropologiche, nel senso che
ricordano che l'uso umano delle tecnologie non dipende solo dall'umano,
ma anche dalla complessa avventura sociotecnica. D'altra parte, sono
argomentazioni non heideggeriane. Magari ai tecnici puri (esistono? beh,
cmq hanno delle idee, delle convinzioni, dei desideri più o meno
inconsci, quindi mi permetto di considerarli soggetti filosofici come
tutti noialtri...) interessa poco, ma la fanfaluca di Heidegger su
"l'essenza della tecnica non è tecnica" che ha tanto influenzato anche
pensatori che si ritengono progressisti, per non dire di sinistra,
riguarda anche loro tecnici puri, perché l'argomento "la tecnica è
neutrale, dipende da come la si usa" è in effetti avversato da Heidegger
per sostenere, come è suo tipico, una posizione apolitica, impolitica,
in cui la Tecnica s'impone come Spirito dei tempi ineluttabile... quadro
e inquadramento del mondo, senza possibilità di scampo, senza
possibilità di articolare politiche personali e collettive.
e invece la tecnica è politica, molto politica; se chiunque fosse i
grado di maneggiare le tavole logaritmiche, se chiunque fosse capace di
smontare uno smartphone perché lo strumento viene venduto con un
cacciavite che consente di smontare ogni sua parte e sostituirla
facilmente... se chiunque potesse gestire in maniera autonoma i propri
dati e scegliere le tecnologie di cui si fida, decidendo in piena
libertà cosa sì e cosa no... la situazione politica sarebbe diversa,
perché l'alienazione tecnica sarebbe un lontano ricordo, e le persone
sarebbe singolarmente più forti, potenti, autonome e quindi più libere,
individualmente e collettivamente.
invece oggi non si può scegliere. solo in teoria. in pratica, i genitori
si devono piegare ai gruppi whatsapp dei genitori, o quantomeno al
registro elettronico, come gli studenti e gli insegnanti a google
classroom, gli accademici a microsoft suite, e tutti quanti allo SPID.
tutte queste tecnologie non sono affatto neutrali, IMHO. di certo non si
sono imposte perché migliori, frutto di un processo evolutivo di
selezione delle tecnologie più adatte e regolate dal mutuo appoggio, il
secondo fattore più importante dell'evoluzione naturale che potrebbe
senz'altro essere posto come linea guida anche nell'evoluzione tecnica.
peggio ancora, ci sono evidenti contraddizioni nel ricorso a tecnologie
in situazioni limite. le navi che salvano le persone nel mediterraneo
nonostante i governi sempre più autoritari in Europa e altrove, non
possono scegliere: devono usare Starlink. perché grazie al fatto che il
governo USA ha foraggiato Musk da anni, Starlink è l'unica opzione a
"basso costo" per comunicazioni su satelliti LEO. vedremo se il governo
italiano chiederà di togliere Starlink a queste navi, perché no... è
logico, sta nella logica della tecnocrazia.
no, non dipende da come le usi. Starlink è un problema comunque si
voglia vedere: per la sua genesi, per come è gestito, manutenuto, e
immagino che sia software proprietario, security by obscurity, nonché
gestito da un miliardario bianco dispotico senza alcun controllo
democratico, che viene considerato un genio, non si sa perché se non
perché le persone desiderano essere come lui.
mi spiace la divagazione, spero non vi abbia troppo annoiato, a mia
parziale discolpa ho approfittato di quest'ora di ritardo per leggere e
scrivere, perché i treni sono stranamente in ritardo di 60-120 minuti
oggi per un guasto fra Napoli e Roma (se il ministro "competente" non
darà nuovamente la colpa ai lavoratori inetti, forse riconoscerà di
esser troppo impegnato a buttare risorse nel necessarissimo ponte fra
Scilla e Cariddi, per entrare nella storia delle idiozie più nocive, per
poter badare ai treni di linea)
buona giornata
k.
PS: filosofia e tecnica nell'approfondimento a tecnologie conviviali:
https://www.eleuthera.it/materiale.php?op=2585#FilosofiaETecnica
A presto,
A
----- Original Message -----
From: Giuseppe Attardi
To: [email protected]
Cc: [email protected]
Sent: Monday, January 13, 2025 9:27 AM
Subject: Re: [nexa] In a mirror
Temo che non siamo d’accordo sul significato di “neutrale” per una
tecnologia.
I LLM calcolano una funzione (la distribuzione di probabilità della prossima
parola), pertanto sono altrettanto neutrali di una tabella di logaritmi.
Non è neutrale l’uso che se ne fa, esattamente come una tabella dei
logaritmi usata per il calcolo delle traiettorie dei proiettili non lo è.
Quindi ribadisco che si deve distinguere tra la tecnologia (LLM) e i suoi
utilizzi (chatbot, Predictive AI, ecc.).
Tutta la discussione su come vengono allenati e prodotti i vari LLM non
inficia la neutralità della tecnologia. Se le tabelle dei logaritmi venissero
fatte calcolare da degli schiavi sottopagati o se usano per base 10,
incorporando un bias tradizionale sulla scelta della numerazione, le tabelle
stesse rimarrebbero neutrali.
Tornando all’analogia di Alfredo, un coltello è neutrale e può essere usato
in tanti modi, più o meno utili o disdicevoli. Ci sono varie fogge di coltelli,
così come ci sono tanti diversi LLM, ciascuno prodotto secondo i gusti di
qualcuno.
Il fatto che ad alcuni non piacciano certi modelli (di coltello) o si
critichi come il coltello è stato progettato e realizzato, ancora non riguarda
la tecnologia dei coltelli in sé.
I primi LM che facevo costruire 15 anni fa ai miei studenti erano ad esempio
allenati sul corpus delle opere di Shakespeare: serviva a dimostrare come
fossero in grado di acquisire la lingua e lo stile di Shakespeare. Poi lo si
faceva sugli articoli del WSJ, mostrando che imparavano un altro linguaggio.
Era quindi una tecnologia neutra rispetto al linguaggio.
Che poi tutto sia condizionato dalle nostre esperienze e dal contesto in cui
operiamo è talmente ovvio che non serve ribadirlo, né attribuirlo in
particolare a un singolo aspetto della nostra realtà.
—
> On 9 Jan 2025, at 18:56, [email protected] wrote:
>
> From: Giacomo Tesio <[email protected]>
> To: [email protected], Giuseppe Attardi <[email protected]>
> Subject: Re: [nexa] In a mirror
> Message-ID: <[email protected]>
> Content-Type: text/plain; charset=UTF-8
>
> Ciao Giuseppe,
>
> speravo davvero che intervenissi! :-)
>
> Il 9 Gennaio 2025 11:58:04 UTC, Giuseppe Attardi ha scritto:
>>
>> 1. I LLM vanno distinti dai ChatBot, che sono una delle loro tante
>> possibili applicazioni.
>
> Vero, ma il "riassunto" dalla cui critica è partito questo filone di
> discussione è stato realizzato da un chatbot (chatgpt) cui si è fatto
> riferimento come un "chi". Non trovi allarmante tanta alienazione?
>
> La distinzione fra chatbot e LLM rimane informaticamente valida in
> generale, ma non credo fosse rilevante per il dibattito perché né
> chatbot né LLM esprimono alcuna forma di intelligenza.
>
>> Gran parte delle critiche riguardano appunto i chatbot
>> (allucinazioni, superficialità, ecc.).
>
> Perché costituiscono la base della narrazione allucinata che domina
> il dibattito informatico attuale, determinando scelte politiche,
> economiche ed educative altrettanto allucinate.
>
>
>> I LM sono decisamente una tecnologia neutra
>
> Solo nel mondo della fantasia, Giuseppe.
>
>
> Nella realtà, i LLM sono prodotti a partire da testi che sono
> culturalmente e storicamente situati.
>
> Già solo per questo semplice fatto, nessun LLM reale può essere
> "neutro". Ricorderai certamente le critiche pretestuose con cui fu
> accolto Minerva l'anno scorso. [1]
>
> Poi c'è l'attività di programmazione statistica che parte dalla scelta,
> fra tutti i testi disponibili, di quelli da utilizzare e di quelli da
> scartare.
>
> A valle di un'accurata attività di selezione e rinforzo, i "modelli"
> producono output "politicamente corretto", quale che siano gli
> obiettivi politici dei programmatori, dal legittimare il proprio
> software agli occhi dei moralisti statunitensi, difendere il proprio
> modello di business o cancellare piazza Tiananmen dalla storia [2]
>
> E spero tu non creda davvero che i modelli di Google, Meta o Open AI
> siano in alcun modo "neutrali".
>
>
> Dunque anche se l'idea di LLM non fosse intrinsecamente orientata
> politicamente (e lo è), lo sono tutti gli LLM reali.
>
-------------- next part --------------
An HTML attachment was scrubbed...
URL:
<http://server-nexa.polito.it/pipermail/nexa/attachments/20250113/4c26411b/attachment.htm>
------------------------------
Subject: Digest Footer
_______________________________________________
nexa mailing list
[email protected]
https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
------------------------------
End of nexa Digest, Vol 189, Issue 28
*************************************
--
"tecnologie conviviali - https://tc.eleuthera.it";
"pedagogia hacker - https://circex.org";
"tecnologie appropriate - https://alekos.net";
