Ciao Alessandro, alessandro marzocchi <[email protected]> writes:
[...]
> Domando: Giovanni, qui conosciuto come 380°, chiedendo < che il software …
> sia «free software by default»> pensa ad una caratteristica di “apertura”
> affinché il maggior numero di persone (non tutti, ahi noi) capisca come
> funziona, quali conseguenze ha ogni comando?
Non solo, che sia in grado di modificare il software, ecc. ecc; le
quattro libertà del software libero insomma
Nel caso di software utilizzato da enti/istituzioni che gestiscono "cosa
pubblica" o "valutano" i cittadini, nel senso più ampio possibile,
significa avere o no la possibilità di partecipare alla /vita politica/
dello stato attraverso il software che lo /governa/, quindi poter
leggere il sofware come si legge qualsiasi altra norma e se del caso
anche proponendo "emendamenti" in modo analogo a come si fa in
parlamento
> Se è questa l’intenzione di Giovanni, il software che auspica ha quasi
> tutte le caratteristiche essenziali dell’alfabeto
No, dei codici (pun intended) :-)
> e dovrebbe evitare molti difetti dell’IA, ammesso che sia applicabile
> all’IA, cosa che ignoro totalmente.
Il problema specifico della IA è che il software prodotto attraverso
machine learning non è mai in formato sorgente, non può essere mai
compreso, è sempre /inesplicabile/... ma il software che implementa il
machine learning sì, così come tutto il resto (dati, processo di
selezione, ecc.) che serve per "generare l'AI"
> Ma … Giovanni ha anche istillato un dubbio, oppure ha dato una certezza: <
> ah quante cose si possono fare potendo analizzare gli algoritmi! >.
É una certezza :-)... e te lo dimostro: la tua è una citazione da un mio
messaggio nel thread «The 1960s Experiment Created Today’s Biased Police
Surveillance» [1]; il frammento di algoritmo descritto nell'estratto di
articolo che avevo riportato è «homicide, rape, burglary, larceny, and
auto theft were weighted with a score of four»: da giurista mi puoi
confermare che /tecnicamente/ si tratta di una enorme sciocchezza?
Ecco cosa intendo quindi con la mia affermazione: avendo a disposizione
l'algoritmo, le persone con adeguata competenza possono giudicarne
l'adeguatezza del modello a rappresentare la (ristrettissima) realtà che
/misurano/ attraverso i parametri che trattano, come la "classe di
reato" in questo caso.
Potendo conoscere tutto l'algoritmo, poi, si potrebbe analizzare
l'adeguatezza dei parametri scelti, la loro valorizzazione ("score four"
di cui sopra), i "dataset" pre-esistenti utilizzati e altre
considerazioni metodologiche. Per esempio, leggendo l'articolo del
"1960s Experiment" emerge anche un aspetto che a mio modesto avviso è
alla base dei "pregiudizi raziali algoritmici": la sostituzione del
censo con la "razza" (etnia), per cui molti "reati economici dei poveri"
commessi dai poveri venivano (sono?) attribuiti a neri e
ispanici... nelle metropoli USA: e a Rio de Janeiro [2]?!?
Insomma, conoscendo tutto l'argoritmo sarebbe possibile analizzare se è
stato commesso uno dei non rari abusi statistici [3]; su questo
fermiamoci qui perché andremmo OT, ma il nocciolo è davvero /tutto/ qui.
> Quanti possono analizzare gli algoritmi?
Tutti coloro che hanno sanno interpretare la lingua nella quale sono
scritti gli algoritmi; /non/ sto parlando di linguaggi di
programmazione: un algoritmo può essere (de)scritto in un linguaggio
simbolico formale (flowchart [4]) o informale, per esempio una
descrizione dettagliata, in italiano, di come svolgere un processo e
quali input/output sono coinvolti.
Un programma sorgente scritto in un linguaggio di programmazione è
"solo" uno degli innumerevoli modi di /trascrivere/ un algoritmo in modo
tale che poi, compilandolo, possa essere eseguito dal computer; già solo
nel processo di trascrizione di un algoritmo in codice sorgente il
programmatore può introdurre errori o male interpretare l'algoritmo; a
volte i programmatori addirittura saltano la scrittura dell'algoritmo -
che hanno in testa, non formalizzato - e passano a scrivere direttamente
il codice.
> Nel contesto alfabetico, alla sola condizione di essere alfabetizzata ogni
> persona si rende conto che “a” è a, che “b” è b e così via.
Il concetto di alfabetizzazione va ben oltre il suo significato
etimologico, nell'interpretazione più basilare è il grado di sviluppo
delle capacità personali di lettura e scrittura.
> Il contesto digitale è post-alfabetico, ed è molto più problematica la
> verifica che “a” è a, che “b” è b e così via.
Sì ma /solo/ perché una volta compilato un programma tutto quello che ho
a disposizione è in formato binario e da quello non si può leggere
proprio un bel nulla, letteralmente stavolta.
> Torniamo ad una condizione analoga a quella degli scriba dell'antico
> Egitto?
Nel caso del software binario, peggio: entriamo in un "buco nero", un
mondo letteralmente inesplorabile e /inesplicabile/ per gli esseri
umani, perfino per i più geni dei programmatori, il mondo del codice
macchina; ecco perché serve il codice (sorgente) anche solo per
comprendere il senso di un programma
> Credo che i problemi nascano da qui: nel contesto alfabetico la
> persona (diventata “agente umano”) può verificare direttamente senza
> mediazioni, questo non accade nel contesto digitale nel quale ogni persona
> “NECESSARIAMENTE” deve accettare una delega di conoscibilità.
Non nel caso il codice sorgente sia disponibile, nel qual caso la
persona deve "solo" conoscere il linguaggio di programmazione nel quale
è scritto e così può trattare il codice in modo del tutto analogo a come
noi possiamo trattare qualsiasi altro codice (codex).
[...]
Ciao, 380°
[1] https://server-nexa.polito.it/pipermail/nexa/2022-November/024396.html
[2]
https://medium.com/analytics-vidhya/crime-analysis-in-rio-de-janeiro-b0d6f9027072
(ho preso il primo articolo a caso tra quelli che ho trovato rilevanti)
[3] https://en.wikipedia.org/wiki/Misuse_of_statistics
[4] https://en.wikipedia.org/wiki/Flowchart
--
380° (Giovanni Biscuolo public alter ego)
«Noi, incompetenti come siamo,
non abbiamo alcun titolo per suggerire alcunché»
Disinformation flourishes because many people care deeply about injustice
but very few check the facts. Ask me about <https://stallmansupport.org>.
signature.asc
Description: PGP signature
_______________________________________________ nexa mailing list [email protected] https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
