Buongiorno, grazie della segnalazione
Guido Boella via nexa <[email protected]> writes: > Carissime e carissimi > > segnalo un articolo sul tema algoretica scritto da SIpEIA su Magazine > Intelligenza Artificiale - MagIA > https://magia.news/che-dire-della-algor-etica-spunti-per-una-critica-della-prospettiva/ a parte qualche stonatura (red herring?) che io ritengo più che perdonabile nel contesto, ho molto apprezzato la critica all'algoretica anche ai fini archivistici, riporto qui un mio personalissimo estratto dei punti (IMO) salienti. il succo del discorso è: (gli algoritmi non /esistono/) Free Software in Free Society. :-) --8<---------------cut here---------------start------------->8--- ══════════════════════════════════════════════════════════════════════════ 1.1 Considerazioni preliminari ────────────────────────────── Negli ultimi decenni si rileva una proliferazione di etiche speciali, ossia di declinazioni dell'etica generale applicata a settori specifici. L'idea è più che accettabile perché da sempre è noto che nelle diverse circostanze si richiedono specificazioni peculiari rispetto al canone generale. Tuttavia, al riguardo bisogna mantenere cautele, per evitare che le specificazioni travolgano l'impianto di fondo che caratterizza ogni etica. Fra le recenti etiche speciali troviamo: la bioetica, l'etica degli affari, l'etica bancaria, l'etica delle relazioni internazionali, l'etica legale, l'etica militare, l'etica delle sperimentazioni e via dicendo. Ultima nata in questa prospettiva è l'algoretica che ora sta riscuotendo un certo successo e interesse anche perché il termine è stato usato da personalità di rilievo. 1.2 Origine del termine e ambito considerato ──────────────────────────────────────────── Il termine “algoretica” è un neologismo che pare sia stato coniato [1] nel 2017 dal giurista e filosofo Luigi Lombardi Vallauri, che oltre a reclamarne la paternità ha precisato che “Bioetica e roboetica si possono allora unificare nel concetto di algoretica: l'algoritmo biologico si riflette nell'algoretica umana, animale e ambientale, cioè l'etica del vivente, del bios; l'algoritmo non biologico si riflette nell'algoretica dei robot e dei sistemi di Intelligenza Artificiale; ossia nell'etica concernente gli algoritmi stessi” [2]. [...] Paolo Benanti, che sulla scia di Lombardi Vallauri a proprio modo ha affermato: “Abbiamo bisogno di un'algor-etica, ovvero di un modo che renda computabili le valutazioni di bene e di male. Dobbiamo codificare principi e norme etiche in un linguaggio comprensibile e utilizzabile dalle macchine. [...] [3] [...] In questa accezione il termine algoretica si sovrappone al termine machine ethics [5] usato in Informatica, vale a dire un'etica che, inclusa nel programma dotato di autonomia, ne regoli il comportamento; è la disciplina che realizza “controllori etici autonomi”; cioè algoritmi all'interno di altri algoritmi che dicono alle macchine autonome come si debbono comportare (perché il loro comportamento sia eticamente accettabile). [...] 1.3 Che dire dell'algoretica? È l'algoritmo il livello giusto di analisi? ───────────────────────────────────────────────────────────────────────── [...] Ma che cos'è un algoritmo? È una sequenza di passi eseguibili meccanicamente per raggiungere uno scopo. [...] un ‘metodo o procedimento matematico per la risoluzione di un problema'. In questa prospettiva un algoritmo è implementabile in un infinito numero di programmi che, anche in diversi linguaggi di programmazione, riescono a raggiungere lo stesso scopo ma in modo diverso [...] [...] Nonostante vi sia una connessione tra algoritmi e programmi, resta il fatto che i programmi sono eseguiti da macchine (hardware o virtuali), mentre gli algoritmi no, sono “invisibili strutture”. Questo è un punto centrale, perché il voler puntare a regolare l'etica o un'etica su un algoritmo, invece che su un programma, è come regolare i numeri anziché i prodotti industriali costruiti in base a modelli matematici. Nel momento però in cui si considera l'algor-etica “un modo che renda computabili le valutazioni di bene e di male”, e si codificano “principi e norme etiche in un linguaggio comprensibile e utilizzabile dalle macchine” [9] si sta ammettendo che l'etica possa essere ridotta ad un algoritmo, posizione controversa e con importanti implicazioni. Un'etica riducibile ad un algoritmo implica che l'etica dipende dalla sola razionalità ed è riducibile ad un insieme di numeri [...] L'uso del termine “algoritmo” come oggetto dell'analisi etica è complicato anche dal fatto che i sistemi di IA moderni sono basati sull'apprendimento automatico e in particolare sul “deep learning” neurale e di fatto “creano”, si potrebbe dire, un nuovo algoritmo o programma durante la fase di apprendimento, a partire dal programma originario di addestramento della rete neurale che ottimizza solamente i parametri della rete neurale sulla base dei dati di addestramento. [...] Diventa quindi difficile, anche se fosse possibile rendere “computabili le valutazioni di bene e di male”, “codificare principi e norme etiche in un linguaggio comprensibile e utilizzabile” da queste macchine, perché non sono programmabili nel senso tradizionale del termine. [...] 1.4 Cosa implica focalizzarsi sull'algoritmo e perché è sbagliato basare l'etica sull'algoritmo ─────────────────────────────────────────────────────────────────────────────────────────────── [...] l'algoritmo è concetto astratto (una sorta di idea platonica) che per diventare concreto e avere un impatto sulla realtà abbisogna di materializzarsi in programmi concreti formulati da specifici attori che fanno azioni, come i programmatori, le aziende ICT, gli sviluppatori di hardware coinvolti in processi che hanno effetti ambientali, le banche o i fondi finanziari che forniscono denaro, etc. [...] L'insistenza che oggi viene posta sull'algoritmo, visto come il Sole al centro della scena e che irradia la propria luce su tutto, e la contemporanea sottovalutazione degli aspetti pratici implicati dal programma sono punti che fanno pensare. Non è che è in atto un'operazione retorica tesa a proporre una narrativa pubblica che presenta l'IA come qualcosa di astratto, di positivo e di pressoché ineluttabile, quasi che le grandi Big Tech siano esenti da ogni responsabilità circa gli scenari implementati? [...] La sinergia tra i vari aspetti sopra ricordati fa pensare che l'enfasi assegnata agli algoritmi (invece che ai programmi e alle loro applicazioni) sia al fondo dettata da una sorta di “utilità politica”, dal momento che la narrativa algoritmo-centrica permette di fissare il discorso sul concetto astratto di algoritmo, distogliendo l'attenzione dai vari attori concreti i cui interessi devono rimanere in ombra (forse perché non si vogliono toccare). Per esempio, un “programma” comporta un uso di ingenti risorse (umane, territoriali, finanziarie, etc.) che creano dinamiche tali per cui un governo deve mediare fra gli interessi delle Big Tech e il bene comune dei cittadini: tema che va posto e non può essere demandato (o occultato) dietro il concetto di algoritmo. [...] Footnotes ───────── [1] “Algoretica. Le due sfide cruciali nell'era tecnologica: bioetica, roboetica”, [Atti e memorie] (<https://www.torrossa.com/it/resources/an/4480056>) dell'Accademia Toscana di Scienze e Lettere «La Colombaria», vol. LXXXII, Firenze 2017 dalla conferenza di Luigi Lombardi Vallauri del 18/5/2017, nell'ambito del ciclo di incontri Roboetica. Per altri significati del termine “algoretica” si può utilmente consultare la [voce dell'Accademia della Crusca] (<https://accademiadellacrusca.it/it/parole-nuove/algoretica/18479>). Oltre ad avere la paternità del nuovo termine “algoretica”, Lombardi Vallauri più recentemente è intervenuto sul tema (Lombardi Vallauri, L. (2022) « [Algoretica e Informatica giuridica] (<https://i-lex.unibo.it/article/view/15586>)», i-lex. Bologna, Italy, 15(1), pagg. 29–35) [2] Ibid. [3] Paolo Benanti, Intelligenza artificiale: è tempo di pensare a un'etica degli algoritmi, “7”, “Corriere della Sera”, 25/10/2019. [4] Paolo Benanti, Oracoli. Tra algoretica e algocrazia, Roma, Luca Sossella editore, 2018. [5] Moor, James H. “The Nature, Importance, and Difficulty of Machine Ethics.” IEEE Intelligent Systems, vol. 21, no. 4, 2006, pp. 18-21. [6] Terrell Ward Bynum. K, Computer ethics: Its birth and its future. Ethics and Information Technology 3(2)2001 pp 109–1129 [7] La [Rome Call for IA Ethics] (<https://www.romecall.org/>) presuppone la tesi della “brilliance of human race” sul resto del creato. Come [SIpEIA] (<http://www.sipeia.it>) abbiamo un approccio diverso che non assume in linea di principio la superiorità e specificità della specie umana. [8] Usiamo qui per semplicità il termine “programma” piuttosto che “software”, consci che il concetto di “software” include altri aspetti come i dati e le librerie su cui si basa il programma e lo rende in grado di essere eseguito e commercializzato. [9] Ibid. [10] Kazuhiro Takemoto. The moral machine experiment on large language models. Royal Society Open Science. 11(2) 2024. Josh Albrecht, Ellie Kitanidis, Abe Fetterman, Matt Boulos. The state of LLM ethical decision-making. Imbue. 14 Febbraio 2023. Eyal Aharoni, Sharlene Fernandes, Daniel J. Brady, Caelan Alexander, Michael Criner, Kara Queen, Javier Rando, Eddy Nahmias e Victor Crespo. Attributions toward artificial agents in a modified Moral Turing Test. 30 Aprile 2024. [11] A. Aneesh, Virtual Migration. The Programming of Globalization, Duke University Press, 2006. --8<---------------cut here---------------end--------------->8--- saluti, 380° -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.
signature.asc
Description: PGP signature
