Quando leggo a proposito dell'AI queste prese di posizione mi viene in
mente la favola dei topolini che vanno appresso al pifferaio di Hamelin...
Nonostante quasi giornalmente, non un'AGI che non c'è e che è un potente
dispositivo di "distrazione di massa" per l'opinione pubblica, ma gli
strumenti "normali" dell'IA generativa - che vengono raccomandati anche
all'uso degli insegnanti come utili strumenti educativi! - continuino ad
esibire comportamenti pericolosi (quasi da istigazione al suicidio, vedi
per esempio
https://twitter.com/colin_fraser/status/1762351995296350592
https://twitter.com/colin_fraser/status/1762482073900884332),
si vedono dichiarazioni tipo questa citate da Alberto Cammozzo, che
ringrazio per il riferimento e di cui condivido e approvo lo scetticismo.
Nel caso della /End of Theory/, la legnata sui denti ad Anderson arrivò con
The Deluge of Spurious Correlations in Big Data, di Cristian S.
Calude e Giuseppe Longo
https://www.di.ens.fr/users/longo/files/BigData-Calude-LongoAug21.pdf
a dimostrazione che, ancora una volta, una cosa sono le "narrazioni"
giornalistiche e un'altra la faticosa costruzione di pezzettini di
conoscenza.
In questa novella dichiarazione vedo due grandissimi errori concettuali:
1) l'impressione che dà il testo della dichiarazione
(https://sites.google.com/view/stockholm-declaration), pur senza
scriverlo esplicitamente, che «/the great challenges the 21st century
world faces: climate change, environmental degradation, food insecurity,
disease, pandemics, inequality, etc./» siano «/challenging scientific
questions/».
NON LO SONO, sono problemi politici, e l'unica soluzione possibile per
gestirli è attraverso la democrazia e non attraverso strumenti
controllati da una ristretta oligarchia
2) l'esplicita dichiarazione che «/achievements worthy of a Nobel Prize,
can be fully automated ... by the year 2050/»
NON È COSÌ, perché ridurre la creatività degli scienziati che risolvono
problemi nelle loro discipline alla semplice computazione meccanica di
deduzioni a partire da assunti di base è altrettanto ingenuo del pensare
che la dimostrazione di teoremi in matematica sia una semplice
computazione meccanica.
Il che non vuol dire, come giustamente la dichiarazione osserva, che
l'IA non sia di enorme aiuto per qualunque scienziato con la sua
incredibile e instancabile «/ability to process vast datasets, identify
patterns, generate hypotheses at unprecedented speeds, and control
laboratory automation/».
Quindi, certamente la vedremo usata sempre di più nel lavoro scientifico
(e non solo), questa che secondo la bella definizione di Stefano
Quintarelli è una "IA noiosa", e certamente è utile richiamare tutti
alla cautela nel suo utilizzo e mi piacerebbe vederne di più in tutte e
discussioni, pubbliche e non.
Però, io tendo a pensare che non ci sia bisogno di nuove regole quanto
di applicare quelle esistenti, come ha espresso recentemente Daniela
Tafani «/i sistemi informatici sono artefatti, ossia prodotti, e che non
c’è alcuna ragione per sottrarne la distribuzione e la
commercializzazione alla legislazione ordinaria/»
(https://btfp.sp.unipi.it/it/2023/05/sistemi-fuori-controllo-o-prodotti-fuorilegge/)
ricordando che è l'approccio che sta seguendo la Federal Trade
Commission negli USA.
Ciao, Enrico
Il 28/02/2024 09:49, Antonio Vetro' ha scritto:
Dall’appello alla firma pubblicato su Nature qualche giorno fa:
Stockholm declaration on AI ethics: why others should sign
<https://www.nature.com/articles/d41586-024-00517-7>
/"The use of artificial intelligence (AI) in science has potential to
do both harm and good. As a step towards preventing the harms we have
prepared the Stockholm Declaration on AI for Science. Signatories
commit to using AI responsibly and ethically. We encourage researchers
involved in developing AI to sign (see go.nature.com/486azp7). […] "/
Qui la dichiarazione:
https://sites.google.com/view/stockholm-declaration//
/
/
In questo passaggio della dichiarazione (grassetto mio), sostituendo
Big Data con AI,
sembra di rileggere la “End of theory”
<https://www.wired.com/2008/06/pb-theory/> di Chris Anderson nel 2008:
/"We believe that by harnessing the power of AI we can propel humanity
toward *a future where groundbreaking achievements in science even
achievements worthy of a Nobel Prize can be fully automated.* We
believe that this is achievable by the year 2050". /
Al di là del personale scetticismo che potrebbe essere sbagliato,
ritengo utile condividerlo
Antonio
_______________________________________________
nexa mailing list
[email protected]
https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
--
-- EN
https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html
======================================================
Prof. Enrico Nardelli
Past President di "Informatics Europe"
Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI
Dipartimento di Matematica - Università di Roma "Tor Vergata"
Via della Ricerca Scientifica snc - 00133 Roma
home page: https://www.mat.uniroma2.it/~nardelli
blog: https://link-and-think.blogspot.it/
tel: +39 06 7259.4204 fax: +39 06 7259.4699
mobile: +39 335 590.2331 e-mail: [email protected]
online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont
======================================================
--_______________________________________________
nexa mailing list
[email protected]
https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
