Grazie Giacomo
a me è chiaro che gli strumenti di GenAI, fanno un po' come ca...volo
gli pare, però - ripeto - se io sto visualizzando dei dati, il fatto che
il grafico di visualizzazione sia generato con uno strumento GenAI non è
secondo me un elemento interessante.
Ciò che è rilevante è quali sono i dati e quali sono i metodi con cui li
ho ottenuti e se il grafico aderisce a questi dati. Sono i dati a dover
essere riproducibili, il grafico è solo una modalità per la loro
comunicazione. La modalità può essere fuorviante (tutti sappiamo come si
può mentire con un bel grafico), ma questo è compito del revisore
osservarlo e chiedere all'autore una modifica: il tutto è indipendente
dallo strumento usato per generare la visualizzazione. Anche quando uno
non sa usare un foglio elettronico può generare visualizzazioni
incoerenti con i dati.
Sul problema dell'ispirazione, penso che ognuno sia libero di farsi
ispirare da quello che ritiene più utile per sé stesso e che ritiene gli
sia utile. Di nuovo, la responsabilità è della persona che produce il
risultato. Il fatto che l'esame di stato per medicina sia composto di
migliaia
di domande a scelta multipla in cui una frazione rilevante delle
risposte è notoriamente sbagliata, ma gli studenti le devono comunque
imparare a memoria, nonostante siano sbagliate, penso sia un problema
antecedente all'arrivo degli strumenti di GenAI. Ma se anche non fosse,
in ogni caso non rimuove la responsabilità delle persone o degli enti
che li hanno realizzati.
Concludendo, non sono per niente un fan di questi strumenti, ma non li
demonizzo e ritengo che abbiano un loro spazio di utilizzo per
velocizzare alcune attività cognitive di routine. Quali siano e quanto
spesso gli strumenti siano utili è una risposta che ognuno deve trovare
per sé stesso. Il punto essenziale è che bisogna essere esperti del
dominio in cui uno li usa.
Come ho scritto recentemente qua
https://www.startmag.it/innovazione/tutti-i-nodi-dellia-vengono-al-pettine/
«Attenzione, questo non vuol dire che gli strumenti di IAG siano
inutili. Al contrario, essi sono utilissimi, se li usi come bruta forza
lavoro in un settore che conosci bene, avendo contezza della loro
incapacità di comprensione. Sono degli amplificatori delle nostre
capacità cognitive, come le macchine industriali lo sono delle nostre
capacità fisiche. Ma come in quel caso, se non le sai usare, rischi di
fare dei disastri. Mettersi alla guida di un aeroplano senza
preparazione non ti farà volare sopra i mari come un uccello ma, più
probabilmente, ti porterà a una brutta fine. Usare l’IAG in un settore
che non si conosce espone agli stessi rischi. Se padroneggi la materia,
invece, puoi in molti casi – ma non tutti! – lavorare più veloce, purché
continui a fare attenzione a ciò che essa ti propone.»
Ciao, Enrico
Il 22/04/2025 09:42, Giacomo Tesio ha scritto:
Ciao Enrico,
Il 21 Aprile 2025 18:19:14 UTC, Enrico Nardelli ha scritto:
Quando rappresento i miei dati con un grafico 3-D non mi si chiede se ho
usato un foglio elettronico o un altro strumento di visualizzazione.
Perché chiedere in casi analoghi la dichiarazione dell'uso di uno
strumento di GenAI?
Onestamente mi sembra un parallelo azzardato.
(a meno di bug) Un foglio di calcolo produce risultati esclusivamente
dipendenti dai
dati forniti in input, cui vengono applicati algoritmi noti.
I sistemi di GenAI SaaS introducono variabili nascoste (pseudocasuali o meno)
ignote all'utente che, omesse nell'output, rendono il processo non
riproducibile.
E anche quando usati offline e senza variabili preudocasuali aggiuntive,
questi software applicano algoritmi ignoti a chi li esegue.
Rispetto al foglio di calcolo si pongono dunque due problemi, uno
"contenutistico"
e l'altro didattico
- l'elevata probabilità di risultati errati (artefatti)
- l'irrilevanza della competenze acquisite anche in presenza di contenuti
corretti.
se uno la vuole usare è sua facoltà dichiarare se e come l'ha usata,
dal momento che la responsabilità finale è comunque interamente sua
Sì, la prima differenza può essere razionalizzata attraverso la presunta
responsabilità che lo studente si assume.
Ma come razionalizzare le competenze non acquisite dagli studenti universitari?
Ad esempio, chi di noi in passato (una volta arrivati i motori di ricerca,
ovviamente) per gli esercizi d'esame non ha "fatto un giro" sulle pagine di
colleghi in tutto il mondo per trovare ispirazione e poi produrre i suoi
esercizi?
Anche questo è un paragone azzardato, seppur meno.
Sì un LLM non è altro che un archivio compresso con perdita dei testi
usati per programmarlo statisticamente.
Ma quel "con perdita" non è li a caso.
Poi usarlo per "trarre ispirazione" (pur ignorando da cosa) rispetto a domande
ed esercizi che comunque scrivi tu non causerà grossi danni.
Richiederà semplicemente _più_ tempo che usare farina del tuo sacco.
Usarlo invece per velocizzare la produzione di esercizi, invece sì.
Ricordo sempre come l'esame di stato per medicina sia composto di migliaia
di domande a scelta multipla corrette automaticamente da un software...
nel cui database una frazione rilevante delle risposte è notoriamente sbagliata.
I candidati sono costretti a studiare a memoria le risposte errate, sapendole
errate, per superare l'esame.
E non è possibile correggerli per evitare i ricorsi.
Domande e risposte che peraltro saranno sicuramente finiti nei vari LLM.
Ora tu pensa ad un docente universitario di medicina che pensa di velocizzare
l'incombenza di preparare un test d'esame affidandosi ad una GenAI!
E pensa se quell'output finisse a sua volta in un test d'esame standardizzato!
Adesso con GenAI si può fare più rapidamente ma mi sembra
concettualmente lo stesso processo.
A meno degli artefatti di compressione, appunto.
Giacomo
--
-- EN
https://www.hoepli.it/libro/la-rivoluzione-informatica/9788896069516.html
======================================================
Prof. Enrico Nardelli
Past President di "Informatics Europe"
Direttore del Laboratorio Nazionale "Informatica e Scuola" del CINI
Dipartimento di Matematica - Università di Roma "Tor Vergata"
Via della Ricerca Scientifica snc - 00133 Roma
home page: https://www.mat.uniroma2.it/~nardelli
blog: https://link-and-think.blogspot.it/
tel: +39 06 7259.4204 fax: +39 06 7259.4699
mobile: +39 335 590.2331 e-mail: [email protected]
online meeting: https://blue.meet.garr.it/b/enr-y7f-t0q-ont
======================================================
--
