Buongiorno Marco, "Marco A. Calamari" <[email protected]> writes:
[...] > Salve a tutti, > > se è gradito (e ne sono lieto) citare qui DataKnightmare, allora, per chi > fosse > interessato, anche Cassandra avrebbe da dire la sua ... > > https://medium.com/@calamarim/cassandra-crossing-ia-fabbriche-di-informazioni-false-34823e6110cf mi permetto di riportare quello che ritengo il nocciolo del contributo e fare alcuni commenti: --8<---------------cut here---------------start------------->8--- ChatGPT e tutti i suoi successori dello stesso tipo non conoscono, non conoscono per niente, non conoscono assolutamente, non conoscono neanche lontanamente, non conoscono per niente la risposta a qualsiasi domanda; non conoscono assolutamente nulla. La conoscenza con cui vengono “nutriti” viene “digerita” e svanisce, lasciando solo un credibile “Mentecatto Artificiale” privo di qualsiasi Intelligenza o Cultura. --8<---------------cut here---------------end--------------->8--- Come rilevi qualche paragrafo più avanti, il concetto di menzogna implica necessariamente l'ammissione del concetto di verità ma sistemi come questi non contemplano nulla che assomigli a verità, esiste solo /credibilità/ dell'output; per questo credo che sia più adeguato usare il paragone di "bulshitter" alla Frankfurt. --8<---------------cut here---------------start------------->8--- [...] Risposte credibili, non risposte vere. Questo concetto deve essere recitato come un mantra, ripetuto fino allo sfinimento, pubblicizzato in ogni occasione. --8<---------------cut here---------------end--------------->8--- Il /disclaimer/ che assolutamente adesso manca. --8<---------------cut here---------------start------------->8--- ChatGPT e tutti i suoi successori non hanno nessuna conoscenza sulla verità o falsità di una domanda, non hanno nessuna cultura, pur avendone digerito quantità enormi. Sono un vicolo cieco, utilizzabile solo come arma di propaganda di massa. E lo stanno facendo! Sono solo in grado di darvi risposte credibili, in cui voi individuerete il significato che volete o potete dargli. E qui sta il pericolo, questi oggetti vengono propagandati come risponditori di domande, non come affabulatori o generatori di prosa fantasiosa. --8<---------------cut here---------------end--------------->8--- Diventa arma di propaganda nel momento in cui quel /disclaimer/ viene omesso: deve essere trattata alla stessa stregua della pubblicità ingannevole [1] --8<---------------cut here---------------start------------->8--- E la loro attuale linea di sviluppo non è quella di renderli capaci di risposte esatte, cosa che non sarà mai possibile, ma solo incapaci di dare risposte così errate da essere evidenti o ridicole, risposte che siano espresse in termini razzisti, sessisti, in violazione di qualsiasi possibile concetto ”politically correct”. --8<---------------cut here---------------end--------------->8--- quindi sempre più ingannevoli? [...] --8<---------------cut here---------------start------------->8--- Speriamo che questa eqnnesima ripetizione, spero ben argomentata ripetizione, serva a qualcosa. Se vi affidate a ChatGPT, non tornerete mai dalla guerra. --8<---------------cut here---------------end--------------->8--- Sì ma allora come la mettiamo con i dati personali che trattano i sistemi come ChatGPT, sia quelli usati per il training che quelli sparati stocasticamente come output? [...] Grazie, 380° [1] https://it.wikipedia.org/wiki/Pubblicit%C3%A0_ingannevole -- 380° (Giovanni Biscuolo public alter ego) «Noi, incompetenti come siamo, non abbiamo alcun titolo per suggerire alcunché» Disinformation flourishes because many people care deeply about injustice but very few check the facts. Ask me about <https://stallmansupport.org>.
signature.asc
Description: PGP signature
_______________________________________________ nexa mailing list [email protected] https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
