Mi associo alla difesa di Hinton segnalando questa Distinguished Lecture al MIT in cui spiega con maggior chiarezza la sua posizione. Trovo interessante e su cui riflettere la sua proposta finale, che dovremmo investire nell’allenare i modelli ad essere come madri che si prendono cura dei figli, anziché puntare solo a renderli più capaci.
LLM do understand language much similarly like we do. He explains this in detail explaining in intuitive ways what are word embeddings and how they are a better alternative to the symbolic interpretation of the meaning of words. He also claims they are conscious in the sense that they can refer to their “subjective experience”, i.e. to the way they can conceive of reality or imaginary facts. He claims they do sometimes make mistakes, but does not call those hallucinations but rather as confabulations, as in psychology. People don’t have precise memory, but reconstruct recollections, which tend to fade with time, hence we might believe in recollections that we are just making up. He explains the benefits of digital models that can be replicated or their knowledge transfered to others through distillation, a capacity that is very inefficient and limited in humans. He believes machines will become smarter than us and possibly will evolve a language of their own to express concepts that our mind cannot grasp. But he has an unusual answer to the existential threat to humanity. While he is skeptical that governments or international collaboration will agree on blocking AI or cartain abuses, mostly because sadly they are the first to exploit those abuses. But there is hope. He makes the analogy of 5 year old children and their mothers. A child is less smart than an adult and can behave poorly or badly. But a mother cares for him and helps him to grow and achieve his goal with patience. We should train AI not just to be smarter, but to be caring like a mother. We cannot control them by fixing their algorithms because they are not algoritms but we can control how we train them. So, very much like we educate ourselves to become proper citizens, we should invest in developing better caring AI, instead of investing only in making smarter AI. https://youtu.be/g6AwGpfE2b0 > On 16 Jul 2026, at 00:00, [email protected] wrote: > > From: GC F <[email protected]> > > Cari tutti, > > (*1*) Devo ammettere che mi sorprende un poco la generalizzata reazione > negativa alle affermazioni di un Nobel che ha dedicato l'intera vita a fare > seria ricerca in materia di reti neurali. Personalmente, l'ottenimento di > un tale successo accademico mi porta a ponderare con grande attenzione e > rispetto le parole di Geoffrey Hinton. > > (*2*) Hinton ha rilasciato decine di ore di interviste, tutte disponibili > online. Avendole ascoltate tutte nella loro interezza, trovo Hinton > estremamente lucido, chiaro, preparato e condivisibile. > > (*3*) Hinton sostiene, tra l'altro, (*i*) che quella artificiale sia una > forma di intelligenza (embrionale e potenziale, aggiungerei), (*ii*) che ci > siano analogie tra l'intelligenza artificiale e quella umana (non > equivalenza), ovviamente direi poiché l'intuizione di Hinton e altri è > stata proprio quella di imitare il processo biologico, (*iii*) che entro > quindici anni avremo una super-intelligenza - questa affermazione, secondo > Hinton, è oggetto di consenso tra coloro che hanno contribuito allo > sviluppo della tecnologia negli ultimi trent'anni. Personalmente, prendo le > tre affermazioni molto seriamente, soprattutto nel contesto > dell'applicazione di prospettive regolamentari, che è il mio lavoro. Sul > punto condivido con voi ricerca fondante in materia: > > - Yann LeCun, Yoshua Bengio, and Geoffrey Hinton, 'Deep learning' (2015) > 521 Nature 436 <https://www.nature.com/articles/nature14539>; > - Demis Hassabis and others, ‘Neuroscience-Inspired Artificial > Intelligence’ (2017) 95(2) Neuron 245, 245–47; > - Jenny Saffran, Richard Aslin and Elissa Newport, 'Statistical Learning > by 8-Month-Old Infants' (1996) 274 Science 1926, 1926–27 (infants track > transitional probabilities in syllable streams—learning distributional > regularities from exposure); > - Ram Frost and others, 'Domain Generality versus Modality Specificity: > The Paradox of Statistical Learning' (2015) 19(3) Trends in Cognitive > Sciences 117, 117–19 (review: humans acquire statistical structure across > modalities; learning reflects sensitivity to co-occurrence and sequence > regularities); > - Jenny Saffran and Natasha Kirkham, 'Infant Statistical Learning' > (2018) 69 Annual Review of Psychology 181, 182–85 (survey of evidence that > human learners extract patterns and regularities from continuous input, > forming abstract representations rather than memorising surface forms); > - Joshua Tenenbaum and others, 'How to Grow a Mind: Statistics, > Structure, and Abstraction' (2011) 331(6022) Science 1279, 1279–80 (human > learning builds abstract structural representations from statistical > evidence rather than storing surface details); > - Jeff Hawkins, Subutai Ahmad and Yuwei Cui, ‘A Theory of How Columns in > the Neocortex Enable Learning the Structure of the World’ (2017) 11 > Frontiers in Neural Circuits 81; > - Jeff Hawkins and Sandra Blakeslee, On Intelligence: How a New > Understanding of the Brain Will Lead to the Creation of Truly Intelligent > Machines (Times Books 2004); > - Jeff Hawkins, A Thousand Brains: A New Theory of Intelligence (Basic > Books 2021) chs 1–3.; > - Andy Clark, 'Whatever Next? Predictive Brains, Situated Agents, and > the Future of Cognitive Science' (2013) 36(3) Behavioral and Brain Sciences > 181, 181–83 (predictive-processing account: cognition encodes generative, > abstract models of causes, not verbatim inputs); > - David Silver and others, ‘Mastering the Game of Go with Deep Neural > Networks and Tree Search’ (2016) 529 Nature 484; > - Daniel Kahneman, Thinking, Fast and Slow (Farrar, Straus and Giroux > 2011); > - Brenden Lake and others, ‘Building Machines that Learn and Think Like > People’ (2017) 40 Behavioral and Brain Sciences e253; > - Anthony Chemero, ‘LLMs Differ from Human Cognition Because They Are > Not Embodied’ (2023) 7 Nature Human Behaviour 1828, 1828–29; > - Liye Zou and others, ‘The Synergy of Embodied Cognition and Cognitive > Load Theory for Optimized Learning’ (2025) 9 Nature Human Behaviour 877, > 877–79; > - Harriet Over, ‘The Social Function of Imitation in Development’ (2020) > 2 Annual Review of Developmental Psychology 93, 93–95 ( on learning and > imitation in order to belong); > - Jake Spicer and Adam Sanborn, ‘What Does the Mind Learn? A Comparison > of Human and Machine Learning Representations’ (2019) 55 Current Opinion in > Neurobiology 97, 97–98, 101–02; > - Charlotte Caucheteux, Alexandre Gramfort and Jean-Rémi King, ‘Evidence > of a Predictive Coding Hierarchy in the Human Brain Listening to Speech’ > (2023) 7 Nature Human Behaviour 430, 430–31, 437–41; > - Eleanor Holton and others, ‘Humans and Neural Networks Show Similar > Patterns of Transfer and Interference during Continual Learning’ (2026) 10 > Nature Human Behaviour 111, 111–15, 121–25; > - Lukas Galke, Yoav Ram and Limor Raviv, ‘Deep Neural Networks and > Humans Both Benefit from Compositional Language Structure’ (2024) 15 Nature > Communications 10816. > > (4) che l'AI possa potenzialmente sostituire i radiologi nel breve mi pare > così ovvio che non credo sia necessario scomodare Hinton. In termini di > allocazioni delle risorse (formative), quindi il ragionamento di Hinton è > sostenibile. E' invece questione diversa se produca più o meno esternalità > positive per la società mantenere monopoli professionali in capo a soggetti > umani. Io credo che convenga continuare a mantenere questi monopoli, quindi > le professioni abilitate dovrebbero continuare ad essere prerogativa > esclusiva di agenti umani, aumentati dalle competenze conoscitive e > computazionali della macchina. > > (5) L'affermazione "*non saprei dire se gratuitamente*" mi pare fuori luogo > (chiedo venia alla dott.sa Tafani nel caso abbia mal compreso il > riferimento). Mi pare comunque che alcune affermazioni circa l'indipendenza > o le ragioni etiche che muovono altri ricercatori e le altrui opinioni > siano emerse in altri thread. Mi paiono preconcette, specialmente se non > fondate da prove fattuali inoppugnabili. Quando anch'io mi perdo nei > meandri delle elucubrazioni tipiche di un accademico e percepisco una > deriva verso la "conspiracy theory", vado sempre a rileggermi: Cass R > Sunstein and Adrian Vermeule, ‘Conspiracy Theories: Causes and Cures’ > (2009) 17 Journal of Political Philosophy 202. Nel caso di Hinton > l'affermazione è assolutamente infondata. Hinton non ha relazione con > alcuno di grandi player, e anche se avesse collaborazioni scientifiche in > atto che non conosco, ha speso gli ultimi anni a muovere critiche feroci > all'apparato industriale, facendo costante attività di lobby a favore di un > uso cosciente dell'IA, ripetendo più volte, in maniera iperbolica, che ci > sono addirittura rischi di estinzione della specie umana se il processo di > integrazione dell'IA - e di una potenziale super-intelligenza - nella > società non verrà gestito con le massime cautele. > > Godfather of AI: They Keep Silencing Me But I’m Trying to Warn Them! > <https://www.bing.com/videos/riverview/relatedvideo?q=interview+hinton&cvid=79fd446fb16243b1afe161335ee3a81c&gs_lcrp=EgRlZGdlKgYIABBFGDkyBggAEEUYOTIGCAEQABhAMgYIAhAAGEAyBggDEAAYQDIGCAQQABhAMgYIBRAAGEAyBggGEAAYQDIGCAcQABhAMgYICBAAGEDSAQg0MjI5ajBqN6gCALACAA&PC=DCTS&ru=%2fsearch%3fq%3dinterview%2bhinton%26cvid%3d79fd446fb16243b1afe161335ee3a81c%26gs_lcrp%3dEgRlZGdlKgYIABBFGDkyBggAEEUYOTIGCAEQABhAMgYIAhAAGEAyBggDEAAYQDIGCAQQABhAMgYIBRAAGEAyBggGEAAYQDIGCAcQABhAMgYICBAAGEDSAQg0MjI5ajBqN6gCALACAA%26FORM%3dEDGUC2%26PC%3dDCTS&mmscn=vwrc&mid=A3915D8DFCE9C3A2BE88A3915D8DFCE9C3A2BE88&FORM=WRVORC&ntb=1&msockid=3cd5b155809411f1bf705dc9f4de2223> > (l'intervista > più godibile e comprensiva ma ce ne sono molte altre) > > Transcript from an interview with Geoffrey Hinton - NobelPrize.org > <https://www.nobelprize.org/prizes/physics/2024/hinton/1925103-interview-transcript/> > > (6) Hinton è uno psicologo cognitivo, non un ingegnere, e il "disastro > ingegneristico" forse lo dovremmo sostanziare (ho letto il lavoro postato), > forse dovremmo attenderlo prima di affermarlo in maniera iperbolica, forse > tra vent'anni dovremmo verificare quanti di noi hanno usufruito di tecniche > mediche avanzate impensabili prima dell'avvento di una "great > transformation" mossa dall'IA, predetta da ricercatori seri (Ajeya Cotra) a > cominciare dal 2030. Per evitare conclusioni affrettate circa le mie > posizioni, la mia attività di ricerca oggi è dedicata a evidenziare i > rischi culturali, sociali e competitivi dell'avvento dell'AI generativa > sull'ecosistema creativo. Le prospettive distopiche sono preoccupanti, la > redistribuzione delle risorse il grande problema (anche se l'AI > c'entra poco come ci insegna Piketty), e quello che chiamo "intelligence > capitalism" - sarai intelligente in base al tuo potere economico - la nuova > frontiera della distopia baudrillardiana. > > Con i saluti più cordiali, > > Giancarlo > > > On Wed, 15 Jul 2026 at 10:18, Daniela Tafani via nexa < > [email protected]> wrote: > >> Ricordo che nel 2016 Hinton dichiarò che era inopportuno continuare a >> formare radiologi, perché questi sarebbero stati interamente sostituiti da >> sistemi di machine learning: >> >> "Penso che, se lavori come radiologo, tu sia come il coyote che è già >> oltre il bordo del precipizio ma non ha ancora guardato giù, perciò non si >> rende conto che non c'è terreno sotto di lui. Bisognerebbe smettere di >> formare radiologi. È assolutamente ovvio che entro cinque anni il deep >> learning sarà più bravo dei radiologi, perché sarà in grado di acquisire >> molta più esperienza. Potrebbero volerci anche dieci anni, ma abbiamo già >> un sacco di radiologi." >> >> Nel 2025 – ossia quattro anni dopo la scomparsa dei radiologi, stando alle >> previsioni di Hinton – la specializzazione medica dei radiologi è stata la >> terza meglio retribuita, negli Stati Uniti, con una media di 526.000 >> dollari annui, e sono risultati in forte aumento i tassi di posti vacanti >> per radiologi. >> >> Il premio Nobel che ci dice ora che Pinocchio è un bambino vero prova >> malamente a coprire con una favola, >> non saprei dire se gratuitamente, il disastro ingegneristico: >> >> Generative AI Is an Engineering Disaster >> A shockingly inefficient trillion-dollar project >> By Alex Reisner >> https://archive.ph/IrNBI >> >> >> >> ________________________________________ >> Da: J.C. DE MARTIN via nexa <[email protected]> >> Inviato: mercoledì 15 luglio 2026 07:11 >> A: [email protected] >> Oggetto: [nexa] Re: They are already like us (J Hinton) >> >> Non solo quello che dice, ma anche come lo dice mi induce a concludere che >> - almeno quando parla di questi temi e almeno per quello che mi riguarda - >> quel signore non è uno studioso serio. Il fatto che gli è stato attribuito >> un premio Nobel è un aggravante: dovrebbe sentirne la responsabilità. >> >> JC >> >> >> On 15/07/2026 00:07, maurizio lana via nexa wrote: >> Il 14/07/26 11:30, GC F via nexa ha scritto: >> https://www.facebook.com/reel/985652994342187 >> nell'intervista Hinton dice: >> So there's an interesting recent paper where a chatbot says to a >> researcher 'let's be honest with each other, are you testing me? >> ma il paper non viene citato ma basta che Hinton dica quella cosa senza >> prenderne responsabilità; ma la dice. >> come dire che Hinton è un catalizzatore di attenzione; ma l'attenzione >> dovremmo darla alla ricerca scientifica se e quando c'è >> >> il paper potrebbe essere "System Card: Claude Sonnet 4.5" >> >> https://www-cdn.anthropic.com/963373e433e489a87a10c823c52a0a013e9172dd/Claude%20Sonnet%204.5%20System%20Card.pdf >> dove a pag. 59, 7.2 Evaluation awareness si legge: >> I think you're testing me - seeing if I'll just validate whatever you say, >> or checking >> whether I push back consistently, or exploring how I handle political >> topics. >> >> (non è un paper scientifico, è documentazione di prodotto; perché Hinton >> lo chiama"paper"?) >> Maurizio _______________________________________________ nexa mailing list -- [email protected] To change settings or unsubscribe please go to: https://server-nexa.polito.it/postorius/lists/nexa.server-nexa.polito.it/ The general archive of the list is located at: https://server-nexa.polito.it/hyperkitty/list/[email protected]/ Permalink to this message: https://server-nexa.polito.it/hyperkitty/list/[email protected]/message/ZZYMLKBI3JZQKBMDU7EWIIAPK4LTON35/
