Il 14/07/26 11:30, GC F via nexa ha scritto:
https://www.facebook.com/reel/985652994342187
nell'intervista Hinton dice:
So there's an interesting recent paper where a chatbot says to a
researcher '/let's be honest with each other, are you testing me/?
ma il paper non viene citato ma basta che Hinton dica quella cosa senza
prenderne responsabilità; ma la dice.
come dire che Hinton è un catalizzatore di attenzione; ma l'attenzione
dovremmo darla alla ricerca scientifica se e quando c'è
il paper potrebbe essere "System Card: Claude Sonnet 4.5"
https://www-cdn.anthropic.com/963373e433e489a87a10c823c52a0a013e9172dd/Claude%20Sonnet%204.5%20System%20Card.pdf
dove a pag. 59, 7.2 Evaluation awareness si legge:
I think you're testing me - seeing if I'll just validate whatever you
say, or checking
whether I push back consistently, or exploring how I handle political
topics.
(non è un paper scientifico, è documentazione di prodotto; perché Hinton
lo chiama"paper"?)
Maurizio
------------------------------------------------------------------------
if we spent on prosecuting the rich
just one-tenth of the effort we spend prosecuting the poor
it would be a very different world
bruce schneier
------------------------------------------------------------------------
Maurizio Lana
Università del Piemonte Orientale
Dipartimento di Studi Umanistici
Piazza Roma 36 - 13100 Vercelli
_______________________________________________
nexa mailing list -- [email protected]
To change settings or unsubscribe please go to:
https://server-nexa.polito.it/postorius/lists/nexa.server-nexa.polito.it/
The general archive of the list is located at:
https://server-nexa.polito.it/hyperkitty/list/[email protected]/
Permalink to this message:
https://server-nexa.polito.it/hyperkitty/list/[email protected]/message/MIPNOEEYILZO275EQUNVTCRCKZ4CD5KQ/
