Con un simpatico 'Welcome back, Italy', OpenAI ci informa che possiamo tornare a usare ChatGPT (senza VPN, intendo) anche dai nostri lidi. Roberto Reale, sui social, faceva notare che c'è molto sottotesto in questo modo di mettere la cosa: erano loro in effetti a essersene andati. Cosa vogliono dirci? E che: ci prendono forse in giro?
Per quello che capisco, le nuove garanzie che la piattaforma offre, e che hanno rassicurato il nostro Garante, sono in sostanza tre: 1) per entrare devi prima premere un bottone verde (sopra c'è scritto qualcosa, ma non credo che sia rilevante) 2) puoi negare il consenso a che le tue conversazioni vengano usate per raffinare l'addestramento del sistema, a scapito della 'customizzazione' *We understand that in some cases you may not want your data used to improve model performance. You can opt out of having your data used to improve our models by filling out this form. Please note that in some cases this will limit the ability of our models to better address your specific use case.* 3) puoi chiedere la rimozione dei tuoi dati personali, ma senza alcuna garanzia che la richiesta abbia effetto: *Submitting a request does not guarantee that information about you will be removed from ChatGPT outputs *(altrove si spiega: *Services like ChatGPT generate responses by reading a user’s request and then predicting the next most likely words that might appear in response. In some cases, the most likely next words may not be the most factually accurate ones. For this reason, you should not rely on the factual accuracy of output from our models*) Interessante è la form <https://share.hsforms.com/1UPy6xqxZSEqTrGDh4ywo_g4sk30> in cui si può comunque richiedere la rimozione dei 'dati personali': in sostanza, oltre a nome, cognome e paese di provenienza, c'è da indicare se la persona nominata è una celebrità o un comune mortale (bella domanda) e nel caso delle figure pubbliche c'è da specificare il contesto di tale celebrità. Poi viene la parte tecnicamente sfidante: c'è da fare 'prompt engineering' per evidenziare le possibili 'menzioni' del soggetto *Please provide any relevant prompts that resulted in the model mentioning the data subject. To be able to properly address your requests, we need clear evidence that the model has knowledge of the data subject conditioned on the prompts.* Insomma*,* la vedo dura, però credo che più di questo non potessero fare (giova ancora ripeterlo: un LLM non è un database) La richiesta di rimozione può ovviamente essere fatta 'on behalf' (le celebrità non hanno neanche tempo per lo shopping, figuriamoci per il prompt engineering). Su come si possano evitare attacchi di 'defacement', cioè miranti a cancellare le informazioni di qualcuno che voglia invece 'esserci', OpenAI (e il Garante) tacciono. Buon fine settimana e buon Primo Maggio! Guido
_______________________________________________ nexa mailing list [email protected] https://server-nexa.polito.it/cgi-bin/mailman/listinfo/nexa
