Ciao a tutti, un piccolo aggiornamento dal fronte^W forum dell'OSI dedicato alla definizione della "Open Source AI".
10 minuti prima di scrivere una risposta alla mia proposta, Nick Vidal (Community Manager di OSI) mi ha silenziato su discuss.opensource.org senza alcun contatto precedente (di seguito la comunicazione). La cosa è particolarmente interessante perché subito dopo ha scritto una risposta in cui mi pone alcune domande e ha chiuso il thread senza darmi modo di rispondere, ironicamente accusandomi di non lasciare spazio agli altri per commentare. Il tutto dopo quasi 24 ore di silenzio sul forum. ¯\_(ツ)_/¯ https://discuss.opensource.org/t/rfc-separating-concerns-between-source-data-and-processing-information/568/2 Poco dopo ha chiesto endorsements pubblici [1] per una definizione che, di fatto, non garantisce né la libertà di studio né quella di modifica, ma solo quella di fine tuning, permettendo ovvie forme di open washing nonché di nascondere nei modelli "open source" sia backdoor [2] che bias contro minoranze specifiche, senza che nessuno possa esaminare i dataset sorgente per individuarle e rendendo di fatto meno sicuro l'intero ecosistema open source. Sarebbe stato interessante discutere invece del merito della proposta che, non richiedendo la redistribuzione di dataset già disponibili online, non richiede che gli sviluppatori che li utilizzano per il training li debbano redistribuire. Quanto al fatto che sia tecnicamente impossibile ricalcolare esattamente i pesi di un LLM dalle informazioni e dai dati sorgente, è ovviamente una sciocchezza a meno di bug hardware di cui comunque è sempre possibile evitare il verificarsi. Vidal lo sa. Allora perché questo nervosismo? Perché questa fretta di raccogliere endorsements su una bozza ancora evidentemente prematura? In qualunque caso, una definizione di Open Source AI che non garantisca né la studiabilità dei dati utilizzati per il calcolo dei pesi né la riproducibilità del processo, favorirà ogni sorta di open washing, aprendo un enorme loophole anche nella normativa dell'AI Act. [3] Con l'account sospeso non posso fare molto né per rispondere alle domande di Vidal, né per migliorare la proposta, ma vi invito a partecipare attivamente al dibattito (nella speranza che abbiate maggior fortuna e non veniate anche voi silenziati). Giacomo [1] https://discuss.opensource.org/t/endorse-the-open-source-ai-definition/570 [2] https://arxiv.org/abs/2204.06974 [3] come in effetti aveva già ipotizzato Claudio a Giugno. _____ Data: Mon, 16 Sep 2024 19:28:00 +0000 Da: OSI Discuss <[email protected]> A: [email protected] Oggetto: [OSI Discuss] Your account has been silenced You have been silenced from the forum until September 23, 2024, 7:27pm. Reason - Would not listen to staff feedback Please present new arguments, don’t open new topics repeating the same arguments over and over, and leave space for others to comment. Don’t flood the conversation and be respectful of the guidelines.
