Ciao 380°
On Fri, 20 Sep 2024 14:01:01 +0200 380° <[email protected]> wrote:
> > In qualunque caso, una definizione di Open Source AI
>
> ma è davvero così importante la deinizione di "Open Source AI" data da
> OSI?
Evidentemente, sì, se ci si scomoda a impedire il confronto su una
soluzione semplice come "richiediamo che i dati sorgente siano
disponibili, se non possiamo richiedere che vengano distribuiti".
Non è indicativo che nessuno abbia osato _obiettare_ nel merito?
Abbiamo anche membri di OSI qui su Nexa eppure, anche qui, silenzio.
Perché?
Forse che questo piccolo uovo di colombo smonta tutte le scuse opposte
alla trasparenza dei dati da OSI & friends?
D'altro canto, se leggi il blog dell'OSI in proposito, trovi una lunga
serie di voli pindarici per giustificare questa assenza di trasparenza
che di fatto vanifica la libertà di studio e la libertà di modifica.
> > che non garantisca né la studiabilità dei dati utilizzati per il
> > calcolo dei pesi né la riproducibilità del processo, favorirà ogni
> > sorta di open washing, aprendo un enorme loophole anche nella
> > normativa dell'AI Act. [3]
>
> ma è davvero _quello_ il vero problema dell'AI Act?
Sono certo che ci siano problemi e scappatoie peggiori, ma quello è UN
problema anche al di là dell'AI Act.
Immagina un Chat Control basato su una "Open Source AI", con fior di
accademici a spergiurare che il dataset sorgente ("di training") non
contiene alcun bias... dopo per aver analizzato un dataset diverso da
quello effettivamente utilizzato.
Al di là dell'AI Act: molte persone si fiderebbero.
> Please present new arguments
La proposta che ho presentato in quel post non era stata discussa da
nessun'altra parte per quanto io abbia potuto verificare cercando sul
forum.
Alcuni degli argomenti in favore di quella proposta, riprendevano
considerazioni fatte discutendo su thread correlati.
Il "community manager" comunque ha dovuto fingere di non capire cosa
ho proposto per giustificare la chiusura del thread.
E prima mi ha silenziato, così che non potessi presentare nuovi
argomenti.
Purtroppo qualcuno li prende ancora sul serio...
quindi tocca averci a che fare.
> vuol dire davvero che le guidelines sono private?
Beh, certo: mica vuoi finiscano nella Wayback Machine!
Poi si nota quando le cambi alla bisogna! :-D
> è ovvio che si tratta solo di una operazione di facciata.
Ma vedi, a me non interessa se l'OSI salva la faccia o meno.
A me interessa evitare che delle black box possano passare per "open
source" solo perché chi le sviluppa pubblica una parte irrilevante del
dataset sorgente.
Il livello di opacità dei software programmati statisticamente è
infinitamente maggiore rispetto a quello dei software proprietari.
Giacomo
PS:
> sconfortato dalla tua pervicacia
Mi dispiace sempre per lo sconforto che causo, ma mi devo occupare
del futuro, perché ho figli che ne faranno parte.
