Il giorno dom 8 dic 2024 alle ore 10:29 Davide Prina <[email protected]> ha scritto:
> JAN[¹] è un assistente locale per l'IA. In pratica permette di > scaricare in locale tutte le LLM distribuite gratuitamente o > liberamente (notare che alcune LLM anche se dichiarate "open" non > lo sono effettivamente) ed eseguirle sul proprio PC garantendo > privacy e completo controllo. > [...] > l'avevo provato, ma purtroppo non permette l'utilizzo di modelli remoti, ma solo locali. Alla fine ho preferito Ollama che, oltre ad avere una vasta comunità ed essere presente da più tempo nel panorama, può girare come container su una macchina con GPU, esponendo API simili a quelle di OpenAI. Con poco sforzo si può sostituire l'utilizzo di ChatGPT con questo. La quantità di energia elettrica consumata per l'esecuzione del > modello è impressionante (probabilmente con un PC con GPU potenti è > inferiore). Questo mi ha fatto capire perché stanno cercando di > No, le schede video consumano molta energia > accaparrarsi energia elettrica per far funzionare i datacenter che > gestiscono l'IA (riattivando centrali a carbone o atomiche, costruendo > centrali atomiche apposite e gestite dalla società che regola l'IA). > Il tutto per avere delle "risposte" con alta probabilità di non essere > vere e alcune volte sono talmente verosimili che alterano la realtà > introducendo piccole falsità che poi possono essere prese come assunti > da tutti o da molti. > Ma il problema è di chi assume siano vere quelle risposte! Cosa c'entra l'AI? o meglio i LLM? Il loro compito è mica detenere la verità assoluta, solo generare testo (o immagini nel caso) basandosi su calcoli probablistici e random seeds. A volte sembrano umani? Sì, tant'è che come detto alcune passano il test di turing. C'è da fidarsi ciecamente? Direi di no. Sono assistenti, ti fanno risparmiare un sacco di tempo nel fare task noiosi o possono darti una mano con degli spunti interessanti, ma non puoi dirgli per esempio, "scrivi un libro" (o meglio, puoi, ma viene una schifezza). Quello che puoi fare è chiedergli "cosa può succedere al protagonista della storia a questo punto? suggeriscimi alcuni eventi che portino il protagonista a confrontarsi con il tema XYZ." > [...] Secondo me l'IA contribuirà al riscaldamento globale e all'alterazione > della realtà. Quindi meglio non usarla. > > Meglio non usarla anche per un altro motivo. Mi ricordo di aver letto > tempo fa che avevano fatto uno studio sui taxisti di New York (se non > ricordo male) e l'Alzheimer[¼]. Era risultata una correlazione tra tale > malattia e chi si affidava al 100% al GPS. > il 100% delle persone beve acqua muore, non fatelo!! Inoltre anche respirare contribuisce al riscaldamento globale, se ci tieni al pianeta smetti subito! Scherzi a parte, preferisco conoscere e poter mettere mano a qualcosa che, volenti o nolenti, entrerà nelle nostre vite da qualunque parte. Se AI deve essere, che sia open. Nascondere la testa nella sabbia non ha mai portato a nulla di buono > Quindi non usare il proprio cervello alla fine può avere conseguenze > negative. Assolutamente d'accordo! Saluti, -- Marco Bertorello https://www.marcobertorello.it
