Mitar je napisal:
tako kot bi mi opazili božji podpis v našem svetu.
Mogoce pa mi to imenujemo DNK?
DNK je nastal tekom evolucije in ne preko božjega posredovanja v našem
svetu.
(drugače je bila to čisto resna igra - pri kateri je gatekeeper dobro
vedel, da je na drugi strani namesto bejbe g33k ;))
Torej ocitno necesa ni vedel, ker sicer ga verjetno ne bi spustil ven?
Kolikor mi je znano je Yudkowsky, ki je igral AI, dosegel svojo izpustitev s
pomočjo neke oblike prepričevanja prignanega do skrajnih meja. Ali
gatekeeper pri tem česa ni vedel? Kaj pa vem... to niti ni pomembno. Cilj te
vaje je bilo demonstrirati, da lahko nadčloveška AI z manipulacijo
programerja pobegne iz boxa. Brez fancy I/O naprav, internetnega dostopa
ipd. Potrebuje le običajen terminal.
Najočitnejši problem je sama tehnična specifikacija te ideje - kako
zagotoviti, da bo AI zanesljivo sledila takšnemu zaporedju dejanj in pri
tem ne bo povzročila kolateralne škode v svoji okolici (npr. želela
zgraditi ogromno računalnik iz okoliške snovi za namen designa varnega
AI-Boxa). Iz tega pa se že vidi, da je problem morda celo FAI-complete...
Kako pa se to dosega pri ljudeh? Saj tudi ljudje imamo taksne primerke,
ki jih poimenujemo socialno deviantni.
Kar solidno deluje pri ljudeh, ni nujno da bo kakorkoli delovalo pri AI
sistemih.
Poleg tega gre pri ljudeh za - metaforično rečeno - vlečenje določenih
vzvodov, medtem ko imamo pri AI v rokah škarje in platno. Vprašanje
stvaritve torej in ne manipulacije obstoječega designa.
Rok
