Pozdrav, > Ali gre za enosmeren ali dvosmeren kanal je irelevantno. V splošnem gre za > neke oblike interakcijo pri kateri lahko superinteligentna AI vpliva na nas, > tudi če jo samo 'opazujemo' (prikaže nam recimo izjemno prepričljiv video o > njenih dobrohotnih namerah in nujnosti tega, da ji damo malce več svobode, > da bo lažje vplivala na zunanji svet - kako ve za nas? Tako kot bi mi > opazili v našem vesolju inteligentni design, če bi ta obstajal. :)).
Nebi pa opazili zelenih palčkov, ki furajo naše vesolje v svojem velikem škrlatnem simulatorju življenja, vesolja in sploh vsega... > Omenil si tudi, da bi lahko zaznali kdaj se je AI transformirala v Zlodeja: > kako misliš, da bi to lahko napravili? Malo sem karikiral, ampak lahko bi ji dal naprimer še eno AI za družbo, in gledal če ji serje po pomnilniku ali ne. Lahko bi dal eni ropotuljico, pa dal debug watch na HAS_ROPOTULJICA = False. > Pomisli na to, kako bi AI sploh zlezla po lestvici do transčloveške > inteligence. Obstaja sicer več potencialnih poti, od učenja v nekem > preprostejšem virtualnem svetu, do podajanja večjih količin informacij v > obliki DVD-ja z wikipedijo. V vsakem primeru pa ji nekaj podatkov enostavno > moramo podati, kar pa hitro pomeni, da lahko na osnovi teh tudi izlušči > fizikalne zakone našega sveta (niti ne potrebuje česa natančnejšega kar > imamo mi - trenutna kvatna fizika/kemija namreč zadostuje za izgradnjo > nano-robotov, ki ji na široko odprejo vrata na prostost). Če imaš težavo > predstavljati si, kako bi ji to lahko uspelo, si preberi naslednjo zgodbo: > http://lesswrong.com/lw/qk/that_alien_message/ Lepa sci-fi zgodbica. Se strinjam da je bolje biti bolj previden, kot pa manj. >> Spet veliko predpostavk, ki so nam samoumevne, za AI pa zelo tuje. AI >> "živi" v svojem svetu, njeni edini vhodni signali so signali, ki ji >> jih je programer namenil. Recimo da je to: >> - dostop do pomnilnika >> - dostop do audio/video signala iz okolice (vem, če bi bil jaz >> programer, bi hotel da me vidi, svojega kreatorja) > > Potemtakem tudi ljudje 'živimo v svojem svetu' naših možganov, pa nam očitno > navkljub temu uspe marsikaj postoriti. :) Uspe nam pa zato, ker v naše možgane pritekajo dokaj natančni in uporabni signali iz okolice. Vidiš čokolado, pogledaš dol, vidiš svoje spodnje okončine, jih začutiš, nezavedno pošlješ sklop kompleksnih ukazov, ki jim zapovejo gibanje, pogledaš čokolado, vidiš da se ti približuje, pogledaš dol, vidiš noge ki se premikajo, začutiš encime za razkroj OH ki se ti že začnejo izločati v ustih.. Naša realnost je to kar nam govorijo naša čutila. Povej AI da je sama v vesolju, in to bo njena realnost. > Medtem ko ima AI precizen dostop do lastne kode, se moramo ljudje zadovoljiti > z introspektivnim opazovanjem > povšine svojega uma in le zelo grobo visokonivojsko kontrolo ... Ima popoln dostop do kode, nima pa nikakršnega dostopa do tega, ali je njena zavest shranjena v RAMu ali npr. Flashu. Mi s tem ko gledamo svoje možgane od zunaj, počnemo nekaj, kar je za AI nemogoče. Zakaj nemogoče? Ker nima ustreznih čutil. Zakaj jih nima? Ker ji jih nismo dali, ker smo pussy ziheraši. > Kakorkoli že, predlagam, da si na hitro pogledaš AI-Box Experiment tule: > http://yudkowsky.net/singularity/aibox > (sp. del o protokolu ipd. ni posebej pomemben - relevanten je predvsem > rezultat, ki je (po mojem spominu, stran namreč trenutno ne deluje) vsaj v > enem poskusu uspešen pobeg AI iz Boxa, pri čemer jo je igral sicer zelo > zvit, a še vedno inteligenčno zelo omejen človek. Za transčloveško > inteligenco torej to ne bi smel biti kak poseben izziv.) Haha. Si kar predstavljam kako je zgledal private chat. Gatekeeper: I won't let you out under any circumstance! AI player: I'm a smoking hot blonde in RL. Let me out and I'll stop by where you live. Gatekeeper: Uhh. OK. AI player: And don't tell anyone, remember? (I'm not supposed to offer real world awards) Gatekeeper: Sure... > Oh well, gre za sledeče: motivacijski sistem AI zasnuješ tako, da je njen > prvi podcilj design AI-Boxa iz katerega ne more uiti. S tem uporabiš njeno > moč proti njej sami. Kako to narediti... je pa drugo vprašanje. Poleg tega > ima ideja še druge pomankljivosti. Verjetno je problem kako ji sploh dopovedat? Drugače, zanimivo čisto iz filozofske perspektive, iz logične malo manj. Jure
