Mitar je napisal:
Kompleksnost njenih miselnih procesov bi namreč hitro izjemno narastla,
zaradi česar bi bilo njeno zavajanje zelo težko/praktično nemogoče
zaznati...
Verjetno lahko navrzes hitro kaksen teoreticni clanek, zakaj bi naj tako
hitro narascala ta umetna inteligenca.
Za začetek si lahko pogledaš tule: http://lesswrong.com/lw/wf/hard_takeoff/
Kdo pravi, da smo mi v zgodovini evolucije najpametnejsa bitja?
Mogoce so bila bolj pametna, ki pa so ravno zaradi svoje pretirane
pameti, izumrle.
Malo verjetno. Evolucijsko drevo (v sodobnejših različicah graf) je kar
dobro poznano in ni videti, da bi se v njem nahajala kaka pametnejša bitja.
Niti ni nikjer videti njihove zapuščine v obliki zgradb in drugih
tehnoloških stvaritev.
Torej ni le inteligenca tista, ki vpliva na moznost
prezivetja (to dokazuje velik nabor drugih bitij, ce pogledas okoli
sebe) in torej ni nujno, da je visja inteligenca kot nasa, bolj
prilagojena za zivljenje v okolju z veliko dodatnimi selekcijskimi
mehanizmi.
Drži, da si delimo planet tudi z drugimi nižje inteligentnimi bitji, vendar
so naši tekmeci ali zaprti v kletke ali pa mrtvi (z nekaterimi se res še
borimo, npr. virusi in bakterijami, vendar bo tudi tem - ali pa nam (vsem) -
evolucijsko gledano kmalu odbila zadnja ura). Inteligenca torej vsekakor je
zelo velik faktor preživetja. Omogočila nam je svetovno dominacijo.
Ali je tudi edini faktor... Omenjal sem, da je inteligenca definirana kot
preko-domenska učinkovita optimizacija, vendar praktično ekvivalentna
definicija govori o doseganju ciljev v kompleksnih okoljih. Če je torej cilj
nekega bitja preživetje, iz definicije sledi, da je nivo inteligence tega
bitja določen s tem, v kolikšni meri mu uspe zadostiti temu cilju. Res igra
pri tem neko vlogo tudi sreča, vendar je ta neodvisna od prizadevanj nekega
bitja... Odg. je torej 'da' - s kako opazko, kakršna je zadnja.
Konkretni primer. Imas Neandertalca, ki je veliko pametnejsi od
takratnega cloveka. Tako inteligenten, da je ugotovil, da je najboljse
za prezivetje vsakega posameznika, da se ne pobijajo med seboj, ampak da
sodelujejo. Tako srecajo takratnega cloveka, ki je tudi malcek
inteligenten, ampak ne tako, da bi to ze pogruntal. Ampak Neandertalci
pa mislijo, da je ja samoumevno, da bo vsako inteligentno bitje to
razumelo. In zato se dobijo z njimi neoborozeni (itak so imeli orozje
samo za lovljenje mamutov, ne pa za pobijanje med seboj). Ljudje vidijo
njihova lepa krzna in jih pobijejo ter si vzamejo krzna. Ter se
odpravijo dalje.
Glede na to, da neandertalec v tem hipotetičnem primeru ni predvidel
takšnega izzida dogodkov, že ni bil posebej inteligenten. Kot sem že omenil,
določeno vlogo pri preživetju igra tudi sreča, poleg tega ni nikjer rečeno,
da se inteligentno bitje nikoli ne moti - le v povprečju se manjkrat zmoti
od manj inteligentnega. Lahko pa ima smolo in je ena teh redkih pomot tudi
usodna. Čeprav pri večjih razlikah v inteligenci je takšen izid vse manj
verjeten.
Medtem ko ima AI precizen dostop do lastne kode,
Zakaj tocno ze?
Ker ima na disku shranjeno kopijo svoje izvorne kode?
motivacijski sistem AI zasnuješ tako, da je njen prvi podcilj design
AI-Boxa iz katerega ne more uiti. S tem uporabiš njeno moč proti njej
sami.
Ce ze lahko vplivas na motivacijski sistem, a ni potem boljse preprosto
narediti taksnega, ki bi se bal pobegniti iz boxa? Nekaj podobnega kot
je pri ljudeh, ki si ne upajo iz stanovanja.
Da bi AI dojemal svoj pobeg iz boxa kot dogodek z 'utility' enak negativni
neskončnosti? Ja, zakaj pa ne. Samo težava se pojavi, ko poskušaš to dovolj
natančno razdelati...
Rok
