Mitar je napisal:
Omogočila nam je svetovno dominacijo.
Tako mislimo seveda le mi. In je pogosta napaka v cloveskem
razmisljanju, na kateri se napaja rasizem in podobne zmote.
(khm, Politics is the Mind-killer ...
http://lesswrong.com/lw/gw/politics_is_the_mindkiller/)
Em, res ne vidiš tega, da smo ljudje zaradi svoje inteligence dominantna
sila na tem planetu?
Celotne pokrajine so spremenile svojo podobo zaradi nas, iztrebljenih je
bilo veliko živalskih vrst - tako tistih, ki so nas ogrožale in tako prišle
v navzkrižje z našimi cilji, kot drugih, ki smo jih tekom svoje ekspanzije
enostavno pohodili - in ta proces še vedno poteka; morja in dežele so
napolnjene z našimi izzumi... skratka, planet je postal naše igrišče - in ne
igrišče šimpanzov, delfinov, ali kake druge vrste.
Da ne bo nesporazuma, zg. odstavek ne vsebuje nobene normativne sodbe, samo
opisne.
Ker ima na disku shranjeno kopijo svoje izvorne kode?
In zakaj tocno ze lahko dostopa do teh podatkov? Cisto dobro si lahko
zamislim arhitekturo za locenim pomnilnikom za ukaze in podatke, kjer
lahko dostopa direktno le do podatkov, ukaze pa CPU izvaja enega za
drugim, brez da bi lahko AI ga prebral.
Kot prvo, glede na pregovorno varnost informacijsih sistemov je seveda za
pričakovati, da lahko AI preprečimo dostop do nekega resursa sistema...
oziroma ravno obratno, se ti ne zdi? ;)
In kot drugo, dosti bolj relevantno: seveda si lahko vedno zamisliš
arhitekturo AI sistema z določeno specifično lastnostjo - mind-design space
je namreč ogromen in vsebuje tudi takšne posebnosti kot si jo omenil zg.,
lahko pa tudi vedno pokažeš na ljudi. Se pa tu nato pojavi vprašanje, ali je
takšen design sploh praktično izvedljiv oz. ali obstaja kaj več kot
infinitizemalna verjetnost za to, da bo tudi kdo ustvaril takšen AI. V
prejšnjem sporočilu sem omenil 'seed AI' (AI, ki je zasnovana z namenom
učinkovite samo-izboljšave) in pri njej je mogoče zagovarjati tezo, da
takšna omejitev, kot jo omenjaš, nikakor ne bo del njenega designa.
Btw, v mojem pogledu je seed AI tista glavna pot, ki vodi do inteligence na
človeškem nivoju ...and beyond.
... imas omejeno inteligenco na omejenem prostoru in da ta sama po sebi
verjetno ne more ugotoviti, kako sama deluje, le v okviru tega prostora.
Če potrebuje nek zunanji pomnilnik, tako kot mi uporabljamo svinčnik in
papir, lahko odpre neko datoteko na disku in tja zapisuje svoje ideje...
npr. "moj delovni spomin je implementiran kot neke oblike asociativna
nevronska mreža, njegova interakcija z dolgoročnim spominom je sledeča...".
Zakaj naj bi bilo to nemogoče?
AI mora razumeti le svoj design, ni ji potrebno razumeti tega svojega
razumevanja designa in razumeti tega svojega razumevanja tega svojega
razumevanja designa in razumeti... Neskončne rekurzije tule torej ni. Njeno
razumevanje je v grobem podobno našemu razumevanju delovanja avtomobila: ima
neke prediktivno močne modele za posamezne dele svojega designa in njihova
medsebojna razmerja, ki jih lahko nato uporabi pri svoji samo-izboljšavi...
Ce zelis drugace zastaviti ta problem: za razumevanje svoje kode, bo
verjetno AI moral resiti tudi halting problem.
Zakaj?
Ko sam poskušam razumeti kodo nekoga drugega, pri tem ne rešujem halting
problema in ne vidim da bi bilo kaj drugače, če bi v roke dobil 'kodo'
svojih možganov.
Rok
