Mitar je napisal:
Em, res ne vidiš tega, da smo ljudje zaradi svoje inteligence dominantna
sila na tem planetu?
Res ne vidim, da smo dominantna sila na tem planetu. Mravlje so
prezivele Hirosimo, ljudje je niso. V nekih kontekstih delujemo dobro,
to pa je tudi to. Tako kot vsako drugo bitje smo razvili svojo
adaptacijo. In je tezko govoriti, da je boljsa ali slabsa. Je pa
zanimiva in lepa. Tako kot je recimo tudi to, kaj vse pocnejo
globokomorske ribe s svojimi lucmi.
Če nisi opazil, sem posebej omenil, da moja sodba o dominantnosti nima
ničesar v zvezi s tem, ali smatram to kot lepo/dobro/zanimivo. Gre le za
opis nekih dejstev. Ko ljudje želijo zgraditi naselje, prihrumijo budložerji
in odstranijo mravljišča ter gozdove, pri čemer mravlje in druge gozdne
živali nimajo nobene moči nasprotovati. Tehnologija - produkt in podaljšek
našega uma - je enostavno mnogo močnejša...
Če bi po nekem neverjetnem naključju nezemeljska bitja obiskala Zemljo, bi
od daleč videla ogromna mesta, polja in travnike napolnjene z živino, naftne
ploščadi in ladjevja ter satelite, ki v tišini lebdijo nad površjem - kaj
misliš, da bi sklenila: da mravlje kraljujejo na planetu?!
Se pa pri tej ideji ne mislim zadrževati, ker je tako zelo očitna, da boš
tako ali tako vsak trenutek samo uvidel njeno pravilnost. Ne spomnim se, da
bi že srečal koga, ki je ne bi.
Kot prvo, glede na pregovorno varnost informacijsih sistemov je seveda
za pričakovati, da lahko AI preprečimo dostop do nekega resursa
sistema... oziroma ravno obratno, se ti ne zdi? ;)
Na nivoju CPUja in dostopa do pomnilnika, da. Tu imamo kar nekaj
izkusenj. Seveda ni nujno, da nam res uspe. Ampak vsaj na nivoju teorije
je taksne stvari mozno izpeljati. Vprasanje je, ce jih znamo
implementirati. Ampak tudi tam obstajajo formalni dokazi za to.
http://www.sigops.org/sosp/sosp09/papers/klein-sosp09.pdf
Ta članek mi je poznan (okoli njega je bilo pred časom veliko buzza), čeprav
ga nisem nikoli utegnil prebrati - in tudi zdajle bo moral počakati. S tem,
da je popolnoma varen sistem v principu mogoče zgraditi, se strinjam, ampak
je pa vseeno nadvse težko, kar pa niti ni nikakršna novica v teh krogih...
Veliko vprašanje je, če bodo prvi AI designerji sploh poskušali to doseči
ter ali je pri tako hudih omejitvah, kot je le povečevanje PC-ja, sploh
realno možno zgraditi AI. Breme je že tako težko, zakaj bi si ga še toliko
oteževali.
Če potrebuje nek zunanji pomnilnik, tako kot mi uporabljamo svinčnik in
papir, lahko odpre neko datoteko na disku in tja zapisuje svoje ideje...
npr. "moj delovni spomin je implementiran kot neke oblike asociativna
nevronska mreža, njegova interakcija z dolgoročnim spominom je
sledeča...".
Zakaj naj bi bilo to nemogoče?
Seveda. Samo pred tem mora priti do stopnje, ko se bo AI tega spomnila,
takrat pa bo ze tako kompleksna, da bo prepozno, da bi se razumela. Bolj
bo pa zrasla, da bi se razumela, se bolj kompleksna bo postala.
...tako kot ljudje vedno bolj rastemo in postajamo vse kompleksnejši tekom
poskusov svojega razumevanja?
Čisto resno vprašanje: ali se slučajno pregovarjaš zaradi pregovarjanja
samega - ker če je temu tako, se mi res ne da izgubljati časa tule.
Ko sam poskušam razumeti kodo nekoga drugega, pri tem ne rešujem halting
problema in ne vidim da bi bilo kaj drugače, če bi v roke dobil 'kodo'
svojih možganov.
Zato ker ga ti ne razumes popolnoma. Ti se zadovoljis s povprecno
analizo programa, ker sklepas, da programer zeli program, ki se konca.
In zato neke skrajne vrednosti in robne primere ne razmislis do konca.
Pac gledas na priblizno. Ampak AI si tega ne more privosciti. Ker ne ve,
kaj vpliva na njegovo delovanje, kot je.
Em, zakaj le?
Mogoce ravno robni pogoj?
Mogoce ravno to, da je njegovo "pravilno" delovanje v eni neskoncni
zanki, ki se ne bo nikoli koncala.
Zeh... ti argumenti so tako zelo šibki, da se potapljajo že pod lastno težo
in se mi tako niti ne da vrtati novih lukenj vanje.
Mislim, da bom za nekaj časa raje odšel malo na 'počitnice' in pustil, da
dogodki na friclisti odletijo mimo mene. Knjige in članki me že nestrpno
čakajo in bolje da se vrnem k njim. Do naslednjega snidenja...
Rok
