Mitar je napisal:
ima AI precizen dostop do zadnjega bita svoje kode,
Zakaj ze tocno?
Izvorna koda ji je podana v neki datoteki na disku, do katere ima ali pa
lahko pridobi dostop; razen tega pa lahko vedno pogleda kaj se nahaja na
nekem naslovu v gl. pomnilniku oz. v že prevedenem programu. Ljudje tega
očitno ne zmoremo, vendar naše omejitve pač niso nekaj, kar bi veljalo
univerzalno preko vseh AI sistemov...
Obstaja pa še nek drug razlog, zaradi katerega bi se celo posebej potrudili
in to zmožnost kar direktno vgradili v AI: s tem se ji močno olajša
rekurzivno samo-izboljšavo - če vključitev te sposobnosti ni kar nujni pogoj
za to, da nek pragmatični AI design preseže človeški nivo inteligence. Kot
je bilo zapisano v (ne)davni preteklosti: posadili bomo seme in zrastel bo
hrast (zato se je svoje čase tudi reklo takšnemu AI designu 'seed AI'). :)
Hipoteza, da inteligenca ne more razumeti svojega delovanja, bo
falzificirana, ko bomo končno razumeli delovanje svojih možganov, kar
nam bo sčasoma gotovo uspelo.
Z orodji zunaj nase glave.
Drži, ampak ali je v teh orodjih res nekaj tako posebnega, da AI brez
njihove pomoči ne bi mogel razumeti lastne zasnove? Ali pa malo drugače:
katero orodje zunaj AI sistema bi ji sploh lahko prišlo prav pri njenem
poskusu lastnega razumevanja? Kamera, ki bi ji pokazala kako izgleda njen
cluster? Ne bi rekel... (poleg tega, ali jo je sploh mogoče smatrati kot
orodje zunaj AI sistema?)
Mislim, da gre tule ponovno za napačno posploševanje na osnovi enega primera
(človeške inteligence). Čisto mogoče, da ljudje brez poskusov kot jih
opravljajo npr. nevroznanstveniki ne bi razumeli svojega uma še tisoč let,
vendar je težko videti, zakaj naj bi nekaj analognega temu veljalo tudi za
(praktično) vse AI, glede na globoke razlike med njimi in evolucijsko
skonstruiranimi razumi...
Rok
