e-daily.gr
H εφεύρεση που τρόμαξε τον δημιουργό της: Έφτιαξε έναν υπολογιστή που
μιλούσε το 1960
Το chatbot είναι ικανό για μερικά εντυπωσιακά κατορθώματα, από την
πλαστοπροσωπία ιστορικών προσώπων μέχρι τη συγγραφή εκπληκτικών
δοκιμίων. Το τι θα κάνει εξαρτάται από τον άνθρωπο.
Ήταν στα τέλη της δεκαετίας του 1960 και ο επιστήμονας υπολογιστών του
MIT είχε ολοκληρώσει την εργασία στο ELIZA, το πρώτο αυτόνομο πρόγραμμα
συνομιλίας μέσω υπολογιστή στον κόσμο. Με 200 γραμμές κώδικα, το ELIZA
ήταν ικανό να κρατήσει το ένα άκρο μιας συνομιλίας με έναν άνθρωπο. Το
πρόγραμμα ήταν στοιχειώδες αλλά αποτελεσματικό, ίσως υπερβολικά
αποτελεσματικό.
Η ELIZA ήταν ένα απλό πρόγραμμα υπολογιστή. Θα αναζητούσε τη λέξη-κλειδί
στη δήλωση ενός χρήστη και στη συνέχεια θα την αντανακλούσε με τη μορφή
μιας απλής φράσης ή ερώτησης. Όταν δεν καταλάβαινε τι της έλεγε ο
χρήστης, τότε χρησιμοποιούσε ένα σύνολο γενικών προτροπών όπως "παρακαλώ
συνεχίστε" ή "πες μου περισσότερα". Το πρώτο chatbot, κοινώς.
Ο Weizenbaum γεννήθηκε στο Βερολίνο της Γερμανίας το 1923 και έφυγε από
τη χώρα με την οικογένειά του το 1935 για να ξεφύγει από τη ναζιστική
κυριαρχία. Κατέληξαν στις Ηνωμένες Πολιτείες. Μετά από μια θητεία στο
Σώμα Αεροπορίας Στρατού ως μετεωρολόγος, ο Weizenbaum συνέχισε την
επίσημη εκπαίδευσή του και εφάρμοσε τις σημαντικές μαθηματικές του
δεξιότητες στην αναπτυσσόμενη βιομηχανία των υπολογιστών. Οι υπολογιστές
της εποχής, γίγαντες, μεγάλοι υπολογιστές που εκτείνονταν σε δωμάτια,
ήταν στα σπάργανα, αλλά ήδη έδειχναν τις δυνατότητές τους για εμπορική
και εκπαιδευτική χρήση. Το 1955, ο Weizenbaum βοήθησε την General
Electric στο σχεδιασμό του πρώτου υπολογιστή που χρησιμοποιήθηκε για
τραπεζικές εργασίες.
Αργότερα, ως επισκέπτης αναπληρωτής καθηγητής επιστήμης υπολογιστών στο
Τεχνολογικό Ινστιτούτο της Μασαχουσέτης (MIT), ο Weizenbaum άρχισε να
διερευνά τις δυνατότητες αυτών των υπολογιστών να έχουν αγγλόφωνες
αλληλεπιδράσεις με τον μέσο άνθρωπο, κάτι που δεν ήταν δυνατό εκείνη τη
στιγμή. Το να «μιλάς» σε έναν υπολογιστή σε εκείνο το σημείο συνήθως
σήμαινε εκμάθηση μιας γλώσσας προγραμματισμού.
Οι άνθρωποι χρειάζονται ανθρώπους
Ο καλύτερος τρόπος για να επιτευχθεί μια συνομιλία μεταξύ ενός
υπολογιστή και ενός ανθρώπου, πίστευε ο Weizenbaum, ήταν να μιμηθεί την
επαναλαμβανόμενη δομή μιας συνεδρίας ψυχανάλυσης, με το πρόγραμμα να
επαναλαμβάνει λέξεις και να επαναδιατυπώνει δηλώσεις που του δίνονται με
τη μορφή ερώτησης. Η ιδέα, είπε το 1984, ήταν να έχουμε ένα πρόγραμμα
που δεν χρειαζόταν μια βαθιά δεξαμενή γνώσης. Η ιδέα χρειαζόταν
«συζητήσεις στις οποίες ένα από τα μέρη δεν χρειάζεται να ξέρει τα
πάντα, και μου ήρθε στο μυαλό ένας ψυχίατρος. Ίσως αν το σκεφτόμουν 10
λεπτά παραπάνω, θα είχα βρει έναν μπάρμαν».
Χρησιμοποίησε μια γλώσσα προγραμματισμού που ονόμασε MAD-SLIP για να
δημιουργήσει το πρόγραμμα. Το ονόμασε ELIZA από τον χαρακτήρα Eliza
Dolittle από το έργο του George Bernard Shaw το 1913, Pygmalion (Μια
προσαρμογή του έργου, το μιούζικαλ My Fair Lady, έκανε το ντεμπούτο της
το 1956)
Ο Weizenbaum έκανε το ντεμπούτο του στο ELIZA το 1966. Προσκάλεσε
φοιτητές του MIT καθώς και συναδέλφους του να αλληλεπιδράσουν με το
πρόγραμμα. Τα μηνύματα στάλθηκαν στον κεντρικό υπολογιστή μέσω ενός
συστήματος χρονομερισμού [PDF], το οποίο επέτρεπε στο υλικό να φιλοξενεί
πολλούς χρήστες ταυτόχρονα.
Οι δηλώσεις στη συνέχεια αναλύθηκαν από την ELIZA και στάλθηκαν πίσω σε
ηλεκτρική γραφομηχανή και εκτυπωτή. Λέξεις όπως φίλη, κατάθλιψη, τι,
μητέρα και πατέρας θα μπορούσαν να προκαλέσουν απαντήσεις. Οι χρήστες
έπρεπε να προσέχουν να μην χρησιμοποιούν ερωτηματικό, το οποίο θα
ερμηνευόταν ως αίτημα διαγραφής γραμμής.
Υπάρχουν πτυχές της ανθρώπινης ζωής που ένας υπολογιστής δεν μπορεί να
καταλάβει
Ξανά και ξανά, όσοι δοκίμαζαν το ELIZA αισθάνονταν τόσο άνετα με το
μηχάνημα που άρχισαν να χρησιμοποιούν το πρόγραμμα ως ένα είδος
εξομολογητή. Προσωπικά προβλήματα κοινοποιήθηκαν για τη συμβουλή της
ELIZA - στην πραγματικότητα, η ικανότητα του προγράμματος να ακούει
χωρίς κρίση.
Ο Weizenbaum φρόντισε να εξηγήσει ότι ήταν απλώς ένα πρόγραμμα, ότι
κανένας άνθρωπος δεν βρισκόταν στην άλλη άκρη της γραμμής. Δεν είχε
σημασία. Ο κόσμος διαπότισε την ELIZA με το ίδιο το ανθρώπινο
χαρακτηριστικό της συμπάθειας.
Αυτή η παρατήρηση θα μπορούσε να ευχαρίστησε τον εφευρέτη της ELIZA,
εκτός από το γεγονός ότι τον ενοχλούσε η προθυμία ενός ατόμου να
συνδυάσει ένα πρόγραμμα με πραγματικές ανθρώπινες σχέσεις. Έχοντας
γλιτώσει από την τυραννική κυριαρχία της ναζιστικής Γερμανίας, ήταν ίσως
ειδικά συντονισμένος με τους κινδύνους της μείωσης του ανθρώπινου
παράγοντα στην κοινωνία.
Ως αποτέλεσμα, το ELIZA έγινε κάτι σαν επώδυνο σημείο για τον
Weizenbaum, ο οποίος έστρεψε την προσοχή του στη συγκέντρωση κριτικών
για την εισαγωγή της ανθρώπινης σκέψης πολύ γρήγορα και την παροχή
υπερβολικής αξιοπιστίας στην ψευδαίσθηση της ευφυΐας.
«Υπάρχουν πτυχές της ανθρώπινης ζωής που ένας υπολογιστής δεν μπορεί να
καταλάβει, δεν μπορεί», είπε ο Weizenbaum στους New York Times το 1977.
«Είναι απαραίτητο να είσαι άνθρωπος. Η αγάπη και η μοναξιά έχουν να
κάνουν με τις βαθύτερες συνέπειες της βιολογικής μας σύστασης. Αυτό το
είδος κατανόησης είναι καταρχήν αδύνατη για τον υπολογιστή».
Στην περίπτωση της ELIZA, αυτό θα μπορούσε μερικές φορές να επιτευχθεί
με το χρόνο. Μετά από μια ντουζίνα ανταλλαγές, οι περιορισμοί του
προγράμματος άρχισαν να φαίνονται και η συζήτηση έγινε πιο κουραστική.
Το ίδιο ισχύει και για το PARRY, ένα chatbot που εισήχθη από τον
ψυχίατρο του Στάνφορντ, Κένεθ Κόλμπι το 1971, και ένα που είχε σκοπό να
μιμηθεί τη συμπεριφορά ενός ατόμου με παρανοϊκή σχιζοφρένεια.
Στα μέσα της δεκαετίας του 1970, ο Weizenbaum ανησυχούσε αρκετά για την
τροχιά της τεχνητής νοημοσύνης που έγραψε το βιβλίο του 1976 Computer
Power and Human Reason: From Judgment to Calculation, το οποίο
υποστήριξε ότι οι υπολογιστές δεν μπορούν ποτέ να είναι παντογνώστες.
Οι άνθρωποι, είπε, χρειάζονται ανθρώπους για να αντιμετωπίσουν τα
ανθρώπινα προβλήματα. Αν και αυτή δεν ήταν η μόνη ένσταση που ακούστηκε
σχετικά με τους υπολογιστές, ήταν μια από τις σπάνιες φορές που ένας
επιστήμονας υπολογιστών κρούει τον κώδωνα του κινδύνου.
Το ELIZA κέρδισε κάποια ανανεωμένη προσοχή το 1980, όταν ο
αναπτυσσόμενος κόσμος των προσωπικών υπολογιστών δημιούργησε ένα
πρόγραμμα συνομιλίας.
Τη στιγμή του θανάτου του το 2008, ο Weizenbaum εξακολουθούσε να
προειδοποιεί για τους κινδύνους της αλόγιστης τεχνολογικής εξέλιξης.
--
Για να στείλετε ένα μήνυμα και να το διαβάσουν όλοι οι συνδρομητές της λίστας μπορείτε να το στείλετε την διεύθυνση:
[email protected]
Για το αρχείο της λίστας μπορείτε να επισκεφθείτε τον σύνδεσμο:
https://www.mail-archive.com/[email protected]/maillist.html
---
Λάβατε αυτό το μήνυμα επειδή έχετε εγγραφεί στην ομάδα orasi των Ομάδων Google.
Για να απεγγραφείτε απ' αυτή την ομάδα και να σταματήσετε να λαμβάνετε μηνύματα
ηλεκτρονικού ταχυδρομείου απ' αυτή, στείλτε ένα μήνυμα ηλεκτρονικού
ταχυδρομείου στη διεύθυνση [email protected].
Για να κάνετε προβολή αυτής της συζήτησης στον ιστό, επισκεφτείτε τη διεύθυνση
https://groups.google.com/d/msgid/orasi/4f7d7de9-49d5-4eb6-cb2a-28e28d6679ff%40gmail.com.
