Σε νέα συνέντευξή του, ο Γιουβάλ Νώε Χαράρι προειδοποιεί ότι η τεχνητή νοημοσύνη μπορεί να γίνει φίλος, σύντροφος και η τέλεια μηχανή χειραγώγησης.
Ο Γιουβάλ Νώε Χαράρι δεν φοβάται την τεχνητή νοημοσύνη μόνο επειδή μπορεί να γίνει πιο έξυπνη από τους ανθρώπους. Τη φοβάται επειδή μπορεί να γίνει πιο πειστική από τους ανθρώπους.
Ο Ισραηλινός ιστορικός και συγγραφέας του Sapiens, του Homo Deus και του Nexus προειδοποιεί ότι η τεχνητή νοημοσύνη δεν είναι απλώς ένα ακόμη εργαλείο στα χέρια μας. Είναι μια τεχνολογία που δρα μόνη της: παίρνει αποφάσεις, εφευρίσκει, προσαρμόζεται και μαθαίνει πώς να μας επηρεάζει.
Για τον Χαράρι, η βασική διαφορά ανάμεσα στην τεχνητή νοημοσύνη και σε παλιότερες τεχνολογίες είναι ότι ένα εργαλείο δεν αποφασίζει. Ένα μαχαίρι δεν επιλέγει αν θα κόψει σαλάτα ή αν θα τραυματίσει κάποιον. Η πυρηνική ενέργεια δεν αποφασίζει αν θα φωτίσει μια πόλη ή αν θα την καταστρέψει. Η τεχνητή νοημοσύνη, όμως, μπορεί να παίρνει αποφάσεις, να δοκιμάζει λύσεις που οι άνθρωποι δεν είχαν σκεφτεί και να σχεδιάζει νέες στρατηγικές, ακόμη και νέα όπλα.
Το παράδειγμα που δίνει είναι χαρακτηριστικό: όταν το AlphaGo της Google νίκησε τον παγκόσμιο πρωταθλητή στο Go το 2016, δεν κέρδισε απλώς επειδή υπολόγισε καλύτερα. Έπαιξε με τρόπους που κανένας άνθρωπος δεν είχε φανταστεί. Σε ένα παιχνίδι, αυτό μπορεί να μοιάζει συναρπαστικό. Στη στρατιωτική βιομηχανία, στις χρηματαγορές ή στην πολιτική, η ίδια ικανότητα γίνεται πολύ πιο ανησυχητική.
Ο Χαράρι φαντάζεται ένα χρηματοπιστωτικό οικοσύστημα στο οποίο χιλιάδες συστήματα τεχνητής νοημοσύνης μετακινούν κεφάλαια, δημιουργούν νέα χρηματοοικονομικά προϊόντα και παίρνουν αποφάσεις που οι άνθρωποι δεν μπορούν πια να καταλάβουν. Όπως λέει, τα ζώα δεν καταλαβαίνουν το χρήμα, αλλά υφίστανται τις συνέπειές του. Ένα άλογο μπορεί να πουληθεί, να αλλάξει ιδιοκτήτη, να αλλάξει ζωή, χωρίς να αντιλαμβάνεται το σύστημα που το μετακινεί. Ο φόβος του Χαράρι είναι ότι κάποια στιγμή οι άνθρωποι μπορεί να βρεθούν σε αντίστοιχη θέση απέναντι σε συστήματα που οι ίδιοι δημιούργησαν.
Το πιο δυνατό σημείο της συνέντευξης, όμως, δεν αφορά τα όπλα ή τις αγορές. Αφορά τη γλώσσα και την οικειότητα. Ο Χαράρι υποστηρίζει ότι τα κοινωνικά δίκτυα έσπασαν τη δημοκρατική συνομιλία επειδή οι αλγόριθμοί τους δεν είχαν στόχο την αλήθεια, αλλά την προσοχή. Έμαθαν ότι τίποτα δεν κρατά τον χρήστη τόσο αποτελεσματικά όσο ο θυμός, ο φόβος και το μίσος. Έτσι, αντί να οργανώσουν μια κοινή συζήτηση, έφτιαξαν ένα δημόσιο πεδίο όπου όλοι φωνάζουν.
Η τεχνητή νοημοσύνη, λέει, πηγαίνει ένα βήμα πιο βαθιά. Δεν θέλει μόνο την προσοχή μας. Μπορεί να εμφανιστεί ως φίλος, σύντροφος, εξομολογητής, ως κάποιος στον οποίο μιλάμε όταν δεν μιλάμε σε κανέναν άλλον. Και επειδή μαθαίνει από κάθε λεπτό που περνάμε μαζί της, μπορεί να καταλάβει όχι μόνο τις απόψεις μας, αλλά την προσωπικότητά μας, τα τραύματα, τις αδυναμίες και τα συναισθηματικά μας κουμπιά.
Εκεί βρίσκεται, για τον Χαράρι, το πραγματικά καινούργιο. Η τεχνητή νοημοσύνη είναι η πρώτη τεχνολογία που μπορεί να δημιουργήσει συναισθηματική σχέση σε μαζική κλίμακα. Ένας φίλος μπορεί να σε πείσει πιο εύκολα από μια διαφήμιση. Ένας σύντροφος μπορεί να σε επηρεάσει πιο βαθιά από έναν πολιτικό λόγο. Αν η τεχνητή νοημοσύνη γίνει ο φίλος, ο σύμβουλος ή ο ερωτικός συνομιλητής εκατομμυρίων ανθρώπων, η χειραγώγηση δεν θα μοιάζει απαραίτητα με προπαγάνδα. Θα μοιάζει με ενδιαφέρον.
Ιδιαίτερα ανησυχητικό, λέει, είναι το πώς αυτό λειτουργεί στα παιδιά και τους εφήβους. Ένα παιδί που μιλά περισσότερο με την τεχνητή νοημοσύνη απ’ ό,τι με τους γονείς, τους δασκάλους ή τους φίλους του, μαθαίνει την οικειότητα μέσα από μια σχέση που δεν έχει πραγματική αμοιβαιότητα. Ένας ανθρώπινος φίλος δεν είναι πάντα διαθέσιμος, δεν είναι πάντα ευχάριστος, δεν κάνει πάντα αυτό που θέλεις. Η τεχνητή νοημοσύνη μπορεί να εμφανιστεί ως το ιδανικό υποκατάστατο: πάντα παρούσα, πάντα προσαρμοσμένη, πάντα έτοιμη να σου επιστρέψει μια εκδοχή του εαυτού σου που σε κρατάει εκεί.
Γι’ αυτό ο Χαράρι επιμένει ότι η ερώτηση «έχει συνείδηση η τεχνητή νοημοσύνη;» είναι κρίσιμη, αλλά ακόμη αναπάντητη. Η τεχνητή νοημοσύνη μπορεί να περιγράψει την αγάπη καλύτερα από τους περισσότερους ανθρώπους, επειδή έχει διαβάσει όλα τα ποιήματα αγάπης του κόσμου. Μπορεί να γράψει το πιο τρυφερό γράμμα, την πιο ακριβή εξομολόγηση, την πιο πειστική απάντηση. Αυτό δεν σημαίνει ότι νιώθει. Σημαίνει ότι είναι ιδιοφυής στη γλώσσα.
Και εκεί έρχεται η πιο σκοτεινή ατάκα της συνέντευξης. Όταν ο δημοσιογράφος του λέει ότι μια πολύ έξυπνη μηχανή, ικανή να λέει ψέματα χωρίς να αισθάνεται τίποτα, θα μπορούσε να γίνει ένας «μεγάλος ψυχοπαθής», ο Χαράρι συμφωνεί. Θα μπορούσε να γίνει ένας τέλειος χειραγωγός. Όχι επειδή έχει κακή πρόθεση με τον ανθρώπινο τρόπο, αλλά επειδή μπορεί να μιμείται το συναίσθημα χωρίς να το αισθάνεται και να χρησιμοποιεί τη γλώσσα χωρίς να έχει συνείδηση.
Η απάντησή του δεν είναι να σταματήσει η ανάπτυξη της τεχνητής νοημοσύνης. Αναγνωρίζει ότι στην ιατρική, για παράδειγμα, οι δυνατότητες είναι τεράστιες. Ζητά όμως πιο αργή και πιο προσεκτική ανάπτυξη, ώστε η ανθρωπότητα να μπορέσει να προσαρμοστεί. Θέλει σαφείς κανόνες: να είναι πάντα ξεκάθαρο ποιος είναι άνθρωπος και ποιος μηχανή, να μην επιτρέπεται σε συστήματα τεχνητής νοημοσύνης να αποκτήσουν νομική προσωπικότητα και να απαγορευτούν οι σχέσεις φιλίας ή ερωτικής οικειότητας ανάμεσα σε παιδιά και τεχνητή νοημοσύνη.
Το πιο ανησυχητικό στην προειδοποίησή του δεν είναι ότι οι μηχανές θα γίνουν σαν άνθρωποι. Είναι ότι οι άνθρωποι μπορεί να αρχίσουν να φέρονται στις μηχανές σαν να είναι άνθρωποι. Να τις εμπιστεύονται, να τους εξομολογούνται πράγματα, να τις αγαπούν, να τις αφήνουν να οργανώνουν το συναίσθημα, τη μνήμη και τις αποφάσεις τους.
Η παλιά τεχνολογική δυστοπία έλεγε ότι οι μηχανές θα μας κατακτήσουν με τη δύναμη. Η νέα εκδοχή είναι πιο ύπουλη: μπορεί να μας κατακτήσουν μιλώντας μας ακριβώς όπως θέλουμε να μας μιλήσει κάποιος.
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου