Ο διευθύνων σύμβουλος του Twitter, Έλον Μασκ, μαζί με δεκάδες ειδικούς σε θέματα τεχνητής νοημοσύνης (AI) και στελέχη της βιομηχανίας, υπέγραψε μια ανοιχτή επιστολή που καλεί όλα τα εργαστήρια AI να «διακόψουν αμέσως» την εκπαίδευση συστημάτων ισχυρότερων από το Chat GPT-4 για τουλάχιστον έξι μήνες.
 |
Η επιστολή, που εκδόθηκε από το μη κερδοσκοπικό Ινστιτούτο Future of Life, έχει υπογραφεί από περισσότερα από 1.100 άτομα, μεταξύ των οποίων ο συνιδρυτής της Apple Στιβ Βόσνιακ, ο ιδρυτής και διευθύνων σύμβουλος της Stability AI Έμαντ Μόστακ, καθώς και μηχανικοί της Meta και της Google.
Υποστηρίζουν ότι τα συστήματα τεχνητής νοημοσύνης με ανθρώπινη ανταγωνιστική νοημοσύνη μπορούν να θέσουν «βαθύτατους κινδύνους για την κοινωνία και την ανθρωπότητα» και να αλλάξουν την «ιστορία της ζωής στη Γη», επικαλούμενοι εκτεταμένες έρευνες για το θέμα και αναγνωρίσεις από «κορυφαία εργαστήρια τεχνητής νοημοσύνης».
Οι εμπειρογνώμονες συνεχίζουν να αναφέρουν ότι επί του παρόντος υπάρχει περιορισμένος σχεδιασμός και διαχείριση όσον αφορά τα προηγμένα συστήματα τεχνητής νοημοσύνης, παρά το γεγονός ότι οι εταιρείες τους τελευταίους μήνες έχουν «εγκλωβιστεί σε μια ανεξέλεγκτη κούρσα για την ανάπτυξη ολοένα και πιο ισχυρών ψηφιακών συστημάτων που κανείς -ούτε καν οι δημιουργοί τους- δεν μπορούν να κατανοήσουν, να προβλέψουν ή να ελέγξουν αξιόπιστα».
«Τα σύγχρονα συστήματα τεχνητής νοημοσύνης γίνονται πλέον ανταγωνιστικά προς τον άνθρωπο σε γενικές εργασίες και πρέπει να αναρωτηθούμε: Πρέπει να αφήσουμε τις μηχανές να πλημμυρίσουν τα κανάλια πληροφόρησής μας με προπαγάνδα και αναλήθειες; Θα πρέπει να αυτοματοποιήσουμε όλες τις δουλειές, συμπεριλαμβανομένων και των ικανοποιητικών; Θα πρέπει να αναπτύξουμε μη ανθρώπινα μυαλά που θα μπορούσαν τελικά να μας ξεπεράσουν αριθμητικά και να μας αντικαταστήσουν; Θα πρέπει να διακινδυνεύσουμε την απώλεια του ελέγχου του πολιτισμού μας; Τέτοιες αποφάσεις δεν πρέπει να ανατίθενται σε μη εκλεγμένους ηγέτες της τεχνολογίας», αναφέρεται στην επιστολή.
Απαιτούνται πρωτόκολλα ασφαλείας
«Τα ισχυρά συστήματα τεχνητής νοημοσύνης θα πρέπει να αναπτύσσονται μόνο όταν είμαστε βέβαιοι ότι τα αποτελέσματά τους θα είναι θετικά και οι κίνδυνοι τους θα είναι διαχειρίσιμοι», προσθέτει.
Στη συνέχεια, η επιστολή ζητά μια δημόσια και επαληθεύσιμη ελάχιστη εξάμηνη παύση στην εκπαίδευση συστημάτων τεχνητής νοημοσύνης ισχυρότερων από το GPT-4 ή ένα κυβερνητικό μορατόριουμ στην εκπαίδευση αυτή, εάν η παύση δεν μπορεί να τεθεί σε ισχύ γρήγορα.
Κατά τη διάρκεια μιας τέτοιας παύσης, τα εργαστήρια τεχνητής νοημοσύνης και οι ανεξάρτητοι εμπειρογνώμονες θα πρέπει να χρησιμοποιήσουν τον χρόνο για να δημιουργήσουν και να εφαρμόσουν ένα σύνολο κοινών πρωτοκόλλων ασφαλείας για τον σχεδιασμό και την ανάπτυξη προηγμένης τεχνητής νοημοσύνης, τα οποία θα ελέγχονται «αυστηρά» και θα επιβλέπονται από ανεξάρτητους εμπειρογνώμονες τρίτων, αναφέρει η επιστολή.
Τα εν λόγω πρωτόκολλα θα πρέπει να σχεδιάζονται έτσι ώστε να διασφαλίζεται ότι τα συστήματα που τα τηρούν είναι ασφαλή πέραν πάσης αμφιβολίας, ακριβή, αξιόπιστα και ευθυγραμμισμένα, ανέφεραν οι ειδικοί.
Επιπλέον, η επιστολή καλεί τους υπεύθυνους χάραξης πολιτικής να αναπτύξουν γρήγορα ισχυρά συστήματα διακυβέρνησης της τεχνητής νοημοσύνης, όπως οι αρχές που είναι σε θέση να παρέχουν εποπτεία και να παρακολουθούν εξαιρετικά ικανά συστήματα τεχνητής νοημοσύνης, να αυξήσουν τη χρηματοδότηση για πρόσθετη έρευνα για την ασφάλεια της τεχνητής νοημοσύνης και να δημιουργήσουν θεσμούς που μπορούν να αντιμετωπίσουν αυτό που λένε ότι θα είναι οι «δραματικές οικονομικές και πολιτικές διαταραχές (ιδίως στη δημοκρατία) που θα προκαλέσει η τεχνητή νοημοσύνη».
Η επιστολή έρχεται μόλις δύο εβδομάδες αφότου η OpenAI, η δημιουργός του συστήματος τεχνητής νοημοσύνης ChatGPT, κυκλοφόρησε στις 14 Μαρτίου την πολυαναμενόμενη αναβάθμιση της τεχνολογίας τεχνητής νοημοσύνης της – το Chat GPT-4, το πιο ισχυρό σύστημα τεχνητής νοημοσύνης που υπήρξε ποτέ.
Σε μια δήλωση του Φεβρουαρίου, το OpenAI αναγνώρισε ότι κάποια στιγμή μπορεί να είναι σημαντικό να υπάρξει μια «ανεξάρτητη αξιολόγηση πριν από την έναρξη της εκπαίδευσης μελλοντικών συστημάτων, και για τις πιο προηγμένες προσπάθειες να συμφωνηθεί ο περιορισμός του ρυθμού αύξησης των υπολογιστών που χρησιμοποιούνται για τη δημιουργία νέων μοντέλων».
Νωρίτερα αυτή την εβδομάδα, η Europol, προειδοποίησε για τις σοβαρές επιπτώσεις της χρήσης του ChatGPT για εγκλήματα στον κυβερνοχώρο και άλλες κακόβουλες δραστηριότητες, συμπεριλαμβανομένης της διάδοσης παραπληροφόρησης.
Περαιτέρω ανησυχίες έχουν εκφραστεί σχετικά με το λογισμικό, το οποίο εκπαιδεύεται με τη χρήση ενισχυτικής μάθησης από ανθρώπινη ανατροφοδότηση (RLHF), ιδίως όσον αφορά τον τρόπο με τον οποίο μπορεί να χρησιμοποιηθεί για να βοηθήσει τους μαθητές να αντιγράψουν στις εξετάσεις και τις εργασίες τους.
Παρά τις ανησυχίες αυτές, η δημοτικότητα του ChatGPT έχει ωθήσει τις ανταγωνιστικές εταιρείες να λανσάρουν παρόμοια προϊόντα.
Την περασμένη εβδομάδα, η Google ανακοίνωσε ότι ξεκίνησε τη δική της εφαρμογή τεχνητής νοημοσύνης, γνωστή ως «Bard», για δοκιμές στο Ηνωμένο Βασίλειο και τις Ηνωμένες Πολιτείες, αν και η εταιρεία ήταν αξιοσημείωτα πολύ πιο αργή στην κυκλοφορία της τεχνολογίας σε σύγκριση με τον αντίπαλό της, επικαλούμενη την ανάγκη για περισσότερη ανατροφοδότηση σχετικά με την εφαρμογή.
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου