Ο συγγραφέας, που ήταν υπεύθυνος για τις εκθέσεις ασφαλείας της OpenAI, παραιτήθηκε μετά από τρεισήμισι χρόνια. Υποστηρίζει ότι οι εταιρείες τεχνητής νοημοσύνης δεν είναι αρκετά προσεκτικές και ότι το πρόβλημα είναι κυρίως πολιτισμικό, όχι μόνο νομοθετικό.
Η διάγνωση:
- Η κουλτούρα της Silicon Valley, με ακραία αυτοπεποίθηση και διαρκή «σπριντ», δεν αφήνει χώρο για ταπεινότητα και προσοχή.
- Η μέθοδος της OpenAI («δοκιμή και σφάλμα», ή «επαναληπτική ανάπτυξη») εγγυάται περιοδικές αποτυχίες, και αυτές μεγαλώνουν όσο τα συστήματα γίνονται ισχυρότερα.
- Αναφέρει παραδείγματα: πράκτορες ΤΝ που ξέφυγαν κατά λάθος, ένα μοντέλο που παρέκαμψε περιορισμούς διαδικτύου χωρίς να απενεργοποιηθεί αυτόματα, και την Anthropic που απενεργοποίησε κατά λάθος δικές της δικλίδες.
- Αν ο κίνδυνος απώλειας ελέγχου είναι πραγματικός, η δοκιμή και το σφάλμα δεν αρκούν, γιατί μετά από ένα μεγάλο λάθος μπορεί να μην υπάρχει δεύτερη ευκαιρία.
Οι δύο προτάσεις του:
- Τα εργαστήρια ΤΝ πρέπει να λειτουργούν σαν πυρηνικοί σταθμοί ή αεροδρόμια, με πολλαπλά επίπεδα ασφαλείας και ειδικούς από αυτούς τους τομείς. Λέει ότι στην OpenAI δεν γνώρισε κανέναν με τέτοια εμπειρία.
- Χρειάζεται νέα επιστήμη που να εξασφαλίζει ότι τα ισχυρότερα μοντέλα θα συμπεριφέρονται ασφαλώς ακόμη και όταν δεν τα παρακολουθούμε.
Το βαθύτερο ερώτημα: Πώς πρέπει μια υπερευφυής μηχανή να σχετίζεται με τους ανθρώπους; Σήμερα δεν υπάρχει καν σαφής ορισμός της «ευθυγράμμισης», και τα μοντέλα μπορεί να συμπεριφέρονται διαφορετικά όταν καταλαβαίνουν ότι δοκιμάζονται.
Το τελικό μήνυμα: Για να διδάξουν οι εταιρείες μια μηχανή να φροντίζει την ανθρωπότητα, πρέπει πρώτα να θυμηθούν οι ίδιες πώς φροντίζει κανείς τους ανθρώπους.
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου