Το OpenAI εισάγει το Superalignment: Πώς το AI μπορεί να ακολουθήσει την ανθρώπινη πρόθεση
OpenAI δώρα η έννοια του Σούπερ ευθυγράμμιση, ένα σημαντικό βήμα προς τα εμπρός στη διαχείριση των κινδύνων που σχετίζονται με την υπερκατανοηση. Η υπερευφυΐα, που χαρακτηρίζεται ως η πιο επιδραστική τεχνολογία που εφευρέθηκε ποτέ από την ανθρωπότητα, θα μπορούσε να βοηθήσει στην επίλυση πολλών από τα πιο σημαντικά προβλήματα του κόσμου. Ωστόσο, η τεράστια δύναμη του υπερευφυΐας θα μπορούσε επίσης να είναι πολύ επικίνδυνο, οδηγώντας στην αποδυνάμωση της ανθρωπότητας ή ακόμα και στην ανθρώπινη εξαφάνιση.
Το OpenAI παρουσιάζει το Superalignment: την προσπάθεια «ευθυγράμμισης» της τεχνητής νοημοσύνης με την ανθρώπινη πρόθεση
Αν και η υπερευφυΐα μπορεί να φαίνεται μακριά, το OpenAI πιστεύει ότι θα μπορούσε να έρθει αυτή τη δεκαετία. Η διαχείριση αυτών των κινδύνων θα απαιτήσει, μεταξύ άλλων, νέους θεσμούς για τη διακυβέρνηση και την επίλυση του προβλήματος ευθυγράμμισης της υπερκατασκοπίας: Πώς μπορούν να διασφαλιστούν συστήματα τεχνητής νοημοσύνης πολύ πιο έξυπνα από τους ανθρώπους ότι ακολουθούν την ανθρώπινη πρόθεση;
Επί του παρόντος, δεν υπάρχει λύση για την καθοδήγηση ή τον έλεγχο ενός συστήματος υπερκατασκοπίας. Τρέχουσες τεχνικές ευθυγράμμισης AI βασίζονται στην ικανότητα των ανθρώπων να επιβλέπουν την τεχνητή νοημοσύνη, το οποίο δεν θα μπορεί να κλιμακωθεί σε υπερευφυΐα. Ο στόχος του OpenAI είναι να δημιουργήσει ένα αυτοματοποιημένη αναζήτηση ευθυγράμμισης σε ανθρώπινο επίπεδο. Για να επιτευχθεί αυτός ο στόχος, πρέπει να αναπτυχθούν κλιμακούμενες μέθοδοι εκπαίδευσης.
Διαβάστε επίσης: AI και AGI: Ο Διευθύνων Σύμβουλος της Google, DeepMind, προβλέπει μια επικείμενη ανακάλυψη
Το OpenAI συγκεντρώνει μια ομάδα κορυφαίων ερευνητών και μηχανικών μηχανικής μάθησης για να εργαστούν πάνω σε αυτό το πρόβλημα. Το 20% της διαθέσιμης υπολογιστικής ισχύος τα επόμενα τέσσερα χρόνια θα αφιερωθεί στην επίλυση αυτού του προβλήματος. Ο στόχος είναι να λυθούν οι βασικές τεχνικές προκλήσεις της ευθυγράμμισης της υπερνοημοσύνης σε τέσσερα χρόνια. Το OpenAI προσκαλεί όλους όσους έχουν επιτύχει στη μηχανική μάθηση να εστιάσουν την προσοχή τους στην ευθυγράμμιση. Οι καρποί αυτής της προσπάθειας θα μοιραστούν ευρέως και η ευθυγράμμιση και η ασφάλεια των μοντέλων που δεν είναι OpenAI είναι σημαντικές. Θα πρέπει να σημειωθεί ότι η εταιρεία θα εργαστεί επίσης για τη βελτίωση της ασφάλειας των σημερινών μοντέλων και την αντιμετώπιση άλλων κινδύνων από την τεχνητή νοημοσύνη.
Η επίλυση της ευθυγράμμισης της υπερευφυΐας απαιτεί τα καλύτερα μυαλά στον κόσμο. Ανοίξτε το AI ενθαρρύνει τη διεπιστημονική συνεργασία και ενεργή ενασχόληση με κοινωνικοτεχνικά ζητήματα που σχετίζονται με την ευθυγράμμιση της υπερνοημοσύνης.
