Χρειαζόμαστε έναν διακόπτη διακοπής για την τεχνητή νοημοσύνη πριν είναι αργά

Αυτό που κρατάει τους ερευνητές ξύπνιους τις νύχτες είναι απλό. Χτίζουμε συστήματα τεχνητής νοημοσύνης που δεν καταλαβαίνουμε πλήρως, τα εκπαιδεύουμε σε δεδομένα που δεν μπορούμε να ελέγξουμε τελείως, και τα αναπτύσσουμε σε μεγάλη κλίμακα χωρίς συμφωνία για το πώς να τα σβήσουμε αν κάτι πάει στραβά. Όσο πιο ικανά γίνονται αυτά τα μοντέλα, τόσο πιο δύσκολο γίνεται να προβλέψουμε τι θα κάνουν σε ακραίες περιπτώσεις ή όταν αντιμετωπίζουν προβλήματα που ποτέ δεν τα εκπαιδεύσαμε για αυτά.

Γιατί λοιπόν δεν χτίζουμε διακόπτες ασφαλείας σε αυτά τα συστήματα από την αρχή; Το επιχείρημα είναι αυτό: αν περιμένουμε μέχρι τα συστήματα ΤΝ να γίνουν αρκετά ισχυρά για να προκαλέσουν πραγματική ζημιά πριν καταλάβουμε πώς να τα απενεργοποιήσουμε, έχουμε ήδη χάσει. Χρειαζόμαστε αναστρεψιμότητα ενσωματωμένη στην αρχιτεκτονική από μόνη της, όχι προσθήκη στο τέλος. Σκέψου το σαν το σχεδιασμό ενός αεροπλάνου με καθίσματα εκτόξευσης πριν το πάρεις αερογραφία, όχι αφού αποτύχουν οι κινητήρες στα 35.000 πόδια.

Το δύσκολο μέρος δεν είναι τεχνικό. Είναι να πάρεις όλους όσοι χτίζουν ΤΝ να συμφωνήσουν ότι οι μηχανισμοί ασφαλείας έχουν περισσότερη σημασία από το να αποστείλεις γρηγορότερα. Αυτή είναι η πραγματική συνομιλία που θα έπρεπε να κάνουμε τώρα, πριν αυτά τα συστήματα γίνουν τόσο περίπλεκα ώστε να μην μπορούμε να τα αποσυνδέσουμε με ασφάλεια.