Η Anthropic προτείνει νομοσχέδιο ασφαλείας για την τεχνητή νοημοσύνη

Η Anthropic πρότεινε ένα νομοσχέδιο για την ασφάλεια της τεχνητής νοημοσύνης, το οποίο θα επέτρεπε να μπλοκαριστεί ένα μοντέλο αν μπορούσε εύλογα να σκοτώσει 50 ή περισσότερους ανθρώπους. Σε πρώτη ανάγνωση, μοιάζει με άμεσο φρένο στα επικίνδυνα συστήματα. Η λεπτομέρεια που μετρά, ωστόσο, είναι ποιος έχει τον τελευταίο λόγο: σύμφωνα με το κείμενο, η πολιτική αποκλείει τις ομοσπονδιακές υπηρεσίες από το να εμποδίσουν την κυκλοφορία ενός μοντέλου, εκτός αν το εγκρίνει δικαστής.

Αυτή η επιλογή διαμορφώνει ολόκληρη τη συζήτηση. Τα δικαστήρια προσφέρουν δίκαιη διαδικασία και έναν έλεγχο απέναντι στην εκτελεστική εξουσία, κάτι που οι υποστηρικτές θα δουν ως εγγύηση. Οι επικριτές μπορεί να υποστηρίξουν ότι οι δικαστές κινούνται αργά και δεν διαθέτουν πάντα την τεχνική εξειδίκευση που χρειάζεται για να κρίνουν γρήγορα τις δυνατότητες ενός μοντέλου, ειδικά όταν η κυκλοφορία είναι προγραμματισμένη σύντομα.

Το όριο των 50 θανάτων είναι επίσης ασυνήθιστα συγκεκριμένο. Οι περισσότερες συζητήσεις για την πολιτική της τεχνητής νοημοσύνης μιλούν με γενικούς όρους, για καταστροφικές ή σημαντικές βλάβες. Ένας αριθμός δίνει στους κατασκευαστές κάτι συγκεκριμένο να μετρήσουν, αλλά εγείρει προφανές πρόβλημα: η εκτίμηση πιθανών θυμάτων από λογισμικό που δεν έχει ακόμη αναπτυχθεί είναι δύσκολη, και η εκτίμηση μιας εταιρείας μπορεί να διαφέρει πολύ από εκείνη ενός ανεξάρτητου φορέα.

Η Anthropic είναι μεγάλος κατασκευαστής προηγμένων μοντέλων και εδώ και καιρό υποστηρίζει κανόνες ασφαλείας, οπότε η πρόταση θα διαβαστεί εν μέρει και ως στρατηγική του κλάδου. Αυτό δεν την κάνει λανθασμένη. Σημαίνει όμως ότι η λειτουργία της, με το ποιος αποφασίζει και πόσο γρήγορα, χρειάζεται τόση προσοχή όση και ο αριθμός στον τίτλο.

Η πρόταση δεν έχει γίνει νόμος, και η πορεία της μέσα από τους νομοθέτες και τους ανταγωνιστές της στον κλάδο παραμένει αβέβαιη. Προς το παρόν, η πρόταση που αξίζει την πιο προσεκτική ανάγνωση ίσως είναι αυτή που περιορίζει τις ομοσπονδιακές υπηρεσίες, όχι εκείνη για τους θανάτους.