Γιατί Πρέπει να Ελέγξουμε την ΤΝ Πριν Είναι Αργά

Κατασκευάζουμε συστήματα ΤΝ που δεν καταλαβαίνουμε καν. Κάθε εβδομάδα κάποια εταιρεία βγάζει ένα μοντέλο live, και κανείς δεν κάνει τις σκληρές ερωτήσεις για το τι συμβαίνει όταν πάνε στραβά. Το ρυθμό είναι τρελό, έτσι δεν είναι; Αλλά το θέμα είναι αυτό: αντιμετωπίζουμε την ΤΝ όπως αντιμετωπίσαμε τα κοινωνικά δίκτυα πριν από είκοσι χρόνια, κινούμενοι γρήγορα και σπάζοντας πράγματα εκτός αν τώρα τα πράγματα που σπάμε μπορεί όντως να έχουν σημασία.

Το πραγματικό πρόβλημα δεν είναι ότι η ΤΝ είναι κακή ή συνειδητή ή κάτι τέτοιο science fiction. Είναι ότι φτιάξαμε εργαλεία τόσο περίπλοκα που ακόμα και όσοι τα εκπαίδευσαν δεν μπορούν να προβλέψουν τι θα κάνουν σε περίπλοκες περιπτώσεις. Έχουμε feedback loops που δεν βλέπουμε, προκαταλήψεις ψημένες σε σύνολα δεδομένων, και συστήματα που δίνουν με σιγουριά λάθος απαντήσεις. Οι εταιρείες ανταγωνίζονται για να ανταπεξέλθουν πριν από τους ανταγωνιστές, και η ρύθμιση δεν μπορεί να ακολουθήσει επειδή αυτοί που ρυθμίζουν δεν ξέρουν καν ποιες ερωτήσεις να κάνουν.

Τι ακριβώς κάνουμε; Πρέπει οι άνθρωποι να επιβραδύνουν. Οι developers πρέπει να απαιτήσουν καλύτερες δοκιμές και τεκμηρίωση. Οι εταιρείες πρέπει να σκεφτούν τις αποτυχίες αντί απλώς να κατασκευάσουν. Και ναι, ίσως κάποιοι κανόνες από πάνω, αλλά η πραγματική αλλαγή συμβαίνει όταν οι engineers αρνούνται να κατασκευάσουν κάτι που δεν αισθάνονται καλά. Έτσι κι αλλιώς αυτό είναι που επιδιορθώνουμε αυτό.