Το σκάνδαλο Cambridge Analytica ήταν το τελευταίο χτύπημα σε μια μακρά σειρά αντιπαραθέσεων με τη συμμετοχή κορυφαίων εταιρειών τεχνολογίας της Silicon Valley. Το Facebook, το Google, η Apple, το Twitter, και το Uber, για να ονομάσουμε μια χούφτα παίκτες μάρκας, εξακολουθούν να εμφανίζονται ως στόχοι της μεγάλης ψηφιακής αμφιθυμία μας. Πολλοί από εμάς αγαπούν τις πτυχές των προϊόντων και των υπηρεσιών τους, ενώ επίσης μισούν την τιμή που πληρώνουμε για τη χρήση τους: προσκόλληση, εξάρτηση, ευπάθεια, κλείδωμα και αίσθηση εκμετάλλευσης και εκμετάλλευσης.

Υπάρχουν μικτά συναισθήματα επειδή οι μεγάλες εταιρείες τεχνολογίας δεν είναι ουσιαστικά σαν μεγάλες εταιρείες καπνού, παρά το πόσο δημοφιλής είναι η μεταφορά. Ναι, ο τεχνολογικός εθισμός είναι πραγματικός. Ωστόσο, οι εταιρείες τεχνολογίας δεν προωθούν τα τοξικά προϊόντα μιας χρήσης. Σίγουρα, έχουν βοηθήσει στην εκσπερμάτωση της ιδιωτικής ζωής, στην ενίσχυση της προκατάληψης, στην εκμετάλλευση των ψυχολογικών αδυναμιών, στην ενθάρρυνση της παρενόχλησης, στην εντατικοποίηση της απόσπασης της προσοχής και στην επιδείνωση των πολιτικών εντάσεων. Αλλά δεν έχουμε κλωτσήσει συλλογικά αυτές τις εταιρείες στο εμπόδιο, διότι τα ιδιόκτητα ψηφιακά εργαλεία ενισχύουν επίσης την προσωπική, κοινωνική, οικονομική και κοινωνική ευημερία και τα ελεύθερα κινήματα ανοιχτής πηγής δεν έχουν πάρει την προσοχή που τους αξίζει.

Έτσι, παρά τα οφέλη της τεχνολογίας, οι εταιρείες τεχνολογίας έχουν σκανδαλίσει την εμπιστοσύνη του κοινού.

Η εμπιστοσύνη συμβαδίζει με την ηθική, και αν πρέπει να ξανακερθεί η εμπιστοσύνη, πρέπει να γίνουν πολλά δουλειά για να κλείσουν τα κενά ηθικής. Εδώ θα μιλήσω για τρεις τομείς που χρειάζονται βελτίωση: η δεοντολογία στο σχεδιασμό, η κατάρτιση δεοντολογίας και οι διαδικασίες στη δουλειά, η εκπαίδευση δεοντολογίας και η πολιτική στο σχολείο. Σε όλη τη διάρκεια της συζήτησης, θα εξηγήσω γιατί είναι τόσο σκληρά για τις εταιρείες τεχνολογίας να ανταποκριθούν σε υψηλές ηθικές προσδοκίες και θα σας προτείνω να βελτιώσετε το status quo.

Αλλά πρώτα θα πάω να αντιμετωπίσω τον ελέφαντα στο δωμάτιο. Πρέπει οι ρεαλιστές να πιστεύουν ότι η ηθική μπορεί πραγματικά να έχει σημασία - αντί να παραιτηθεί από την πεποίθηση ότι οι εταιρείες τεχνολογίας θα συνεχίσουν να μας παίζουν για κορόιδα μέχρι να υπάρξουν δραστικές αλλαγές στην πολιτική;

Δεν είναι η ηθική απλώς αναποτελεσματική ηθικοποίηση;

Ίσως η πιο τρομακτική σκέψη είναι ότι δεν έχει νόημα να εντοπίσουμε ακόμη και τα βασικά δεοντολογικά ζητήματα και ζητήματα που οι μεγάλες τεχνολογικές εταιρείες πρέπει να συζητούν μεταξύ τους για να αναλάβουν μεγαλύτερη ευθύνη για τους ισχυρούς τρόπους που διαμορφώνουν την ατομική και συλλογική μας ζωή. Ο Frank Pasquale, συγγραφέας της The Black Box Society: Οι μυστικοί αλγόριθμοι που ελέγχουν τα χρήματα και τις πληροφορίες και ένας από τους πιο έντονους στοχαστές που γνωρίζω, μου έδειχνε με τόλμη ότι οι μέρες της αισιοδοξίας για την αυτορρύθμιση έχουν τελειώσει, παρόλο που οι προοπτικές δεν είναι καλό για τολμηρές κυβερνητικές προσεγγίσεις, είτε στις Ηνωμένες Πολιτείες είτε στην Ευρώπη, για την προστασία των πολιτών από το να τους χειραγωγήσουν, να εξαπατηθούν και να εκμεταλλευτούν τις εταιρείες τεχνολογίας.

"Δεν πιστεύω ότι οι εταιρείες τεχνολογίας μπορούν να έχουν αυτές τις συζητήσεις μέχρις ότου ένα ρυθμιστικό πλαίσιο τους αναγκάσει να το πράξουν. Ήταν προειδοποιημένοι για τους κινδύνους της χαλαρής εφαρμογής των δικών τους κατευθυντήριων γραμμών και έχουν αγνοήσει ή περιθωριοποιήσει τους επικριτές τους ", δήλωσε ο Pasquale.

Το Facebook συστηματικά υπερισχύει της τεχνολογίας της πνευματικής ιδιοκτησίας, της μηχανικής και του αυτοματισμού και υποβαθμίζει τη συμμόρφωση, τη νομική εμπειρογνωμοσύνη και τη δεοντολογία.

"Στις ΗΠΑ, οι πολιτικοί πρέπει να εξουσιοδοτήσουν την Ομοσπονδιακή Επιτροπή Εμπορίου (τώρα προστατευτή προστασίας της ιδιωτικής ζωής του Potemkin) και να ενισχύσουν το προσωπικό των γενικών εισαγγελέων. (Ο Γενικός Εισαγγελέας της Μασαχουσέτης, για παράδειγμα, επιθετικά διερευνά μόνο αυτό το ζήτημα). Στην Ευρώπη, οι αρχές προστασίας δεδομένων πρέπει να εφαρμόζουν νόμους περί προστασίας της ιδιωτικής ζωής με προστιθέμενη ισχύ και να διασφαλίζουν ότι ο γενικός κανονισμός για την προστασία των δεδομένων δεν είναι στραγγαλισμένος στη γενέτειρα με ερμηνείες των διατάξεων περί αλγοριθμικής διαφάνειας, όπως το δικαίωμα στην εξήγηση.

Ο Pasquale κάνει καλό σημείο. Αν οι άνθρωποι όπως η Sandy Parakilas, "ο διαχειριστής πλατφόρμας στο Facebook, υπεύθυνος για την αστυνόμευση των παραβιάσεων δεδομένων από τρίτους κατασκευαστές λογισμικού μεταξύ 2011 και 2012," δεν δόθηκε η εξουσιοδότηση που άξιζε μετά από προειδοποίηση "ανώτερα στελέχη της εταιρείας ότι η χαλαρή προσέγγιση για την προστασία δεδομένων κινδύνευε σοβαρή παραβίαση "γιατί πρέπει να πιστέψουμε ότι οι επιχειρήσεις είναι έτοιμες να ακούν υπαλλήλους που ενδιαφέρονται δεοντολογικά και να τους παρέχουν την εξουσία να είναι παράγοντες αλλαγής;

Μερικές φορές, φαίνεται ότι οι μεγάλες εταιρείες τεχνολογίας είναι μεθυσμένες με δύναμη, πιστεύοντας ότι είναι πολύ μεγάλες για να αποτύχουν και τόσο ενοχλητικές ώστε να ξεπεράσουν το πεδίο της πειθαρχίας τους από τους μηχανισμούς της παλαιάς τάξης του κόσμου και μόνο κυνικά πρόθυμοι να στραφούν σε υψηλά επίπεδα, όπως η "ηθική" και η "κοινωνική ευθύνη των εταιρειών", όταν εκτελούν τα παιχνίδια παρεμβολών από εγχειρίδια δημοσίων σχέσεων. Οι απορίες και οι υποσχέσεις της αλλαγής μπορεί να είναι καλές στρατηγικές διαχείρισης κρίσεων, γεμάτες με περισπασμούς και χειρότερα, παρά με ειλικρινείς εκφράσεις που επιδιώκουν να είναι αντάξια της εμπιστοσύνης του κοινού.

Και ας το αντιμετωπίσουμε, οι εταιρείες τεχνολογίας είναι δομικά συνδεδεμένες, επειδή εξυπηρετούν ταυτόχρονα πολλούς πλοιάρχους που μπορούν να έχουν ανταγωνιστικές προτεραιότητες: τους μετόχους, τους ρυθμιστές και τους καταναλωτές. Πράγματι, ενώ ο «ευσυνείδητος καπιταλισμός» ακούγεται ωραίος, όποιος παίρνει σοβαρά την πολιτική οικονομία γνωρίζει ότι πρέπει να είμαστε επιφυλακτικοί όσον αφορά την εμπλοκή των πολιτών με τη διατήρηση των αγορών και τις εταιρείες που απευθύνονται στη δεοντολογία ως μια στρατηγική τελικού στόχου για την αποφυγή ισχυρής ρύθμισης.

Αλλά τι γίνεται αν υπάρχει λόγος - ακόμη και αν είναι απλώς μια πρακτική αισιοδοξία - να είναι πιο ελπιδοφόρα; Τι θα συμβεί αν οι απαντήσεις στο σκάνδαλο Cambridge Analytica έχουν ήδη θέσει σε κίνηση μια αναμέτρηση σε όλο τον κόσμο της τεχνολογίας που μετακινεί την ιστορία σε σημείο ανατροπής; Τι θα χρειαζόταν για τις εταιρείες τεχνολογίας να κάνουν κάποια πραγματική αναζήτηση ψυχής και να αγκαλιάσουν το μέγιστο της Spider-Man ότι η μεγάλη ευθύνη έρχεται με μεγάλη δύναμη;

Γιατί το σχέδιο είναι κρίσιμο για τη δεοντολογία

Εάν οι εταιρείες θέλουν να κάνουν πραγματικά καλύτερα, πρώτα απ 'όλα πρέπει να αναγνωρίσουν ότι είναι ώρα για μια ηθική επανάσταση στο σχεδιασμό.

Σε μεγάλες και μικρές εταιρίες τεχνολογίας, τα ζητήματα σχεδιασμού απομακρύνονται από την εμπιστοσύνη του κοινού. Δεν είναι απλώς τα αδιαπέραστα συμβόλαια παροχής υπηρεσιών, τα οποία μας κρατούν σε καταστάσεις κατασκευασμένης άγνοιας. Οι σχεδιαστικές επιλογές όλων των ειδών επηρεάζουν τον τρόπο με τον οποίο αντιλαμβανόμαστε τους κινδύνους και τις ανταμοιβές. Όπως η διαφήμιση, οι στρατηγικές σχεδιασμού προγραμματίζουν τις προτιμήσεις και τις επιθυμίες μας, επηρεάζοντας τις τεχνολογίες που θέλουμε να χρησιμοποιήσουμε και τις οποίες διαθέτουμε και πώς είμαστε διατεθειμένοι να αλληλεπιδράσουμε με εμάς και άλλους μέσω των τεχνολογικών τους προσόντων.

Κανείς δεν κάνει περισσότερα για να συμβεί αυτή η επανάσταση απ 'ό, τι ο Woodrow Hartzog, ένας συχνός συνεργάτης μου και συγγραφέας του Blueprint της ιδιωτικής ζωής: Η μάχη για τον έλεγχο του σχεδιασμού των νέων τεχνολογιών. "Ο σχεδιασμός δεν είναι απλώς ένα ηθικό ζήτημα γιατί είναι παντού και είναι δύναμη", μου είπε. "Ο σχεδιασμός είναι ένα σημαντικό ηθικό ζήτημα γιατί αυτή η δύναμη μπορεί και πάντα χρησιμοποιείται για πολιτικούς σκοπούς. Εξ ορισμού, κατανέμει την ισχύ μεταξύ των πλατφορμών και των χρηστών. Και δεν είναι ποτέ ουδέτερο. Κάθε απόφαση να κάνουμε κάτι αναζήτηση, να συμπεριλάβουμε ορισμένα πράγματα σε ένα αναπτυσσόμενο μενού, να συμπεριλάβουμε ένα εικονίδιο με λουκέτο για να δώσουμε την αίσθηση της ασφάλειας, να ωθήσουμε τους ανθρώπους για άδεια για ορισμένες πρακτικές δεδομένων προωθεί μια ατζέντα για να γίνουν πραγματικότητα ορισμένες πραγματικότητες αποκάλυψης . Συνήθως, η ημερήσια διάταξη είναι η αποκάλυψη. "

Η ατζέντα των επιλογών σχεδιασμού οπλισμού, ώστε η μηχανή να βελτιστοποιηθεί ώστε να εξαγάγει τις μέγιστες προσωπικές πληροφορίες από τους τεχνολογικούς χρήστες, τέθηκε σε πλήρη εμφάνιση από το πρόσφατα διαρρεύσιμο σημείωμα από το Facebook VP Andrew "Boz" Bosworth. Σε αυτό το αμφιλεγόμενο έγγραφο - το οποίο, κατά τη στιγμή που γράφτηκε, προοριζόταν να αποτελέσει πρόκληση - ο Bosworth έκανε μάλλον συγκλονιστικά σχόλια σχετικά με το γιατί το Facebook πρέπει να φιλοδοξεί να συνδέσει όλο και περισσότερους ανθρώπους. Δυστυχώς, δεν απεικόνιζε το δυναμικό της πλατφόρμας για το ρόλο της στην απώλεια της ζωής των ανθρώπων και των τρομοκρατών ως αποτρεπτικό παράγοντα.

"Μετά από να διαβάσετε αυτό το σημείωμα," Hartzog είπε, "είναι λίγο πιο εύκολο να δούμε πώς κάθε πτυχή του σχεδιασμού του Facebook είναι λυγισμένο προς την αποστολή του να σας κάνει να μην σταματήσετε ποτέ να μοιράζεστε και να αισθάνεστε καλά γι 'αυτό στη διαδικασία. Και ο σχεδιασμός των λόγων είναι τώρα ένα τόσο σημαντικό ηθικό ζήτημα, "επεξεργάζεται ο Hartzog," είναι ότι ο νόμος και η πολιτική έχουν μέχρι στιγμής λίγα λόγια για αυτό. Οι νομοθέτες επικεντρώνονται στην επεξεργασία δεδομένων, αλλά αγνοούν πάρα πολύ τους κανόνες για το σχεδιασμό των ψηφιακών τεχνολογιών. Μπορούμε να κάνουμε καλύτερα σε όλους τους τομείς και ξεκινάμε να είμαστε πιο επικριτικοί ως προς τον τρόπο κατασκευής των εργαλείων μας ".

Με άλλα λόγια, οι καταστροφές σχεδιασμού συμβαίνουν τόσο συχνά επειδή υπήρξε μια τέλεια καταιγίδα παραμέλησης που τρέχει από τους διαμορφωτές πολιτικής μέσω των CEOs όσο. Για να βελτιωθεί η κατάσταση, ο Hartzog υποστηρίζει ότι ένα νέο σχέδιο για την προστασία της ιδιωτικής ζωής και τις συναφείς αξίες πρέπει να υιοθετηθεί ευρέως. Τα ιδανικά του είναι υγιή, αλλά δυστυχώς, οι τεχνολογικές εταιρείες δεν θα τα δεχτούν μέχρι να σταματήσουν να κρύβονται πίσω από τον μύθο της βαρύτατης ηθικής. Οι εταιρείες τεχνολογίας επιθυμούν να ακούγονται φιλελεύθερες προτείνοντας ότι ο πατερναλισμός και η δημοκρατία είναι ασυμβίβαστες. Η ιστορία πηγάζει από το γεγονός ότι οι άνθρωποι έχουν διαφορετικές αξίες -περιλαμβανομένων των ποικίλων προτιμήσεων για την προστασία της ιδιωτικής ζωής και των αντιλήψεων της αποδεκτής ομιλίας- που είναι ευαίσθητες στην ποικιλομορφία, απαιτεί την αποφυγή προώθησης ισχυρών προτύπων που κάποιοι θα αγκαλιάσουν και άλλοι θα θεωρήσουν παραβιάσεις της ελευθερίας τους.

Αυτό είναι μαλακίες. Είναι σαν αθλητές διασημοτήτων που λένε ότι θέλουν να βρίσκονται στο προσκήνιο, αλλά δεν θέλουν να θεωρηθούν πρότυπα. Οι εταιρείες τεχνολογίας της στιγμής δημιουργούν αντικείμενα που διανέμουν ισχύ επηρεάζοντας τη συμπεριφορά μεγάλης κλίμακας, πρέπει να αναλάβουν την ευθύνη για το τι εξαπολύουν τον κόσμο.

Η ευθύνη έχει πολλές διαστάσεις. Όμως, όσον αφορά τον Hartzog - και η φιλοσοφία "αξίες στην σχεδίαση" υποστηρίζει αυτό το επιχείρημα - τα τρία βασικά ιδεώδη που πρέπει να δίνουν προτεραιότητα στις τεχνολογικές εταιρείες είναι: να προωθήσουν πραγματική εμπιστοσύνη (με μεγαλύτερη διαφάνεια και λιγότερη χειραγώγηση) οι άνθρωποι να είναι πιο επιλεκτικοί όταν μοιράζονται προσωπικές πληροφορίες σε δημόσιους και ημικυκλικούς χώρους) και να αντιμετωπίζουν την αξιοπρέπεια ως ιερά (ενισχύοντας την αυθεντική αυτονομία και δεν αντιμετωπίζουν τις αυταπάτες του ελέγχου των χρηστών ως πραγματική συμφωνία). Τουλάχιστον, η ενσωμάτωση αυτών των στόχων σημαίνει ότι οι εταιρείες θα πρέπει να βρουν καλύτερες απαντήσεις σε δύο θεμελιώδη ερωτήματα: Ποια είναι τα σήματα που οι επιλογές σχεδιασμού τους στέλνουν στους χρήστες σχετικά με τον τρόπο με τον οποίο τα προϊόντα τους πρέπει να αντιλαμβάνονται και να χρησιμοποιούνται; Ποιες κοινωνικά σημαντικές συνέπειες προκύπτουν από τις επιλογές σχεδιασμού τους που μειώνουν το κόστος των συναλλαγών και καθιστούν ευκολότερη ή πιο δύσκολη την πραγματοποίηση εργασιών, όπως η επικοινωνία και η παρακολούθηση;

Ηθική Εκπαίδευση στην Εργασία

Μπορεί να ακούγεται σαν ένα κλισέ, αλλά είναι αδύνατο να μιλήσουμε για ολοκληρωμένη ηθική μεταρρύθμιση στην τεχνολογική βιομηχανία χωρίς να συζητάμε για την εκπαίδευση.

Σε κάποιο βαθμό, είναι κατανοητό ότι οι εταιρείες τεχνολογίας κατέληξαν σε θέσεις όπου θεωρούνται ελλιπείς από ηθική άποψη και αξίζουν χρονοθυρίδες που προορίζονται για τους άπληστους στο τέταρτο κύκλο του Δάντη. Για αρχάριους, οι καταστροφές που δημιουργούν δυσαρέσκεια και φόβο, θυμούνται πιο εύκολα από τις συνηθισμένες εκθέσεις καθημερινής αρετής, οι οποίες σε μεγάλο βαθμό δεν αναγγέλλονται και συνεπώς περνούν απαρατήρητες. Ομοίως, όλο το καλό που κάνουν οι επιστήμονες, οι μηχανικοί και οι διαχειριστές σε εταιρείες τεχνολογίας - συμπεριλαμβανομένης της καταπολέμησης των δικαιωμάτων των πολιτών και της ιδιωτικής ζωής - επισκιάζεται εύκολα από τα αρνητικά στερεότυπα που προωθούνται από τους πιο μυωπικούς και λιγότερο σχολαστικούς συναδέλφους τους.

Παρ 'όλα αυτά, οι εταιρείες τεχνολογίας πρέπει να κάνουν καλύτερη δουλειά να εισάγουν ηθική διδασκαλία στην εταιρική τους κατάρτιση. Τα προβλήματα είναι τόσο ξεχωριστά, περίπλοκα και επιδεκτικά της δυναμικής «θάνατος με χίλιες περικοπές», που οι λύσεις ασημένιων κουκίδων - όπως η πρόσληψη ανώτερων στελεχών δεοντολογίας - δεν θα επιτύχουν πολύ.

Η Irina Raicu, διευθυντή του Προγράμματος Ηθικής Διαδικτύου στο Κέντρο Markkula για την Εφαρμοσμένη Δεοντολογία του Πανεπιστημίου της Santa Clara, αποτυπώνει απόλυτα τον κύριο στόχο αυτής της πρακτικής. "Η εκπαίδευση αυτή δεν θα εμβολιάσει τους τεχνολόγους ενάντια σε ανήθικες αποφάσεις - τίποτα δεν μπορεί να το κάνει αυτό και σε κάποιες περιπτώσεις δεν μπορούμε να καταλήξουμε σε κάποια συναίνεση για το τι είναι η ηθική δράση", υποστηρίζει ο Raicu. "Ωστόσο, η εκπαίδευση αυτή θα τους προετοίμαζε να λάβουν πιο προσεγμένες αποφάσεις όταν έρχονται αντιμέτωποι, για παράδειγμα, με ηθικά διλήμματα που συνεπάγονται συγκρούσεις μεταξύ ανταγωνιστικών αγαθών".

Μία από τις βασικές ιδέες του Raicu είναι ότι οι εταιρείες τεχνολογίας δεν μπορούν να εισάγουν ισχυρές δεοντολογικές ευαισθησίες και να βοηθήσουν τους εργαζόμενους να καλλιεργήσουν ώριμη ηθική κρίση με σποραδικές δραστηριότητες. Δεδομένου ότι η «ηθική λήψη αποφάσεων είναι σαν ένας μυς που πρέπει να ασκηθεί για να μην ατροφεί», πρέπει να ενσωματωθεί στον ιστό των καθημερινών δραστηριοτήτων. Με άλλα λόγια, η ηθική εδώ και εκεί είναι πολύ περιορισμένη από μια δέσμευση - κατά τον ίδιο τρόπο που οι θρησκευόμενοι ασχολούνται με τη δέσμευση των λαών που παρακολουθούν λατρευτικά σπίτια μόνο για λαϊκά πανηγύρια.

Μετά το σκάνδαλο για τη μεταδοτική συγκίνηση, το Facebook έδωσε στο κοινό ένα παράθυρο στη διαδικασία επανεξέτασης της έρευνας. Όπως αποδεικνύεται, η εταιρεία έφθασε σε μένα για εισροή κατά τη σύνταξη του εγγράφου. Ενώ βρήκα τους συντάκτες να είναι αρκετά δεκτικοί στο κρίσιμο διάλογο, έχουν ανακύψει ερωτήματα σχετικά με το πόσο πολύ αποκαλύπτεται το έγγραφο. Αλλά αυτό είναι το πράγμα. Υπάρχουν δύσκολες ερωτήσεις σχετικά με την πολιτική δεοντολογίας κάθε τεχνολογίας της εταιρείας - για το τι δημοσιοποιούν καθώς και για το τι αντιμετωπίζουν ως εταιρικά μυστικά.

Και αυτό μας φέρνει πίσω σε ένα ζήτημα που έθεσα νωρίτερα. Δεδομένου ότι οι εταιρείες τεχνολογίας εξυπηρετούν πολλούς δασκάλους, συχνά υπάρχουν διαρθρωτικές εντάσεις μεταξύ της επαγγελματικής δεοντολογίας, της προσωπικής δεοντολογίας και της κοινωνικής ηθικής. Οι επαγγελματίες του ιδιωτικού τομέα, για παράδειγμα, δεν έχουν καν το δικό τους διακριτικό κώδικα δεοντολογίας. Πολλοί επαγγελματίες στον τομέα της ιδιωτικής ζωής είναι δικηγόροι και είναι θέμα μεγάλης συζήτησης, αν η τήρηση των ευθυνών τους ως δικηγόρων θα έρχεται σε σύγκρουση με την ορκωτή υπακοή σε ένα νέο σύνολο ιδεωδών που δίνουν μεγαλύτερη έμφαση στην υποστήριξη του δημόσιου συμφέροντος.

Έτσι, ακόμη και αν οι περισσότεροι τεχνικοί εργαζόμενοι είχαν καρδιές χρυσού και την αποφασιστικότητα των αγίων, δεν θα είναι σε θέση να επιτελέσουν πολλά αν δεν έχουν την εξουσία να αμφισβητούν και να αλλάζουν τους κανόνες που εξομαλύνουν την παρηγορία του θεσμικού κακού.

Ηθική Εκπαίδευση στο σχολείο

Όταν οι επιστήμονες και οι μηχανικοί των δεδομένων περπατούν στην πόρτα την πρώτη μέρα της πρώτης τους δουλειάς για ενήλικες, εισέρχονται στο χώρο εργασίας με τις δικές τους απόψεις για το τι σημαίνει να είσαι επαγγελματίας και ποιος επαγγελματισμός απαιτεί από αυτούς. Για να προετοιμαστούν για αυτή τη στιγμή, τα πανεπιστήμια δεν μπορούν να περάσουν το buck και να μεταβιβάσουν την ευθύνη για την εκπαίδευση δεοντολογίας στις επιχειρήσεις. Πρέπει να κάνουν το δίκαιό τους μερίδιο στην εκπαίδευση δεοντολογίας, το οποίο, τουλάχιστον, σημαίνει να δίδεται μεγάλη αξία στην προσφορά κωδίκων δεοντολογίας, περιπτωσιολογικών μελετών, δεξιοτήτων ηθικής δεοντολογίας, συμβουλών πολιτικής και έργων που αναδεικνύουν ζητήματα ηθικής σημασίας.

Και δεοντολογία σχεδιασμού! Για όλους τους λόγους που τονίζει ο Hartzog, πρέπει να υπάρξει πολλή δεοντολογία σχεδιασμού. Οι σπουδαστές που δημιουργούν τα περιβάλλοντα ηλεκτρονικής μάθησης, εικονικής πραγματικότητας, επαγόμενης πραγματικότητας, AI και μηχανικής μάθησης, όπου όλοι θα σκέφτονται, θα μαθαίνουν, θα δουλεύουν και θα κοινωνικοποιούν, θα πρέπει να έχουν μια ξεκάθαρη αίσθηση της τεράστιας δύναμης που ασκούν. Οι σχεδιαστές της εμπειρίας δεν είναι μόνο υπεύθυνοι για την κατασκευή διαισθητικών προϊόντων. φέρουν επίσης ένα μέρος του βάρους για τη διαμόρφωση αυτού που βιώνεται.

Το θέμα είναι ότι δεν αρκεί να ρίξουμε περισσότερους πόρους σε τάξεις δεοντολογίας και σχετικές συνεχιζόμενες προσπάθειες, όπως η ολοκληρωμένη ηθική σε όλο το πρόγραμμα σπουδών. Βεβαίως, περισσότερες από αυτές τις δραστηριότητες θα βοηθούσαν, ειδικά αν εμπλέκονται φιλοσόφους. Βεβαίως, ως καθηγητής φιλοσοφίας, είμαι προκατειλημμένος. Πιστεύω ότι τα εννοιολογικά εργαλεία, όπως τα προσεκτικά επεξεργασμένα και έξυπνα ερμηνευμένα πειράματα σκέψης, μπορούν να βοηθήσουν τους ανθρώπους να σκέπτονται με νέους και δημιουργικούς τρόπους, όπως και οι πιο απαιτητικές ποιοτικές μυθοπλασίες, ταινίες και έργα τέχνης. Υπάρχει πολύ περισσότερο χιλιόμετρο για να εξαχθεί από την εφαρμογή του προβλήματος τρόλεϊ στην αυτοκαθοδηγούμενη πολιτική αυτοκινήτου, για παράδειγμα, αν και οι κριτικοί δικαιολογημένα επισημαίνουν ότι το πείραμα της σκέψης μπορεί να εκτρέψει την προσοχή από πιεστικά προβλήματα αν ερμηνεύεται υπερβολικά αναγωγικά και εφιστά την προσοχή μακριά από άλλα πολύτιμα πληροφορίες.

Όταν μίλησα για την αξία της φιλοσοφίας με τον Robin Zebrowski, Πρόεδρο του Προγράμματος Γνωστικών Επιστημών στο Beloit College και συνεργάτης των Τμημάτων Φιλοσοφίας, Ψυχολογίας και Πληροφορικής, πήρε το επιχείρημα περαιτέρω. Οι φιλόσοφοι δεν πρέπει μόνο να ληφθούν σοβαρότερα υπόψη σε ακαδημαϊκά περιβάλλοντα, υποστήριξε ο Zebrowski, θα πρέπει επίσης να αποκτήσουν μια πιο εξέχουσα θέση στο εταιρικό τραπέζι.

"Οι κυβερνήσεις έχουν αρχίσει να αναγνωρίζουν τους φιλοσόφους της εργασίας να κάνουν γύρω από την κριτική εξέταση των αλγορίθμων, των αυτόνομων οχημάτων, του πολέμου των τροχών, της τεχνητής νοημοσύνης και ακόμη και των κοινωνικών προβλημάτων που οι εταιρείες τεχνολογίας προσπαθούν να λύσουν με τους δικούς τους τρόπους", δήλωσε ο Zebrowski. "Οι φιλόσοφοι καλούνται να συμβουλευτούν τα Ηνωμένα Έθνη. τον Εκπαιδευτικό, Επιστημονικό και Πολιτιστικό Οργανισμό των Ηνωμένων Εθνών · το Υπουργείο Άμυνας - όλα λόγω των μοναδικών εμπειρογνωμόνων που έχουν οι φιλόσοφοι σε σχέση με αυτά τα ερωτήματα. Γιατί λοιπόν οι εταιρείες τεχνολογίας δεν τις προσλαμβάνουν και τις πληρώνουν για αυτή την εξειδικευμένη γνώση που υπόσχεται να προσφέρει ένα ανταγωνιστικό πλεονέκτημα σε μια βιομηχανία cutthroat ";

Ειδική παραδοχή για την φιλοσοφία, ο λόγος για τον οποίο τα πανεπιστήμια δεν θα πρέπει να είναι ικανοποιημένοι με την απλή βελτίωση των προγραμμάτων δεοντολογίας είναι ότι είναι δύσκολο για αυτούς να είναι καλά ηθικά πρότυπα ρόλων στην εποχή της πληροφορίας. Μοντέλα ρόλων που δεν δημιουργούν ανησυχητική αποσύνδεση μεταξύ του τι κηρύττουν και του τι κάνουν, αν δεν είναι ενδοσκοπικά και δεσμεύονται για καλή διακυβέρνηση.

Με απλά λόγια, τα πανεπιστήμια πρέπει να αντικατοπτρίζουν συνεχώς και να ενεργούν με προσοχή στους κινδύνους που ενέχει η επιχειρηματική ευφυΐα στις δικές τους τεχνολογικές πρακτικές. Εξάλλου, τα πανεπιστήμια υιοθετούν μεγάλα συστήματα παρακολούθησης τροφοδοτούμενα από δεδομένα και προβλέψιμα αναλυτικά στοιχεία για να βελτιώσουν τον τρόπο με τον οποίο επιδιώκουν στόχους με υψηλό βαθμό προτεραιότητας: την πρόσληψη και την αποδοχή σπουδαστών. δικτύωση με επιτυχημένους αποφοίτους βελτίωση της διατήρησης. και βοηθώντας τους μαθητές να μελετήσουν καλύτερα, να μάθουν περισσότερα και να επιλέξουν τις σωστές τάξεις την κατάλληλη στιγμή.

Αν και αυτοί είναι όλοι αξιέπαινοι στόχοι, αφηρημένα, ο διάβολος, όπως πάντα, βρίσκεται στις λεπτομέρειες. Τα πανεπιστήμια διαθέτουν τα ψηφιακά εργαλεία για την ενασχόληση των σπουδαστών με όλους τους πελάτες και τους υπαλλήλους που φυλακίζονται στο "κλουβί σιδήρου του ποσοτικοποιημένου αυτοδιαχειριζόμενου καθεστώτος που στοχεύει στην παρακολούθηση όλων των δεδομένων μας για μεγιστοποίηση και βελτιστοποίηση της συμπεριφοράς μας".

Ο Mitch Daniels, πρόεδρος του πανεπιστημίου Purdue, προειδοποίησε πρόσφατα ότι εάν τα πανεπιστήμια δεν διαχειρίζονται σωστά τα τεχνολογικά τους συστήματα, η ανάλυσή τους θα μπορούσε να καταστρέψει σοβαρά τους ίδιους τους φοιτητές που είναι επιφορτισμένοι με την προστασία τους. Δεδομένου ότι τα σχολεία αποκτούν τεράστια ποσά προσωπικών δεδομένων που συγκεντρώνονται για να σχηματίσουν πλούσια πορτρέτα των μαθητικών συνηθειών, έχουν τη δυνατότητα να συμμορφωθούν με όλους τους κρατικούς και ομοσπονδιακούς νόμους για την εκπαίδευση ενώ παράλληλα δημιουργούν υπερβολικά ελεγχόμενα περιβάλλοντα - συμπεριλαμβανομένου του κυβερνητικού συστήματος κοινωνικών πιστώσεων. "Πολλοί από εμάς," γράφει ο Daniels, "θα πρέπει να σταματήσουν και να ρωτήσουν αν οι καλές μας προθέσεις μας μεταφέρουν πέρα ​​από τα όριά μας, όπου η ιδιωτικότητα και η ατομική αυτονομία θα εξακολουθήσουν να υπερισχύουν."

Με άλλα λόγια, εάν τα πανεπιστήμια επιθυμούν να εκπαιδεύσουν τους ηγέτες του αύριο, ενώ παράλληλα οδηγούν με παράδειγμα, πρέπει να γίνουν πιο αφοσιωμένοι στο ιδεώδες της "δικαιοσύνης πληροφόρησης". Jeffrey Alan Johnson, διευθυντής θεσμικής αποτελεσματικότητας, προγραμματισμού και υποστήριξης διαπίστευσης στο Utah Valley State Το πανεπιστήμιο έχει εδώ και καιρό την υπόθεση ότι, μεταξύ άλλων, η δικαιοσύνη πληροφόρησης απαιτεί οι φοιτητές να λαμβάνουν δίκαιες διαδικασίες για να αμφισβητούν και να αλλάζουν τις προσωπικές πληροφορίες που ένα σχολείο θεωρεί χρήσιμες, αλλά οι οποίες στην πραγματικότητα είναι ανακριβείς ή ακατάλληλες γι 'αυτούς να κατέχουν ή να ενεργούν. Ο Johnson υποστηρίζει επίσης ότι τα πανεπιστήμια θα πρέπει να κάνουν καλύτερη δουλειά «να αξιοποιήσουν την τεχνογνωσία των μελών των διδασκόντων τους που ασχολούνται με την ηθική της τεχνολογίας και τις βασικές κοινωνικές επιστήμες και μεθόδους έρευνας που μπορούν να μιλήσουν για δεδομένα ως κοινωνικό κατασκεύασμα».

Έτρεξα αυτές τις ιδέες πέρα ​​από τον Pasquale και βρήκε ότι όλοι αξίζουν να το ακολουθήσουν. "Το βασικό μου πρόβλημα είναι με τις προσπάθειες να υποκαταστήσω τον ηθικό προβληματισμό για τις νομικές υποχρεώσεις", δήλωσε.

«Σε ένα υγιές νομικό σύστημα», συνέχισε, «το Facebook θα αντιμετώπιζε τεράστια πρόστιμα για να παραβιάζει επανειλημμένα την εμπιστοσύνη των χρηστών του και θα υπόκειται σε προληπτική ρύθμιση (όπως είναι και πολλές τράπεζες) για να διασφαλίσει ότι θα τηρήσει τις υποσχέσεις του μελλοντικός. Υπάρχουν όμως πολλοί τομείς όπου η αίσθηση του σωστού και λάθους αναδύεται ή όπου τα καθήκοντα είναι περισσότερο ηθικά σε μορφή από το νόμιμο. Εκεί όπου η ηθική εκπαίδευση είναι απαραίτητη - να καλλιεργηθεί η κρίση και η άρθρωση για τις αξίες στις σφαίρες όπου η εμμονή με το αλγοριθμικό οδηγεί σε δυαδική σκέψη (ό, τι είναι νόμιμο είναι καλό να κάνει) ή η ηθική των χάκερ (κανόνες που πρέπει να σπάσουν).

Οι εταιρείες τεχνολογίας θα πρέπει να λάβουν την ηθική πολύ πιο σοβαρά από ό, τι κάνουν σήμερα, εάν θέλουν να είναι πραγματικά αξιόπιστες. Ο κόσμος και οι πολιτικοί έχουν ταλαιπωρηθεί με επαναλαμβανόμενα ηχητικά δαγκώματα, τα οποία είναι σχεδιασμένα για να αντηχούν ως πεινασμένοι, αλλά δεν έχουν την ουσία της αφοσιωμένης ηγεσίας.

Ο υπολογισμός φαίνεται να είναι τελικά εδώ, και έτσι οι υποσχέσεις μεταρρύθμισης που φαίνονται τολμηρές αλλά μόνο ζοφερές στις άκρες της θεσμικής μυωπίας, της απληστίας και της αλαζονείας θα ληφθούν για αυτό που είναι: ψέματα που δεν μπορούν πλέον να γίνουν ανεκτά.