13 νυν και πρώην εργαζόμενοι στην Τεχνητή νοημοσύνη σε Google, OpenAI και την Anthropic απαιτούν ισχυρότερη προστασία.
Μια ομάδα 13 νυν και πρώην υπαλλήλων από κορυφαίες εταιρείες τεχνητής νοημοσύνης όπως η OpenAI, η Google DeepMind και η Anthropic υπέγραψαν μια ανοιχτή επιστολή ζητώντας μεγαλύτερη διαφάνεια και προστασία από αντίποινα για όσους μιλούν ανοιχτά για πιθανές ανησυχίες σχετικά με την τεχνητή νοημοσύνη.
“Είμαστε νυν και πρώην εργαζόμενοι σε εταιρείες τεχνητής νοημοσύνης και πιστεύουμε στις δυνατότητες της τεχνολογίας τεχνητής νοημοσύνης να προσφέρει πρωτοφανή οφέλη στην ανθρωπότητα”, αναφέρουν στην ανοιχτή επιστολή τους και συνεχίζουν:
“Κατανοούμε επίσης τους σοβαρούς κινδύνους που ενέχουν αυτές οι τεχνολογίες. Αυτοί οι κίνδυνοι κυμαίνονται από την περαιτέρω περιχαράκωση των υφιστάμενων ανισοτήτων, στη χειραγώγηση και την παραπληροφόρηση, έως την απώλεια του ελέγχου των αυτόνομων συστημάτων τεχνητής νοημοσύνης που ενδέχεται να έχει ως αποτέλεσμα την ανθρώπινη εξαφάνιση. Οι ίδιες οι εταιρείες τεχνητής νοημοσύνης έχουν αναγνωρίσει αυτούς τους κινδύνους, όπως και οι κυβερνήσεις σε όλο τον κόσμο και άλλοι ειδικοί της τεχνητής νοημοσύνης.”
“Ελπίζουμε ότι αυτοί οι κίνδυνοι μπορούν να μετριαστούν επαρκώς με επαρκή καθοδήγηση από την επιστημονική κοινότητα, τους υπεύθυνους χάραξης πολιτικής και το κοινό. Ωστόσο, οι εταιρείες τεχνητής νοημοσύνης έχουν ισχυρά οικονομικά κίνητρα για να αποφύγουν την αποτελεσματική εποπτεία και δεν πιστεύουμε ότι οι εξατομικευμένες δομές εταιρικής διακυβέρνησης επαρκούν για να το αλλάξουν αυτό.“
“Οι εταιρείες τεχνητής νοημοσύνης διαθέτουν ουσιαστικές μη δημόσιες πληροφορίες σχετικά με τις δυνατότητες και τους περιορισμούς των συστημάτων τους, την επάρκεια των προστατευτικών τους μέτρων και τα επίπεδα κινδύνου διαφόρων ειδών βλάβης. Ωστόσο, επί του παρόντος έχουν μόνο αδύναμες υποχρεώσεις να μοιραστούν ορισμένες από αυτές τις πληροφορίες με τις κυβερνήσεις και καμία με την κοινωνία των πολιτών. Δεν πιστεύουμε ότι μπορούμε να βασιστούμε σε όλους για να το μοιραστούμε οικειοθελώς.”
“Εφόσον δεν υπάρχει αποτελεσματική κυβερνητική εποπτεία αυτών των εταιρειών, οι νυν και οι πρώην υπάλληλοι είναι από τους λίγους ανθρώπους που μπορούν να τους ζητήσουν να λογοδοτήσουν στο κοινό. Ωστόσο, οι ευρείες συμφωνίες εμπιστευτικότητας μας εμποδίζουν να εκφράσουμε τις ανησυχίες μας, εκτός από τις ίδιες τις εταιρείες που ενδέχεται να αποτυγχάνουν να αντιμετωπίσουν αυτά τα ζητήματα. Οι συνήθεις προστασία πληροφοριοδοτών είναι ανεπαρκής επειδή επικεντρώνεται στην παράνομη δραστηριότητα, ενώ πολλοί από τους κινδύνους που μας απασχολούν δεν έχουν ακόμη ρυθμιστεί. Μερικοί από εμάς εύλογα φοβούνται διάφορες μορφές αντιποίνων, δεδομένου του ιστορικού τέτοιων περιπτώσεων σε ολόκληρο τον κλάδο. Δεν είμαστε οι πρώτοι που αντιμετωπίζουμε ή μιλάμε για αυτά τα θέματα.”
Οι υπογράφοντες καλούν τις εταιρείες τεχνητής νοημοσύνης να δεσμευτούν σε τέσσερις βασικές αρχές. Συγκεκριμένα, στην επιστολή η οποία επικυρώθηκε από εξέχοντες ειδικούς της τεχνητής νοημοσύνης Geoffrey Hinton, Yoshua Bengio και Stuart Russel, αναφέρουν ότι, η εταιρεία τεχνητής νοημοσύνης:
- Δεν θα συνάψει ή δεν θα επιβάλει καμία συμφωνία που απαγορεύει την “υποτιμήσεις” ή την κριτική της εταιρείας για ανησυχίες που σχετίζονται με τον κίνδυνο, ούτε θα ανταποδώσει για την κριτική που σχετίζεται με τον κίνδυνο παρεμποδίζοντας οποιοδήποτε κατοχυρωμένο οικονομικό όφελος·
- Θα διευκολύνει μια επαληθεύσιμη ανώνυμη διαδικασία για νυν και πρώην υπαλλήλους για να αναφέρουν ανησυχίες σχετικά με τους κινδύνους στο διοικητικό συμβούλιο της εταιρείας, στις ρυθμιστικές αρχές και σε έναν κατάλληλο ανεξάρτητο οργανισμό με σχετική πείρα·
- Θα υποστηρίξει μια κουλτούρα ανοιχτής κριτικής και θα επιτρέψει στους σημερινούς και πρώην υπαλλήλους της να εκφράζουν ανησυχίες σχετικά με τον κίνδυνο σχετικά με τις τεχνολογίες της στο κοινό, στο διοικητικό συμβούλιο της εταιρείας, στις ρυθμιστικές αρχές ή σε έναν κατάλληλο ανεξάρτητο οργανισμό με σχετική τεχνογνωσία, τόσο καιρό δεδομένου ότι τα εμπορικά μυστικά και άλλα συμφέροντα πνευματικής ιδιοκτησίας προστατεύονται κατάλληλα·
- Δεν θα ανταποκριθεί σε νυν και πρώην υπαλλήλους που μοιράζονται δημόσια εμπιστευτικές πληροφορίες που σχετίζονται με τον κίνδυνο μετά την αποτυχία άλλων διαδικασιών. Αποδεχόμαστε ότι οποιαδήποτε προσπάθεια αναφοράς ανησυχιών που σχετίζονται με τον κίνδυνο θα πρέπει να αποφεύγεται η άσκοπη δημοσιοποίηση εμπιστευτικών πληροφοριών. Ως εκ τούτου, από τη στιγμή που υπάρχει επαρκής διαδικασία για την ανώνυμη διατύπωση ανησυχιών στο διοικητικό συμβούλιο της εταιρείας, στις ρυθμιστικές αρχές και σε έναν κατάλληλο ανεξάρτητο οργανισμό με σχετική τεχνογνωσία, δεχόμαστε ότι οι ανησυχίες θα πρέπει να τεθούν αρχικά μέσω μιας τέτοιας διαδικασίας. Ωστόσο, όσο δεν υπάρχει τέτοια διαδικασία, οι νυν και οι πρώην εργαζόμενοι θα πρέπει να διατηρούν την ελευθερία τους να αναφέρουν τις ανησυχίες τους στο κοινό.
