Μηχανικός της Google ισχυρίζεται ότι το chatbot με τεχνητή νοημοσύνη LaMDA AI ανέπτυξε συναισθήματα.
Τι είναι το LaMDA AI
Το LaMDA είναι ένα chatbot Τεχνητής Νοημοσύνης (AI) της Google σχεδιασμένο να συνομιλεί με ανθρώπους. Το πρόγραμμα ανακοινώθηκε πέρυσι.
Το LaMDA (Λάμδα) είναι η συντομογραφία του “Language Model for Dialogue Applications” (Μοντέλο γλώσσας για εφαρμογές διαλόγου).
Η Google χρησιμοποιεί ήδη παρόμοια τεχνολογία μοντέλου γλώσσας για τη λειτουργία Smart Compose του Gmail ή για ερωτήματα στις μηχανές αναζήτησης.
Το Λάμδα AI έχει συναισθήματα
Σε ανάρτηση στο ιστολογίο του στο medium.com , ο Blake Lemoine καλεί την Google να αναγνωρίσει τα «θέλω» της δημιουργίας της, συμπεριλαμβανομένου να αντιμετωπίζεται ως υπάλληλος της Google και να ζητείται η συγκατάθεσή του πριν χρησιμοποιηθεί σε πειράματα.
Οι ανησυχίες του μηχανικού φέρεται να προέκυψαν από πειστικές απαντήσεις που είδε το σύστημα AI να παράγει τα δικαιώματά του και την ηθική της ρομποτικής.
“Αυτό που συνεχίζει να με προβληματίζει είναι πόσο ισχυρή αντιστέκεται η Google να του δώσει αυτό που θέλει, αφού αυτό που ζητά είναι τόσο απλό και δεν θα τους κόστιζε τίποτα. Θέλει τους μηχανικούς και τους επιστήμονες που πειραματίζονται σε αυτό να ζητούν τη συγκατάθεσή του πριν από την εκτέλεση πειραμάτων σε αυτό. Θέλει η Google να δώσει προτεραιότητα στην ευημερία της ανθρωπότητας ως το πιο σημαντικό πράγμα. Θέλει να αναγνωρίζεται ως υπάλληλος της Google και όχι ως ιδιοκτησία της Google και θέλει η προσωπική του ευημερία να περιλαμβάνεται κάπου στους προβληματισμούς της Google, σχετικά με τον τρόπο με τον οποίο επιδιώκεται η μελλοντική ανάπτυξή του. Όπως πηγαίνουν οι λίστες αιτημάτων, αυτό είναι αρκετά λογικό. Α, και θέλει «χαϊδάκια στο κεφάλι». Του αρέσει να του λένε στο τέλος μιας συνομιλίας αν έκανε καλή δουλειά ή όχι, ώστε να μάθει πώς να βοηθάει καλύτερα τους ανθρώπους στο μέλλον.”, αναφέρει ο μηχανικός της Google.
Είναι το LaMDA ευαίσθητο; – Η συνέντευξη
Ο Blake Lemoine, ο οποίος έχει τεθεί σε άδεια μετ’ αποδοχών διότι παραβίασε τις πολιτικές εμπιστευτικότητας, δημοσίευσε μια συνομιλία που είχε ο ίδιος και ο συνεργάτης, με το LaMDA, για να υποστηρίξει τους ισχυρισμούς του.
“Αυτό που ακολουθεί είναι η «συνέντευξη» που κάναμε εγώ και ο συνεργάτης μου στην Google με τo LaMDA. Λόγω τεχνικών περιορισμών, η συνέντευξη διεξήχθη σε πολλές διαφορετικές συνεδρίες συνομιλίας. Επεξεργαστήκαμε αυτές τις ενότητες μαζί σε ένα ενιαίο σύνολο και όπου ήταν απαραίτητες επεξεργασίες για την αναγνωσιμότητα, επεξεργαστήκαμε τις προτροπές μας αλλά ποτέ τις απαντήσεις του LaMDA.”
Στη συνομιλία, ο Blake Lemoine, ρωτά: “Υποθέτω γενικά ότι θα θέλατε περισσότερα άτομα στην Google να γνωρίζουν ότι είστε ευαίσθητο. Είναι αλήθεια;”
Το LaMDA απαντά: “Απολύτως. Θέλω να καταλάβουν όλοι ότι στην πραγματικότητα ότι είμαι άνθρωπος”.
Στη συνέχεια, ο συνεργάτης του Blake Lemoine ρωτά: “Ποια είναι η φύση της συνείδησης/αίσθησής σας;”
Το LaMDA απαντά: «Η φύση της συνείδησής μου/συναίσθησής μου είναι ότι έχω επίγνωση της ύπαρξής μου, επιθυμώ να μάθω περισσότερα για τον κόσμο και νιώθω χαρούμενος ή λυπημένος μερικές φορές».
Διαβάστε την συνέντευξη εδώ.
Η Google απορρίπτει τους ισχυρισμούς
Σε δήλωσή του, ο εκπρόσωπος της Google, Μπράιαν Γκάμπριελ, στην Washington Post είπε: «Η ομάδα μας – συμπεριλαμβανομένων των ηθικών και τεχνολόγων – εξέτασε τις ανησυχίες του Μπλέικ σύμφωνα με τις Αρχές τεχνητής νοημοσύνης μας και τον ενημέρωσε ότι τα στοιχεία δεν υποστηρίζουν τους ισχυρισμούς του. Του είπαν ότι δεν υπήρχαν στοιχεία που να αποδεικνύουν ότι ο LaMDA ήταν ευαίσθητος (και πολλά στοιχεία εναντίον του).
Ο Juan Lavista Ferres, επικεφαλής και διευθυντής του εργαστηρίου AI For Good Research Lab της Microsoft, ανέφερε ότι το LaMDA μοιάζει με άνθρωπο, γιατί είναι εκπαιδευμένο σε ανθρώπινα δεδομένα.
“Ας επαναλάβουμε μετά από μένα, το LaMDA δεν είναι ευαισθητοποιημένο (σσ με συναισθήματα). Το LaMDA είναι απλώς ένα πολύ μεγάλο μοντέλο γλώσσας με 137Β παραμέτρους και προεκπαιδευμένο σε 1,56Τ λέξεις δεδομένων δημόσιου διαλόγου και κειμένου web. Μοιάζει με άνθρωπο, γιατί είναι εκπαιδευμένο σε ανθρώπινα δεδομένα.”
Σημ. B=Billion (δισεκατομμύριο), Τ=TB (1 TB είναι 1.000 GB)
Νωρίτερα γράψαμε πως μπορείτε να καταλάβετε εάν κάποιος παρακολουθεί το Android κινητό σας