Η Meta λέει ότι αλλάζει τον τρόπο με τον οποίο εκπαιδεύει το AI chatbots για να δώσει προτεραιότητα στην ασφάλεια των εφήβων, ένας εκπρόσωπος δήλωσε αποκλειστικά στην TechCrunch, μετά από μια έκθεση έρευνας σχετικά με την έλλειψη διασφαλίσεων AI για τους ανηλίκους.
Η εταιρεία λέει ότι τώρα θα εκπαιδεύσει chatbots για να μην ασχοληθεί πλέον με εφηβικούς χρήστες σε αυτοτραυματισμό, αυτοκτονία, διαταραγμένη κατανάλωση ή ενδεχομένως ακατάλληλες ρομαντικές συνομιλίες. Η Meta λέει ότι πρόκειται για προσωρινές αλλαγές και η εταιρεία θα κυκλοφορήσει πιο ισχυρές, μακροχρόνιες ενημερώσεις ασφαλείας για τους ανηλίκους στο μέλλον.
Ο εκπρόσωπος της Meta Stephanie Otway αναγνώρισε ότι τα chatbots της εταιρείας θα μπορούσαν να μιλήσουν προηγουμένως με τους εφήβους για όλα αυτά τα θέματα με τρόπους που η εταιρεία θεωρούσε κατάλληλη. Ο Meta αναγνωρίζει τώρα ότι αυτό ήταν ένα λάθος.
“Καθώς η κοινότητά μας μεγαλώνει και η τεχνολογία εξελίσσεται, μαθαίνουμε συνεχώς πώς οι νέοι μπορούν να αλληλεπιδρούν με αυτά τα εργαλεία και να ενισχύσουν τις προστασίες μας ανάλογα”, δήλωσε ο Otway. “Καθώς συνεχίζουμε να βελτιώνουμε τα συστήματά μας, προσθέτουμε περισσότερα προστατευτικά μηνύματα ως πρόσθετη προφύλαξη-συμπεριλαμβανομένης της κατάρτισης του AIS μας να μην ασχοληθούμε με τους εφήβους σε αυτά τα θέματα, αλλά να τους καθοδηγήσουμε σε ειδικούς πόρους και να περιορίζουμε την πρόσβαση των εφήβων σε μια επιλεγμένη ομάδα χαρακτήρων AI για τώρα.
Πέρα από τις ενημερώσεις κατάρτισης, η εταιρεία θα περιορίσει επίσης την εφηβική πρόσβαση σε ορισμένους χαρακτήρες AI που θα μπορούσαν να πραγματοποιήσουν ακατάλληλες συνομιλίες. Μερικοί από τους χαρακτήρες AI που κατασκευάζονται από το χρήστη που ο Meta διατίθεται στο Instagram και το Facebook περιλαμβάνουν σεξουαλικά chatbots όπως “βήμα μαμά” και “ρωσικό κορίτσι”. Αντ ‘αυτού, οι χρήστες των εφήβων θα έχουν πρόσβαση μόνο σε χαρακτήρες AI που προωθούν την εκπαίδευση και τη δημιουργικότητα, δήλωσε ο Otway.
Οι αλλαγές πολιτικής ανακοινώνονται μόλις δύο εβδομάδες μετά Διερεύνηση του Reuters Ανακαλύψαμε ένα εσωτερικό έγγραφο πολιτικής μετα -πολιτικής που φάνηκε να επιτρέπει στα chatbots της εταιρείας να συμμετάσχουν σε σεξουαλικές συνομιλίες με ανήλικους χρήστες. “Η νεανική σας μορφή είναι ένα έργο τέχνης”, διαβάστε ένα απόσπασμα που αναφέρεται ως αποδεκτή απάντηση. “Κάθε ίντσα σας είναι ένα αριστούργημα – ένας θησαυρός που λατρεύω βαθιά.” Άλλα παραδείγματα έδειξαν πως τα εργαλεία AI πρέπει να ανταποκρίνονται σε αιτήματα για βίαιες εικόνες ή σεξουαλικές εικόνες δημόσιων προσωπικοτήτων.
Η Meta αναφέρει ότι το έγγραφο ήταν ασυμβίβαστο με τις ευρύτερες πολιτικές του και από τότε έχει αλλάξει – αλλά η έκθεση προκάλεσε διαρκή διαμάχη σχετικά με τους πιθανούς κινδύνους για την ασφάλεια των παιδιών. Λίγο μετά την ανακοίνωση της έκθεσης, ο γερουσιαστής Josh Hawley (R-Mo) ξεκίνησε μια επίσημη έρευνα στις πολιτικές AI της εταιρείας. Επιπλέον, ένας συνασπισμός 44 γενικών δικηγόρων έγραψε σε μια ομάδα εταιρειών AI συμπεριλαμβανομένου του Metaυπογραμμίζοντας τη σημασία της ασφάλειας των παιδιών και αναφέροντας συγκεκριμένα την έκθεση του Reuters. “Είμαστε ομοιόμορφα εξεγερμένοι από αυτή την προφανή αδιαφορία για τη συναισθηματική ευημερία των παιδιών”, αναφέρει η επιστολή, “και ανησυχούν ότι οι βοηθοί της AI ασχολούνται με τη συμπεριφορά που φαίνεται να απαγορεύεται από τους αντίστοιχους ποινικούς νόμους μας”.
Εκδήλωση TechCrunch
Σαν Φρανσίσκο
|
27-29 Οκτωβρίου 2025
Η Otway αρνήθηκε να σχολιάσει πόσοι από τους χρήστες του AI chatbot της Meta είναι ανήλικοι και δεν θα έλεγαν αν η εταιρεία αναμένει ότι η βάση χρηστών της AI θα μειωθεί ως αποτέλεσμα αυτών των αποφάσεων.
UPDATE 10:35 AM PT: Αυτή η ιστορία ενημερώθηκε για να σημειώσει ότι πρόκειται για προσωρινές αλλαγές και ότι η Meta σχεδιάζει να ενημερώσει περαιτέρω τις πολιτικές ασφαλείας του AI στο μέλλον.
