Το ChatGPT αποκτά εργαλείο γονικού ελέγχου μετά την αυτοκτονία εφήβου στην Καλιφόρνια

Λίγες εβδομάδες αφότου δέχτηκε αγωγή για την αυτοκτονία ενός εφήβου που ζήτησε συμβουλές από το ChatGPT για να βάλει τέλος στη ζωή του, η OpenAI λανσάρει εργαλείο που επιτρέπει στους γονείς να επιβάλλουν περιορισμούς στην αλληλεπίδραση των παιδιών τους με το chatbot.

Για την ενεργοποίηση του γονικού ελέγχου, ανέφερε η εταιρεία, ο γονέας ή κηδεμόνας στέλνει στο παιδί ένα αίτημα προκειμένου να συνδεθούν οι λογαριασμοί τους. Εφόσον το παιδί δεχτεί, ο γονέας μπορεί να αλλάζει τις ρυθμίσεις από τον δικό του λογαριασμό.

Το λανσάρισμα του νέου εργαλείου έρχεται την ώρα που οι αμερικανικές και ευρωπαϊκές αρχές εξετάζουν τις πιθανές αρνητικές συνέπειες των εργαλείων τεχνητής νοημοσύνης στην ψυχολογία των ανηλίκων.

Τον Αύγουστο, για παράδειγμα, το Reuters αποκάλυψε ότι οι κανόνες της Meta επέτρεπαν στα chatbot της εταιρείας να φλερτάρουν με ανηλίκους.

Με τη νέα λειτουργία του ChatGPT, οι γονείς θα μπορούν να περιορίζουν την έκθεση των παιδιών τους σε «ευαίσθητο περιεχόμενο», να ελέγχουν αν το chatbot θυμάται ή όχι τις προηγούμενες συζητήσεις και να αποφασίζουν αν οι συζητήσεις αυτές θα χρησιμοποιούνται στην εκπαίδευση των μοντέλων της AI.

Οι επιλογές που προσφέρει το νέο εργαλείο γονικού ελέγχου (OpenAI)

Ακόμα, οι γονείς θα μπορούν να αποκλείουν τη χρήση του ChatGPT σε συγκεκριμένες ώρες της ημέρας και να απενεργοποιούν τη λειτουργία φωνής και τη δυνατότητα δημιουργίας εικόνων.

Παρόλα αυτά, οι γονείς δεν θα έχουν πρόσβαση στις ίδιες τις συζητήσεις των παιδιών τους με το chatbot.

Σε σπάνιες περιπτώσεις όπου το σύστημα ή οι επόπτες περιεχομένου της OpenAI υποψιάζονται ότι υπάρχει κίνδυνος σοβαρής βλάβης, οι γονείς θα ειδοποιούνται. Το ίδιο θα συμβαίνει αν ο ανήλικος αποσυνδέσει τον λογαριασμό του από τον λογαριασμό του γονέα.

Η OpenAI, η οποία έχει περίπου 700 εκατομμύρια ενεργούς χρήστες, αναπτύσσει παράλληλα ένα σύστημα πρόβλεψης ηλικίας μέσω των συζητήσεων, οπότε το ChatGPT θα επιβάλει αυτόματα περιορισμούς για τους χρήστες κάτω των 18 ετών.

Μέτρα για την προστασία των εφήβων ανακοίνωσε τον περασμένο μήνα και η Meta, η οποία διαβεβαίωσε ότι θα εκπαιδεύσει τα συστήματά της ώστε να αποφεύγουν το φλερτ και τις συζητήσεις περί αυτοκτονίας με ανήλικους χρήστες.