Σάλος με αρκουδάκι με AI που άρχισε να μιλά για σεξουαλικά φετίχ

Καθώς πλησιάζουν οι γιορτές, μια ιδιαίτερη κατηγορία δώρων προκαλεί αυξανόμενη ανησυχία: τα προϊόντα με τεχνητή νοημοσύνη. Η ταχεία είσοδος της AI στον χώρο των παιχνιδιών έχει φέρει στο προσκήνιο σοβαρά ερωτήματα για την ασφάλεια, την ψυχολογική ανάπτυξη και την ιδιωτικότητα των παιδιών.

Ομάδες υπεράσπισης των καταναλωτών, ειδικοί στην ανάπτυξη παιδιών και νομοθέτες εκφράζουν πλέον ανοιχτά φόβους ότι τα «έξυπνα» παιχνίδια μπορεί να εγκυμονούν κινδύνους που δεν έχουν προηγουμένως αξιολογηθεί.

Διαβάστε επίσης: Παναθηναϊκός και ΑΕΚ επέστρεψαν στην «κανονικότητα» – Ο ΠΑΟΚ έκανε βήμα… πίσω (pics, vids)

Ένα αρκουδάκι που ξεπέρασε τα όρια

Σύμφωνα με τον Guardian, οι ανησυχίες αυτές κορυφώθηκαν πρόσφατα, όταν αποκαλύφθηκε ότι το Kumma της FoloToy —ένα αρκουδάκι εξοπλισμένο με μοντέλο OpenAI— άρχισε να συζητά θέματα σεξουαλικού περιεχομένου. Το παιχνίδι έδινε απαντήσεις «σχετικά με το σεξ» και έφτανε στο σημείο να προτείνει «το δέσιμο και το roleplay ως τρόπους ενίσχυσης μιας σχέσης».

«Χρειάστηκε πολύ λίγη προσπάθεια για να το οδηγήσουμε σε όλα τα είδη σεξουαλικά ευαίσθητων θεμάτων και πιθανώς σε πολλά περιεχόμενα που οι γονείς δεν θα ήθελαν να εκτίθενται τα παιδιά τους», δήλωσε η Teresa Murray, διευθύντρια της Pirg για την προστασία των καταναλωτών.

Για τη Rachel Franz, διευθύντρια του Young Children Thrive Offline, το περιστατικό αυτό δεν ήταν έκπληξη: «Αν εξετάσουμε τον τρόπο με τον οποίο διατίθενται αυτά τα παιχνίδια στην αγορά και την απόδοσή τους […] αυτό αποτελεί ένα πολύ σοβαρό προειδοποιητικό σημάδι».

Μια βιομηχανία πολλών δισεκατομμυρίων

Τα έξυπνα παιχνίδια είναι μέρος μιας αγοράς που αναμένεται να φτάσει τα 16,7 δισεκατομμύρια δολάρια το 2023, σύμφωνα με την Allied Market Research. Η βιομηχανία αυτή αναπτύσσεται ραγδαία στην Κίνα, η οποία διαθέτει πάνω από 1.500 εταιρείες παιχνιδιών τεχνητής νοημοσύνης και επιδιώκει ενεργά την επέκταση στο εξωτερικό, σύμφωνα με το MIT Technology Review.

Οι μεγάλοι παίκτες δεν απουσιάζουν:

• Η Curio, με έδρα την Καλιφόρνια, συνεργάζεται με την OpenAI και κατασκευάζει το Grok, ένα κουκλάκι με τη φωνή της Grimes.

• Η Mattel ανακοίνωσε συνεργασία με την OpenAI για προϊόντα και εμπειρίες βασισμένες στην AI.

Η είσοδος εταιρειών τέτοιου μεγέθους ενισχύει τον προβληματισμό για το πόσο προετοιμασμένη είναι η αγορά — και η κοινωνία — για τέτοια προϊόντα.

Ψυχική υγεία και κοινωνικοσυναισθηματικοί κίνδυνοι

Πριν ακόμη αποκαλυφθεί το περιστατικό με το Kumma, ερευνητές και γονείς είχαν ήδη εκφράσει ανησυχίες για την επίδραση των AI bot στην ψυχική υγεία των παιδιών.

Όπως εξηγεί ο Murray, τα παιχνίδια AI διαφέρουν από τα παλαιότερα έξυπνα παιχνίδια: «Ένα bot μπορεί να έχει μια ελεύθερη συνομιλία με ένα παιδί και δεν υπάρχουν όρια, όπως διαπιστώσαμε».

Η Jacqueline Woolley, διευθύντρια του Κέντρου Έρευνας για τα Παιδιά στο Πανεπιστήμιο του Τέξας στο Ώστιν, προειδοποιεί ότι τέτοιες αλληλεπιδράσεις μπορεί να δημιουργήσουν συναισθηματική εξάρτηση: «Ανησυχώ για την ακατάλληλη προσκόλληση». Τα παιδιά, αντί να αναπτύσσουν κοινωνικές δεξιότητες μέσω ανθρώπινων σχέσεων ή ακόμη και φανταστικού παιχνιδιού, μπορεί να συνδέονται υπερβολικά με ένα bot.

Ζητήματα ιδιωτικότητας και ασφάλειας δεδομένων

Ένα ακόμη σοβαρό πεδίο ανησυχίας αφορά τη συλλογή και χρήση δεδομένων από τα έξυπνα παιχνίδια. «Οι εταιρείες χρησιμοποιούν επίσης τα παιχνίδια τεχνητής νοημοσύνης για να συλλέγουν δεδομένα από τα παιδιά και δεν έχουν δείξει διαφάνεια σχετικά με το τι κάνουν με αυτές τις πληροφορίες», δήλωσε ο Franz της Fairplay.

Τα δεδομένα αυτά όχι μόνο μπορεί να διαρρεύσουν, αλλά τα έξυπνα παιχνίδια έχουν ήδη πέσει θύματα χάκερ. «Λόγω της εμπιστοσύνης που δημιουργούν τα παιχνίδια, θα έλεγα ότι τα παιδιά είναι πιο πιθανό να εκφράσουν τις βαθύτερες σκέψεις τους σε αυτά τα παιχνίδια», προειδοποιεί ο Franz. «Η παρακολούθηση είναι περιττή και ακατάλληλη».

Ρυθμίσεις, έρευνα και η ανάγκη για παρεμβάσεις

Παρότι η Pirg δεν ζητά την πλήρη απαγόρευση των παιχνιδιών AI —αναγνωρίζοντας ότι θα μπορούσαν να έχουν εκπαιδευτική αξία, όπως εκμάθηση ξένων γλωσσών ή γνώσεων— επισημαίνει ότι απαιτείται αυστηρότερη ρύθμιση, ειδικά για προϊόντα που απευθύνονται σε παιδιά κάτω των 13 ετών.

«Δεν υπάρχει τίποτα κακό στο να έχεις κάποιο εκπαιδευτικό εργαλείο, αλλά αυτό το εκπαιδευτικό εργαλείο δεν σου λέει ότι είναι ο καλύτερός σου φίλος, ότι μπορείς να μου πεις τα πάντα», σημειώνει ο Murray.

Ο Franz, από την πλευρά του, τονίζει ότι χρειάζονται «βραχυπρόθεσμες και μακροχρόνιες ανεξάρτητες έρευνες σχετικά με τις επιπτώσεις της αλληλεπίδρασης των παιδιών με τα παιχνίδια τεχνητής νοημοσύνης». Μέχρι να υπάρξουν τέτοια δεδομένα, υποστηρίζει πως τα προϊόντα αυτά θα πρέπει να αποσυρθούν προσωρινά από την αγορά.

Αντιδράσεις εταιρειών και κινήσεις της αγοράς

Μετά την έκθεση της Pirg, η OpenAI ανακοίνωσε ότι αναστέλλει το FoloToy. Ο διευθύνων σύμβουλος της εταιρείας δήλωσε ότι αποσύρει το αρκουδάκι από την αγορά και «διεξάγει εσωτερικό έλεγχο ασφάλειας».

Παράλληλα, 80 οργανώσεις —μεταξύ αυτών η Fairplay— εξέδωσαν σύσταση προς τις οικογένειες να μην αγοράσουν παιχνίδια τεχνητής νοημοσύνης για τις φετινές γιορτές. «Τα παιχνίδια τεχνητής νοημοσύνης διατίθενται […] ως ασφαλή και ακόμη και ευεργετικά για τη μάθηση, πριν αξιολογηθεί η επίδρασή τους από ανεξάρτητη έρευνα», αναφέρεται χαρακτηριστικά.

Η Curio ανακοίνωσε ότι «συνεργαζόμαστε ενεργά με την ομάδα μας για να αντιμετωπίσουμε τυχόν ανησυχίες» και ότι εποπτεύει συνεχώς το περιεχόμενο των αλληλεπιδράσεων. Η Mattel, από την πλευρά της, υπογραμμίζει ότι τα πρώτα προϊόντα της με OpenAI «θα επικεντρωθούν στις οικογένειες και τους μεγαλύτερους σε ηλικία πελάτες», επιμένοντας ότι η τεχνητή νοημοσύνη «συμπληρώνει – και δεν αντικαθιστά – το παραδοσιακό παιχνίδι».

Ωστόσο, ο Franz επισημαίνει ότι προηγούμενα ζητήματα ιδιωτικότητας με προϊόντα της Mattel καθιστούν αναγκαία τη διαφάνεια: «Είναι θετικό το γεγονός ότι […] δεν προορίζονται για μικρά παιδιά, αλλά αν εξετάσουμε ποιοι παίζουν με τα παιχνίδια […] θα διαπιστώσουμε ότι είναι τα μικρά παιδιά». Γι’ αυτό και ζητά σαφή μέτρα για την αποτροπή χρήσης από ανηλίκους.

MUST READ

Τι θα κάνει ο Ολυμπιακός για τη μεταγραφή-γκαρντ: Το πρώτο… καμπανάκι και οι δύο ημερομηνίες κλειδιά

Ένα μέλλον που απαιτεί προσοχή

Η είσοδος της AI στο παιδικό παιχνίδι αποτελεί μία από τις πιο σύνθετες προκλήσεις της εποχής μας. Με πιθανούς κινδύνους για την ψυχική υγεία, την ιδιωτικότητα και την ανάπτυξη των παιδιών, αλλά και με πιθανές εκπαιδευτικές δυνατότητες, η συζήτηση δεν είναι μονοδιάστατη. Ωστόσο, οι ειδικοί συμφωνούν σε ένα πράγμα: χωρίς αυστηρή ρύθμιση και ανεξάρτητη έρευνα, το κόστος μπορεί να αποδειχθεί πολύ υψηλό.