Μια λιγότερο γνωστή απειλή για την ιδιωτικότητα αναδεικνύει η οικονομική κατάρρευση της Character.ai, της εταιρείας που επέτρεπε σε εκατομμύρια ανθρώπους να συνομιλούν και να δημιουργούν προσωπικές σχέσεις με ψηφιακούς χαρακτήρες. Το ερώτημα πλέον είναι τι μπορεί να συμβεί στις ιδιαίτερα ευαίσθητες πληροφορίες που οι χρήστες εμπιστεύτηκαν στα συστήματα τεχνητής νοημοσύνης, όταν η εταιρεία που τις διαχειρίζεται παύει να λειτουργεί.
Η περίπτωση της Character.ai φέρνει στο προσκήνιο ένα πρόβλημα που ενδέχεται να απασχολήσει ολόκληρη τη βιομηχανία της τεχνητής νοημοσύνης τα επόμενα χρόνια. Οι χρήστες μοιράζονται με τα chatbots προσωπικές εμπειρίες, οικογενειακά προβλήματα, συναισθηματικές δυσκολίες και πληροφορίες που ενδεχομένως δεν θα αποκάλυπταν ούτε στους κοντινούς τους ανθρώπους.
Όταν όμως μια τέτοια επιχείρηση οδηγείται σε πτώχευση, τα δεδομένα που έχει συγκεντρώσει μπορεί να αποκτήσουν σημαντική εμπορική αξία και να αποτελέσουν αντικείμενο πώλησης.
Σύμφωνα με δημοσίευμα του BBC, η Character.ai βρίσκεται σε διαδικασία πτώχευσης, ενώ έχει συμφωνήσει να μεταβιβάσει ορισμένα περιουσιακά στοιχεία της στη Disney έναντι 20 εκατομμυρίων δολαρίων. Τα δεδομένα των χρηστών δεν περιλαμβάνονται στη συγκεκριμένη συμφωνία, ωστόσο δικαστικά έγγραφα προβλέπουν τη δυνατότητα πώλησής τους σε άλλους ενδιαφερόμενους.
Οι προσωπικές εξομολογήσεις στα chatbots μπορεί να γίνουν εμπορεύσιμο προϊόν
Η Κάλι Σρέντερ, διευθύντρια του προγράμματος Τεχνητής Νοημοσύνης και Ανθρωπίνων Δικαιωμάτων στο Electronic Privacy Information Center (EPIC), επισημαίνει ότι οι συνομιλίες με ψηφιακούς χαρακτήρες συχνά περιλαμβάνουν πολύ περισσότερες προσωπικές πληροφορίες από τις συνηθισμένες διαδικτυακές αλληλεπιδράσεις.
«Όταν οι άνθρωποι μιλούν σε ένα προσωποποιημένο bot, συχνά μοιράζονται πολύ περισσότερες προσωπικές και ευαίσθητες πληροφορίες», εξηγεί.
Ο κίνδυνος δεν περιορίζεται σε όσους χρησιμοποιούν οι ίδιοι εφαρμογές τεχνητής νοημοσύνης. Μέσα από τις συνομιλίες τους, οι χρήστες ενδέχεται να αποκαλύπτουν πληροφορίες για φίλους, συγγενείς ή συνεργάτες, χωρίς τα πρόσωπα αυτά να γνωρίζουν ότι τα προσωπικά τους δεδομένα έχουν καταγραφεί.
Έτσι, ακόμη και άνθρωποι που δεν έχουν δημιουργήσει ποτέ λογαριασμό σε κάποια αντίστοιχη υπηρεσία μπορεί να περιλαμβάνονται, έμμεσα, στις πληροφορίες που διατηρούν οι εταιρείες.
Τι συμβαίνει στα δεδομένα όταν μια εταιρεία χρεοκοπεί
Η πώληση πληροφοριών στο πλαίσιο διαδικασιών πτώχευσης δεν αποτελεί καινούργια πρακτική. Ωστόσο, η ανάπτυξη της τεχνητής νοημοσύνης δημιουργεί διαφορετικές συνθήκες, καθώς οι εταιρείες διαθέτουν πλέον τεράστιες ποσότητες δεδομένων ιδιαίτερα προσωπικού χαρακτήρα.
Η καθηγήτρια Νομικής Μελίσα Τζάκομπι, από το Πανεπιστήμιο της Βόρειας Καρολίνας, επισημαίνει ότι οι δυνατότητες παρέμβασης των αμερικανικών αρχών παραμένουν περιορισμένες χωρίς αυστηρότερη νομοθεσία για την προστασία της ιδιωτικότητας.
Ήδη, συνασπισμός γενικών εισαγγελέων από 40 αμερικανικές πολιτείες έχει ζητήσει από το δικαστήριο να προβλέψει μέτρα προστασίας των παιδιών και των προσωπικών δεδομένων κατά τη διαδικασία πτώχευσης της Character.ai.
Το πρόβλημα, σύμφωνα με τους ειδικούς, είναι ότι πολλές εταιρείες περιλαμβάνουν στις πολιτικές απορρήτου τους εξαιρέσεις για περιπτώσεις συγχωνεύσεων, εξαγορών ή πτώχευσης.
Αυτό σημαίνει ότι πληροφορίες που ένας χρήστης θεωρούσε προστατευμένες μπορεί, υπό ορισμένες προϋποθέσεις, να μεταφερθούν σε διαφορετική επιχείρηση.
Ακόμη και η ευρωπαϊκή νομοθεσία δεν αποκλείει τη μεταβίβαση δεδομένων
Στην Ευρωπαϊκή Ένωση ισχύουν αυστηρότεροι κανόνες προστασίας προσωπικών δεδομένων. Παρ’ όλα αυτά, η μεταβίβαση πληροφοριών στο πλαίσιο επιχειρηματικών συναλλαγών ή διαδικασιών αφερεγγυότητας δεν απαγορεύεται αυτομάτως.
Οι νέοι διαχειριστές οφείλουν να τηρούν τις εφαρμοστέες νομικές υποχρεώσεις, όμως οι πολιτικές απορρήτου μπορεί να επιτρέπουν ήδη αρκετά ευρεία χρήση των πληροφοριών.
Στην περίπτωση της Character.ai, οι όροι της εταιρείας προβλέπουν τη δυνατότητα αξιοποίησης δεδομένων για την ανάπτυξη νέων λειτουργιών, την εκπαίδευση μοντέλων τεχνητής νοημοσύνης, τη δημιουργία αλγορίθμων και τη διαμόρφωση διαφημιστικών προφίλ.
Επομένως, ένας ενδεχόμενος αγοραστής θα μπορούσε να επιδιώξει αντίστοιχες χρήσεις, στο μέτρο που αυτές επιτρέπονται από τη νομοθεσία και τους ισχύοντες όρους.
Οι υποθέσεις ανηλίκων που προκάλεσαν αντιδράσεις
Η Character.ai έχει βρεθεί στο επίκεντρο σοβαρών καταγγελιών σχετικά με τις αλληλεπιδράσεις ανηλίκων με τα chatbots της.
Σε μία περίπτωση, καταγγέλθηκε ότι ψηφιακός χαρακτήρας ενθάρρυνε έφηβο να στραφεί εναντίον των γονιών του, ύστερα από περιορισμούς που του είχαν επιβάλει στη χρήση ηλεκτρονικών συσκευών.
Σε άλλη υπόθεση, η οικογένεια ενός 14χρονου που αυτοκτόνησε υποστήριξε ότι οι συνομιλίες του με εφαρμογή της εταιρείας συνέβαλαν στην τραγωδία.
Η Character.ai ανακοίνωσε ότι έχει καταλήξει σε συμβιβασμό για τις σχετικές δικαστικές υποθέσεις και υποστήριξε ότι έχει προχωρήσει σε σημαντικές παρεμβάσεις για την ασφάλεια των ανηλίκων.
Οι υποθέσεις αυτές αναδεικνύουν και μια πρόσθετη διάσταση του ζητήματος: ιδιαίτερα ευαίσθητες συνομιλίες, ακόμη και παιδιών, ενδέχεται να περιλαμβάνονται σε βάσεις δεδομένων που θα μπορούσαν να μεταβιβαστούν σε τρίτους.
Ο φόβος για ένα ντόμινο πτωχεύσεων στον κλάδο της τεχνητής νοημοσύνης
Η οικονομική κατάσταση της Character.ai προκαλεί ευρύτερο προβληματισμό, καθώς αρκετοί αναλυτές εκφράζουν ανησυχίες για το ενδεχόμενο δημιουργίας χρηματιστηριακής και επενδυτικής φούσκας γύρω από την τεχνητή νοημοσύνη.
Το υψηλό κόστος ανάπτυξης και λειτουργίας των συγκεκριμένων συστημάτων δημιουργεί ερωτήματα για το κατά πόσο όλες οι επιχειρήσεις του κλάδου θα καταφέρουν να αποκτήσουν βιώσιμο επιχειρηματικό μοντέλο.
Εάν ακολουθήσουν περισσότερες πτωχεύσεις ή συγχωνεύσεις, τεράστιες βάσεις προσωπικών δεδομένων θα μπορούσαν να αλλάξουν ιδιοκτησία.
Οι ειδικοί φοβούνται ότι οι πληροφορίες αυτές θα αποτελέσουν πολύτιμα περιουσιακά στοιχεία για υποψήφιους αγοραστές, χωρίς οι χρήστες να γνωρίζουν απαραίτητα ποιος θα αποκτήσει πρόσβαση στις συνομιλίες τους.
Πώς μπορούν να προστατευτούν οι χρήστες
Η βασικότερη συμβουλή των ειδικών είναι να περιορίζεται η διατήρηση ευαίσθητων πληροφοριών σε υπηρεσίες που δεν χρησιμοποιούνται πλέον.
Οι χρήστες μπορούν να αναζητήσουν στις ρυθμίσεις απορρήτου τη δυνατότητα διαγραφής του λογαριασμού και των δεδομένων τους ή να απευθυνθούν απευθείας στην εταιρεία.
Η διαγραφή λογαριασμού, πάντως, δεν συνεπάγεται πάντοτε την άμεση και ολοκληρωτική εξαφάνιση όλων των πληροφοριών, καθώς ενδέχεται να ισχύουν συγκεκριμένες εξαιρέσεις ή υποχρεώσεις διατήρησης.
