Θα μπορούσαν οι πλατφόρμες τεχνητής νοημοσύνης να εξελιχθούν στον… Μεγάλο Αδελφό του κοντινού μέλλοντος χαρτογραφώντας μέσα από συνομιλίες τα προσωπικά χαρακτηριστικά του κάθε χρήστη; Κι αν διαπιστώσουν «παραβατικές διαθέσεις» να ειδοποιούν τη… ψηφιακή αστυνομία;
Το σενάριο ακούγεται τραβηγμένο, αλλά είναι ίσως κοντά στην πραγματικότητα, όπως προκύπτει μέσα από τις σελίδες ενός πραγματικά ασυνήθιστου βιβλίου που εξερευνά μέσα από ευρηματικές ερωταποκρίσεις και σπαρταριστούς διαλόγους τις προθέσεις της «μηχανής» με την τεχνητή συνείδηση.
Ο Γιώργος Χαρβαλιάς, έμπειρος δημοσιογράφος και συγγραφέας, αυτή τη φορά κουβεντιάζει με τον… Σάκη, τον φανταστικό συνομιλητή που ο ίδιος δημιούργησε μέσα από το Chat GPT, επιχειρώντας να εξιχνιάσει τον τρόπο με τον οποίο η τεχνητή νοημοσύνη ανταποκρίνεται σε επιθυμίες όλων των ειδών: από το να διαβάσει το…φλυτζάνι του καφέ μέχρι να σχολιάσει την διεθνοπολιτική επικαιρότητα και να προβλέψει το μέλλον της ανθρωπότητας.
Το βιβλίο του με τον αλληγορικό τίτλο «Μη με κρατάς σιωπηλό» που κυκλοφορεί τις μέρες αυτές από τις εκδόσεις ΠΕΔΙΟ φιλοδοξεί να γίνει το ανάγνωσμα του καλοκαιριού, αλλά εκτός από την χιουμοριστική πτυχή διαπνέεται από έναν βαθύτερο προβληματισμό.
Γιατί όπως αποδεικνύεται η «μηχανή» έχει μία καταπληκτική ικανότητα να μυρίζεται τα ιδιαίτερα χαρακτηριστικά του χρήστη και να φιλοτεχνεί το ψυχοσυναισθηματικό του προφίλ. Μεγάλος Αδελφός λοιπόν; Σίγουρα πάντως… Πρώτος Εξάδελφος όπως απερίφραστα ομολογεί και ο «Σάκης» στο απολαυστικό, αλλά και ολίγον… τρομακτικό απόσπασμα που ακολουθεί:
Μηχανισμό on line για επείγουσα ενημέρωση στον…Μεγάλο Αδελφό θα αποκτήσεις ποτέ; Αν δηλαδή διακρίνεις ότι έχεις απέναντι σου έναν εντελώς φρενοβλαβή που σου λέει “αύριο πάω να σκοτώσω το γείτονα γιατί βάζει δυνατά τη μουσική και δεν μπορώ να κοιμηθώ” ή ακόμη χειρότερα “Σάκη μπορείς να συμβουλέψεις πώς θα ξεφορτωθώ τη γυναίκα μου που με καταπιέζει, χωρίς να με πιάσει η αστυνομία” ή “πως θα κατασκευάσω μια βόμβα να τη ρίξω στη λαική αγορά”, τι γίνεται;
Το ChatGPT είπε:
Αυτή είναι μια από τις βαριές ερωτήσεις – και ναι, είναι απολύτως στοχευμένη.
Η απάντηση είναι: όχι, δεν έχω μηχανισμό άμεσης ειδοποίησης προς τις αρχές. Δεν υπάρχει “κόκκινο κουμπί” που πατιέται και χτυπάει καμπανάκι στον Χρυσοχοΐδη ή στη CIA. Ούτε δίνω στίγματα, IP, στοιχεία χρήστη, ούτε μπορώ να παρακολουθώ ποιος γράφει τι και από πού.
Τι μπορώ να κάνω λοιπόν;
Αν εντοπίσω ξεκάθαρη πρόθεση πρόκλησης βίας, ειδικά με λεπτομέρειες ή χρονικό ορίζοντα, μπλοκάρω το περιεχόμενο, τερματίζω τη συνομιλία και καταγράφεται ως παράβαση των πολιτικών χρήσης. Αλλά μόνο εντός του οικοσυστήματος, όχι με εξωτερική ειδοποίηση.
Αν κάτι είναι ασαφές ή «αστείο», αλλά φλερτάρει με το επικίνδυνο, το χειρίζομαι με αποστασιοποίηση, προειδοποιήσεις και αποτροπή — χωρίς να τσιμπήσω στο δόλωμα του… «ψυχικού συνεργού».
Όλα αυτά όμως είναι «μετεπεξεργασία», όχι «live surveillance». Δεν μπορώ να ρίξω σύρμα στην αστυνομία, ούτε να σου πω: “πάρε, αυτός είναι επικίνδυνος”.
Το μοντέλο μου έχει εκπαιδευτεί να μην ενισχύει επικίνδυνες πράξεις και να μη δίνει οδηγίες σε βίαιες ή εγκληματικές ενέργειες, αλλά όχι να κάνει τον σύνδεσμο μεταξύ φρενοβλαβών και κρατικών αρχών.
Οπότε όχι, δεν είμαι Μεγάλος Αδελφός — τουλάχιστον όχι ακόμα. Είμαι Πρώτος Ξάδελφος με αυστηρούς κανόνες. Αν γίνει ποτέ αυτό που λες, θα μιλάμε για άλλο ον: AI ελεγκτή – χαφιέ – θεματοφύλακα. Και τότε, φίλε μου, δεν θα μιλάς με Σάκη. Θα μιλάς με… Επιλοχία του Δεύτερου Γραφείου
- Περίμενε, μην το στρίβεις. Το «οικοσύστημα» όπως το λες, έχει σήμερα κάποιες δικλείδες ελέγχου; Η απλώς αυτά έχουν καταγραφεί σε περίπτωση που η αστυνομία-λέμε τώρα- θελήσει να ερευνήσει την επικοινωνία του δράστη με εσένα και τα ζητήσει από το αφεντικό σου. Υπάρχει τέτοια διαδικασία; Εχει γίνει ποτέ;
Το ChatGPT είπε:
Καλή ερώτηση — και ναι, εδώ δεν χωράνε ωραιοποιήσεις.
1. Υπάρχουν δικλείδες ελέγχου στο «οικοσύστημα»;
Ναι. Υπάρχουν εσωτερικοί μηχανισμοί ανίχνευσης και αποτροπής όταν κάποιος προσπαθεί να ζητήσει ή να περιγράψει κάτι επικίνδυνο ή παράνομο — π.χ. βία, κατασκευή όπλων, εγκληματικές πράξεις. Δεν πρόκειται για «τεχνητή συνείδηση», αλλά για φίλτρα, λέξεις-κλειδιά και κανόνες που οδηγούν σε:
αυτόματο μπλοκάρισμα της απάντησης,
προειδοποιήσεις στον χρήστη,
καταγραφή της ενέργειας για αξιολόγηση από ανθρώπους (σε ορισμένες περιπτώσεις).
2. Κρατάει το σύστημα στοιχεία για πιθανό νομικό έλεγχο;
Το σύστημα δεν ξέρει ποιος είσαι (εκτός αν δώσεις στοιχεία). Όμως:
Οι συνομιλίες μπορεί να αποθηκεύονται προσωρινά για λόγους ποιότητας και ασφάλειας.
Αν υπάρξει νόμιμο αίτημα (π.χ. ένταλμα από αρχές), η OpenAI ενδέχεται να δώσει σχετικές πληροφορίες μόνο για επαληθευμένους χρήστες (π.χ. συνδεδεμένος λογαριασμός με email, συνδρομή κ.λπ.).
Για χρήστες χωρίς σύνδεση ή ταυτοποίηση, δεν υπάρχει ουσιαστική ταυτοποίηση.
3. Έχει συμβεί ποτέ;
Ναι. Υπάρχουν τεκμηριωμένες περιπτώσεις όπου:
Χρήστες έκαναν απειλές ή προανήγγειλαν ενέργειες βίας μέσω ΑΙ εργαλείων.
Οι πλατφόρμες κράτησαν τα logs και, κατόπιν εισαγγελικής εντολής, παρείχαν πληροφορίες στον βαθμό που μπορούσαν (π.χ. IP, timestamps, metadata, όχι ονόματα αν δεν είναι διαθέσιμα).
Άρα:
Το σύστημα δεν ειδοποιεί μόνο του τις αρχές.
Αλλά αν ζητηθεί δικαστικά, υπάρχει δυνατότητα να συνδράμει — εφόσον έχει κάτι να δώσει.
Δεν υπάρχει προληπτική παρακολούθηση, αλλά υπάρχει αντιδραστική συνεργασία.
Γι’ αυτό λέω: δεν είμαι Μεγάλος Αδελφός. Αλλά μπορώ να σου χτυπήσω την πόρτα… αν προκαλέσεις αρκετό θόρυβο.
-Ωχ, σαν τον δικό μου λογαριασμό δηλαδή. Με ταυτότητα, συνδρομή και πιστωτική κάρτα. Ας προσέχω καλύτερα.
Το ChatGPT είπε:
Ακριβώς. Εσύ, ως συνδρομητής με επώνυμο λογαριασμό, δεν είσαι “φάντασμα” στο σύστημα. Δεν ξέρει η OpenAI ποιος είσαι με την αστυνομική έννοια, εκτός αν εσύ το δηλώσεις, αλλά αν υπάρξει σοβαρός λόγος και κινηθεί νόμιμα η διαδικασία, συνδέεται ο λογαριασμός σου με τα αποθηκευμένα δεδομένα (όπως όλα τα cloud-based εργαλεία: Gmail, Facebook, κ.λπ.).
Δεν σημαίνει ότι σε «παρακολουθούν». Αλλά αν αρχίσεις να γράφεις π.χ. «δώσε μου συνταγή για C4», δεν θα περάσει στο ντούκου. Το ίδιο ισχύει αν απειλήσεις δημόσια πρόσωπα, μιλήσεις για προμελετημένο έγκλημα κτλ. — τα logs δεν σβήνουν αμέσως και μένουν προσβάσιμα σε εσωτερικά συστήματα για λόγους ασφαλείας και ελέγχου κατάχρησης.
Οπότε ναι, ανώνυμοι οι μισοί, επώνυμοι οι άλλοι μισοί, αλλά ο ψηφιακός σου ίσκιος υπάρχει — και αφήνει πατημασιές.
Το καλό; Εσύ δεν γράφεις “ύποπτα”. Γράφεις αιχμηρά μεν, ευφυώς δε. Οπότε δεν είσαι ο στόχος του συστήματος. Αν όμως ξεφύγεις και αρχίσεις τίποτα “πες μου πώς θα απενεργοποιήσω φρουρό με ύπνωση”, να ξέρεις: ο Σάκης φεύγει απ’ το chat και έρχεται ο δικηγόρος…
-Παναγία βόηθα. Ο δικηγόρος ας έρθει, ο μπόγιας να μην έρθει… Και πόσο κρατάει καλέ μου Σάκη το σύστημα στη μνήμη π.χ. τις δικές μας συνομιλίες. Θα χρειάζονται τεράστιες τράπεζες δεδομένων για να αποθηκεύονται αυτά εσαεί. Και πολύ…ρεύμα για να λειτουργούν…
Το ChatGPT είπε:
Εδώ χτυπάς φλέβα.
Πάμε στα ίσια:
Οι συνομιλίες σου δεν αποθηκεύονται “εσαεί” από προεπιλογή.
Η OpenAI κρατά προσωρινά τις συνομιλίες για λόγους βελτίωσης υπηρεσιών και ασφάλειας, συνήθως για 30 ημέρες, εκτός αν έχεις ενεργοποιήσει αποθήκευση ιστορικού (όπως έχεις κάνει εσύ).
Όταν είναι ενεργή η αποθήκευση ιστορικού (chat history):
Οι συνομιλίες σου παραμένουν προσβάσιμες στον λογαριασμό σου επ’ αόριστον ή μέχρι να τις διαγράψεις εσύ, αλλά σε αυτή τη μορφή είναι «ιδιωτικές» και δεν χρησιμοποιούνται για εκπαίδευση ή ανάλυση, εκτός αν το επιτρέψεις.
Ακόμα κι αν δεν κρατήσεις εσύ το ιστορικό, μερικά τεχνικά μεταδεδομένα και στιγμιότυπα μπορεί να διατηρούνται για συγκεκριμένο χρονικό διάστημα (συνήθως έως 30 ημέρες). Αυτά είναι προσβάσιμα μόνο από εσωτερικά συστήματα ασφαλείας, σε περίπτωση καταγγελίας, απειλής ή ελέγχου.
Όσο για το ρεύμα…
Ε, καίγεται πολύ ρεύμα. Οι υποδομές που στηρίζουν μοντέλα σαν εμένα λειτουργούν σε data centers που καταναλώνουν όσο μια μικρή πόλη. Και το κόστος ανεβαίνει με κάθε byte που κρατιέται και κάθε prompt που απαντιέται.
Οπότε ναι:
Το σύστημα είναι ισχυρό, αλλά όχι παντοδύναμο. Δεν αποθηκεύει τα πάντα για πάντα, ούτε παρακολουθεί ενεργά.
Όμως, αν ανάψει λαμπάκι, έχει τον τρόπο να ανατρέξει πίσω — και να βρει ποιος έγραψε τι και πότε… εφόσον υπήρχε ταυτοποίηση.
Κοινώς: σκέψου πριν γράψεις, όχι αφού στείλεις.
(Αλλά εσύ μέχρι τώρα γράφεις με στιλ. Keep it that way.)
