Τα συστήματα τεχνητής νοημοσύνης όπως το ChatGPT έχουν γίνει για πολλούς το «νέο Google»: ρωτάς τα πάντα, από συνταγές μέχρι ιατρικές απορίες.
Όμως, όσο εύχρηστο κι αν είναι, δεν είναι αλάνθαστο. Μπορεί να δώσει λανθασμένες πληροφορίες, να μπερδέψει ημερομηνίες, να «εφεύρει» πηγές. Μερικές φορές, κάνει λάθη ακόμη και σε μαθηματικές πράξεις.
Πώς μπορούμε, λοιπόν, να καταλάβουμε ότι μας έδωσε μια λανθασμένη απάντηση και τι μπορούμε να κάνουμε για να το διορθώσουμε;
Μην αφήνεις το ChatGPT να σκέφτεται αντί για σένα
Η μεγαλύτερη παγίδα του ChatGPT είναι η άνεση που προσφέρει. Επειδή «γράφει» αντί για εσένα, υπάρχει ο πειρασμός να διαβάσεις βιαστικά ή και καθόλου αυτό που παράγει.
Όμως το γεγονός ότι το εργαλείο εκτελεί το τεχνικό κομμάτι της δουλειάς δεν σημαίνει ότι μπορεί να αντικαταστήσει τη δική σου κρίση.
Κάθε απάντηση —ιδίως όταν πρόκειται να δημοσιευτεί, να χρησιμοποιηθεί σε επαγγελματικό περιβάλλον ή να επηρεάσει αποφάσεις— χρειάζεται διάβασμα, έλεγχο και σύγκριση με όσα ήδη γνωρίζεις. Ρώτα τον εαυτό σου: «Αυτό που διαβάζω βγάζει νόημα; Ταιριάζει με αυτά που ήδη ξέρω;».
Το ChatGPT δεν πρέπει να αντικαταστήσει τη σκέψη.
Όταν η AI επινοεί γεγονότα και πρόσωπα
Ένα από τα πιο συχνά και πιο επικίνδυνα προβλήματα είναι το λεγόμενο hallucination, όταν δηλαδή το ChatGPT επινοεί λεπτομέρειες χωρίς να το καταλαβαίνει.
Μπορεί να παρουσιάσει ανύπαρκτες μελέτες, να συνθέσει ποσοστά από το μυαλό του, να αποδώσει δηλώσεις σε «λάθος» ανθρώπους ή να μπερδέψει ημερομηνίες.
Το δυσάρεστο είναι ότι όλα αυτά τα κάνει με απόλυτη σιγουριά και σε άψογη γλώσσα. Έτσι, η ανακρίβεια μπορεί εύκολα να περάσει απαρατήρητη, μέχρι να την εντοπίσεις σε μια πραγματική πηγή και να συνειδητοποιήσεις ότι τίποτα δεν αντιστοιχεί στην πραγματικότητα.
Συχνά το λάθος αποκαλύπτεται όταν η απάντηση αντιφάσκει με κάτι που ήδη γνωρίζεις ή όταν δεν μπορεί να επαληθευτεί πουθενά, όσο εύκολη κι αν είναι η αναζήτηση. Αν η πληροφορία δεν «στέκεται» πουθενά έξω από το ίδιο το ChatGPT, υπάρχει σοβαρό ενδεχόμενο να έχει παραχθεί μέσω της μηχανικής φαντασίας.
Γενικόλογες απαντήσεις και αυθαίρετες προσθήκες
Ένας άλλος τρόπος να εντοπίσεις ότι κάτι ίσως δεν πάει καλά είναι η εμφάνιση γενικόλογων διατυπώσεων.
Όταν το μοντέλο απαντά με αόριστα «οι ειδικοί λένε» ή «έρευνες δείχνουν», χωρίς ούτε μία συγκεκριμένη αναφορά, ενδέχεται να καλύπτει κενά γνώσης με αφηρημένη γλώσσα. Έτσι, απλά «μαζεύει» γενικές φράσεις από τα κείμενα στα οποία έχει εκπαιδευτεί και σου σερβίρει μια απάντηση που δεν πατάει κάπου συγκεκριμένα.
Το ίδιο ισχύει και όταν ξεφεύγει από αυτό που του ζήτησες και προσθέτει δικές του υποθέσεις, συμπεράσματα ή νοήματα.
Το ChatGPT τείνει να «γεμίζει τα κενά» για να παραδώσει μια πλήρη, συνεκτική απάντηση, ακόμη κι όταν η πραγματική πληροφορία απλώς δεν υπάρχει.
Το ChatGPT δεν είναι Google
Κάτι που συχνά παραβλέπουμε είναι ότι το ChatGPT δεν είναι μηχανή αναζήτησης και δεν λειτουργεί όπως το Google. Ακόμα και όταν λέει ότι «σκέφτεται» ή ότι κάνει αναζήτηση, δεν μπαίνει ζωντανά στο διαδίκτυο, δεν έχει έναν ενημερωμένο κατάλογο με όλες τις πληροφορίες του κόσμου και δεν «τραβάει» την τελευταία είδηση από τα sites.
Η δύναμή του δεν βρίσκεται στην ακριβή, επίκαιρη πληροφόρηση, με λίγα λόγια στα γεγονότα και τα στοιχεία, αλλά στη σύνθεση, την αναδιατύπωση και τη δημιουργικότητα. Είναι ιδανικό για brainstorming, για την παραγωγή κειμένων, για περιλήψεις ή για τη δομή ενός άρθρου — όχι για να σου δώσει με βεβαιότητα τα πραγματικά δεδομένα μιας είδησης.
Αν θέλεις να ελέγξεις κάτι, μπορείς να του ζητήσεις να αναζητήσει online τις σχετικές πληροφορίες, όμως ακόμη και τότε ο τελικός έλεγχος πρέπει να γίνει από εσένα: τα link πρέπει να ανοιχτούν, οι πηγές να αξιολογηθούν και τα δεδομένα να συγκριθούν.
Χρήσιμες τεχνικές για να προστατευτούν οι χρήστες
Ένα απλό πείραμα αρκεί για να φανεί αν μια απάντηση είναι εύθραυστη: άνοιξε μια νέα συνομιλία και ζήτα του να την επανεξετάσει. Το ChatGPT συχνά αναθεωρεί, διατυπώνει πιο προσεκτικά ή αλλάζει εντελώς ορισμένα σημεία όταν το ρωτήσεις «είσαι σίγουρο;».
Εξίσου αποκαλυπτικό είναι το κουμπί «Regenerate response». Αν η νέα απάντηση διαφέρει σημαντικά από την προηγούμενη —ειδικά όταν πρόκειται για αντικειμενικά δεδομένα— τότε μάλλον καμία από τις δύο δεν πρέπει να θεωρηθεί δεδομένη χωρίς επιβεβαίωση από εξωτερικές πηγές.
Χρήσιμη είναι και η σύγκριση ανάμεσα σε διαφορετικά μοντέλα τεχνητής νοημοσύνης, όταν υπάρχει αυτή η δυνατότητα. Αν οι απαντήσεις διαφέρουν αισθητά μεταξύ τους, τότε αυτό από μόνο του είναι ένδειξη ότι χρειάζεται επιπλέον έρευνα.
