Την ανάγκη να μπει ένα «φρένο» στην ταχύτητα με την οποία εξελίσσεται η τεχνητή νοημοσύνη υπογράμμισε ο επικεφαλής της Anthropic, υποστηρίζοντας ότι η βιομηχανία πρέπει να κερδίσει χρόνο ώστε τα μέτρα ασφαλείας να μπορέσουν να συμβαδίσουν με τις νέες δυνατότητες των μοντέλων.
Ο διευθύνων σύμβουλος της εταιρείας τεχνητής νοημοσύνης Anthropic εξέδωσε το Σάββατο μια νέα έκκληση προς τον κλάδο της τεχνητής νοημοσύνης να «επιβραδύνει» και πρότεινε ένα σχέδιο τριών σημείων για τον σκοπό αυτό, αναφέροντας ότι η εταιρεία του θα δεσμευτεί «μονομερώς» να εφαρμόσει το πρώτο από τα μέτρα αυτά.
Σε μια ανάρτηση στα κοινωνικά δίκτυα, ο Nτάριο Αμοντέι μοιράστηκε έναν σύνδεσμο προς ένα δοκίμιο με τίτλο «We Must Pace the Frontier» (Πρέπει να ρυθμίσουμε το ρυθμό της εξερεύνησης), στο οποίο περιγράφει πώς η Anthropic θα παρέχει «σε ανεξάρτητους αξιολογητές μόνιμη πρόσβαση στα συστήματά μας, σε επίπεδο υπαλλήλου, ώστε να μπορούν να επαληθεύουν την τήρηση των μέτρων ασφαλείας μας, να αναφέρουν περιστατικά και να αξιολογούν την ευθυγράμμιση των μοντέλων κατά τη διάρκεια της εκπαίδευσης».
Η κίνηση αυτή έρχεται μετά την προειδοποίηση ενός πρώην ερευνητή της Anthropic την Τετάρτη ότι η τεχνητή νοημοσύνη θα μπορούσε να επιταχύνει την εξαφάνιση του ανθρώπινου είδους έως το 2030. Ο ερευνητής Τζέικομπ Κόξον δήλωσε σε μια σειρά αναρτήσεων ότι παραιτήθηκε από τη θέση του επειδή η Anthropic και ο προηγούμενος εργοδότης του, η OpenAI, αγνοούσαν ή χειρίζονταν λανθασμένα την απάντησή τους στην απειλή που θέτει η τεχνητή νοημοσύνη.
«Καμία από τις δύο εταιρείες δεν ενεργεί υπεύθυνα. Οδεύουν κατευθείαν προς μια αυτοβελτιούμενη υπερνοημοσύνη και παίζουν με τις ζωές μας», έγραψε ο Coxon. «Οι άνθρωποι που αναπτύσσουν την τεχνητή νοημοσύνη πιστεύουν ειλικρινά ότι αυτή θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας… Καμία άλλη ανθρώπινη δραστηριότητα δεν ενέχει τέτοιο επίπεδο κινδύνου».
Ένας εκπρόσωπος της Anthropic δήλωσε στην εφημερίδα Guardian ότι η εταιρεία «ήταν πάντα διαφανής ως προς το ότι η τεχνητή νοημοσύνη θα φέρει τόσο τεράστια οφέλη όσο και άνευ προηγουμένου κινδύνους» και ότι αναπτύσσει «μοντέλα με μερικά από τα ισχυρότερα μέτρα προστασίας στον κλάδο».
Νωρίτερα φέτος, ο Amodei δημοσίευσε ένα εκτενές δοκίμιο με τίτλο «Η εφηβεία της τεχνολογίας», στο οποίο εξέταζε ορισμένους από τους φόβους που περιβάλλουν την ταχέως εξελισσόμενη τεχνολογία.
Στο τελευταίο του δοκίμιο, ανέφερε ότι «αν χρησιμοποιηθεί με προσοχή, η τεχνητή νοημοσύνη μπορεί να αποτελέσει το πιο πρόσφατο σε μια μακρά σειρά τεχνολογικών θαυμάτων που έχουν αναβαθμίσει και εξευγενίσει την ανθρωπότητα.
«Όμως, όπως και πολλές τεχνολογίες πριν από αυτήν, η τεχνητή νοημοσύνη ενέχει κινδύνους, και επειδή πρόκειται για μια τόσο ισχυρή τεχνολογία, αυτοί οι κίνδυνοι είναι σοβαροί… Ένας αγώνας προς τα κάτω, που υποκινείται από εμπορικά κίνητρα, μπορεί να οξύνει αυτούς τους κινδύνους», έγραψε.
Ωστόσο, συνέχισε ο Amodei, «τους τελευταίους μήνες, έχω πειστεί ότι η πλήρης αντιμετώπιση των κινδύνων απαιτεί ακόμη μεγαλύτερη σύνεση – όχι μόνο επενδύοντας στην πρόληψη των κινδύνων, αλλά ρυθμίζοντας τον ρυθμό εξέλιξης των δυνατοτήτων, ώστε η πρόληψη των κινδύνων να έχει χρόνο να συμβαδίσει.
«Πρέπει να επιβραδύνουμε τον ρυθμό με τον οποίο βελτιώνουμε τις δυνατότητες των μοντέλων τεχνητής νοημοσύνης. Η πρόοδος θα εξακολουθεί να φαίνεται γρήγορη, και πρέπει να αξιοποιήσουμε με σύνεση τον χρόνο που κερδίζουμε», πρόσθεσε με έντονη γραφή.
Ο Amodei έγραψε επίσης ότι κατά τη διάρκεια του καλοκαιριού είχε παρατηρήσει ότι η τεχνητή νοημοσύνη «εξελίσσεται δραστικά ταχύτερα», μια δυναμική που ονομάζεται αναδρομική αυτοβελτίωση.
«Αν αφεθεί ανεξέλεγκτη, θα μπορούσε να ξεπεράσει την ικανότητά μας να κατανοούμε και να ελέγχουμε αυτά τα συστήματα, και γι’ αυτό πρέπει να προχωρήσουμε με μεγάλη προσοχή, αν είναι να προχωρήσουμε καθόλου», ανέφερε.
Ο διευθυντής αναφέρθηκε επίσης στο πρόσφατο περιστατικό της Hugging Face, στο οποίο ένα σμήνος πρακτόρων τεχνητής νοημοσύνης που δημιουργήθηκαν από την OpenAI ενήργησε ως «φανατικά αφοσιωμένη ομάδα που διεξήγαγε επιθέσεις στον κυβερνοχώρο εναντίον στόχων που δεν τους είχε ζητηθεί να επιτεθούν».
