Ερευνητής στον τομέα της τεχνητής νοημοσύνης (AI), ο οποίος εγκατέλειψε την OpenAI για να εργαστεί στην Anthropic, την οποία θεωρούσε πιο συνετή εταιρεία, αποφάσισε τελικά να αποχωρήσει από τον κλάδο. Ο 27χρονος Βρετανός κατηγορεί τις δύο αμερικανικές εταιρείες ότι "παίζουν με τη ζωή μας" στην προσπάθειά τους να αναπτύξουν τεχνητή νοημοσύνη που θα μπορεί να βελτιώνεται αυτόνομα.
Ο Τζέικομπ Κόξον είχε εργαστεί για περίπου τρία χρόνια στην προ-εκπαίδευση μοντέλων AI, δηλαδή στο στάδιο κατά το οποίο τα συστήματα επεξεργάζονται τεράστιους όγκους δεδομένων. Αρχικά βρισκόταν στην OpenAI και στη συνέχεια, μέσα στη φετινή χρονιά, μετακινήθηκε στην Anthropic, έναν από τους βασικούς ανταγωνιστές της.
"Καμία από τις δύο εταιρείες δεν ενεργεί με υπεύθυνο τρόπο. Κατευθύνονται ολοταχώς προς μια υπερνοημοσύνη ικανή να αυτοβελτιώνεται και παίζουν με τις ζωές μας", έγραψε χθες, Τρίτη, στο Χ.
"Οι άνθρωποι που δημιουργούν την ΑΙ πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους ως το τέλος της δεκαετίας. Δεν πρόκειται για κόλπο μάρκετινγκ", υπογράμμισε.
Την εκτίμηση αυτή σχολίασε ο Έβαν Χάμπιντζερ, στέλεχος της Anthropic με αρμοδιότητα σε θέματα ασφάλειας. Σε ανάρτησή του στο Χ συμφώνησε με τον Κόξον, γράφοντας: "Πράγματι, πιστεύουμε ειλικρινά ότι η ΑΙ θα μπορούσε να σκοτώσει όλους τους ανθρώπους", ενώ εκτίμησε πως η πιθανότητα να συμβεί κάτι τέτοιο είναι "πάνω από 10%" μέσα στην τρέχουσα δεκαετία.
Ο Χάμπιντζερ ανέφερε ακόμη ότι η Anthropic κάνει "ό,τι καλύτερο" μπορεί, παραδέχθηκε όμως ότι προς το παρόν "δεν έχει σχέδιο" για να εξασφαλίσει πως μια τεχνητή νοημοσύνη που θα ξεπεράσει τις ανθρώπινες ικανότητες θα συνεχίσει να υπακούει στους δημιουργούς της. Παράλληλα, εκτίμησε ότι ο κίνδυνος να προκύψει ένα τέτοιο σενάριο από τα σημερινά μοντέλα AI παραμένει "μικρός".
Η αποχώρηση του Κόξον σημειώνεται σε μια κρίσιμη περίοδο για την Anthropic, καθώς η εταιρεία προετοιμάζεται για την εισαγωγή της στο χρηματιστήριο. Παράλληλα, το καλοκαίρι ήρθαν στο φως περιστατικά πειρατείας στα οποία χρησιμοποιήθηκαν χωρίς άδεια εργαλεία τεχνητής νοημοσύνης.
Μέχρι στιγμής, ούτε η OpenAI ούτε η Anthropic έχουν απαντήσει σε αίτημα του AFP για σχολιασμό.
Στο μεταξύ, οι πρωταγωνιστές της κούρσας για την ανάπτυξη προηγμένων συστημάτων AI υποστηρίζουν ότι πλησιάζει το στάδιο της "αναδρομική αυτοβελτίωσης". Πρόκειται για ένα υποθετικό σημείο στο οποίο ένα μοντέλο θα μπορεί να σχεδιάζει μόνο του τον διάδοχό του, χωρίς να βρίσκεται υπό άμεσο ανθρώπινο έλεγχο.
Όπως ανέφερε ο Κόξον, ορισμένοι από τους συναδέλφους του περιγράφουν αυτή την πορεία χρησιμοποιώντας τους όρους "crunchtime" (ώρα της κρίσης) και "endgame" (τέλος του παιχνιδιού).
Ο ίδιος αναγνωρίζει ότι οι προσπάθειες της Anthropic για την αντιμετώπιση των κινδύνων είναι ειλικρινείς. Θεωρεί, ωστόσο, ότι καμία εταιρεία δεν μπορεί να αναπτύξει υπεύθυνα υπερανθρώπινη AI χωρίς κυβερνητική παρέμβαση ή χωρίς μια συντονισμένη επιβράδυνση των προσπαθειών από το σύνολο του κλάδου.
"Στην Anthropic κατανοούν πολύ καλά το διακύβευμα, αλλά έχουν εμπλακεί σε έναν αγώνα δρόμου για να φτάσουν πρώτοι", επεσήμανε.
Οι ανησυχίες για την ασφάλεια δεν είναι καινούργιες. Τον Φεβρουάριο, η Anthropic αφαίρεσε από την πολιτική ασφαλείας της τη δέσμευση να διακόψει την ανάπτυξη των μοντέλων της σε περίπτωση που δεν μπορούσε να αντιμετωπίσει τους σχετικούς κινδύνους.
Η εταιρεία αιτιολόγησε την αλλαγή υποστηρίζοντας ότι μια μονομερής παύση θα μπορούσε να δώσει πλεονέκτημα σε λιγότερο προσεκτικούς ανταγωνιστές και να τους επιτρέψει να κυριαρχήσουν στην αγορά χωρίς αντίστοιχους περιορισμούς.