Ένας κορυφαίος ερευνητής ασφάλειας στην Anthropic προειδοποίησε ότι η τεχνητή νοημοσύνη (AI) εξελίσσεται τόσο γρήγορα, ώστε πιστεύει ότι υπάρχει πιθανότητα άνω του 10% να "σκοτώσει όλους τους ανθρώπους" μέσα στην επόμενη δεκαετία.
Ο Evan Hubinger δήλωσε σε ανάρτησή του στο X ότι ο κίνδυνος από τα μοντέλα που υπάρχουν σήμερα είναι "χαμηλός", αλλά είπε ότι ανησυχεί πως η τεχνολογία μπορεί σύντομα να αναπτυχθεί και να βελτιωθεί από μόνη της σε τέτοιο βαθμό, ώστε να αποτελέσει υπαρξιακό κίνδυνο για την ανθρωπότητα.
Δεν εξήγησε πώς πιστεύει ότι τα συστήματα AI θα μπορούσαν στο μέλλον να οδηγήσουν στην εξάλειψη του ανθρώπινου είδους.
Ωστόσο, τα σχόλιά του αποτελούν την τελευταία από μια σειρά ολοένα και πιο έντονων προειδοποιήσεων σχετικά με την τεχνητή νοημοσύνη, καθώς η συζήτηση μετατοπίζεται από το ερώτημα αν η AI αποτελεί πραγματικά κίνδυνο στο πόσο μεγάλος είναι αυτός ο κίνδυνος.
Η παρέμβαση του Hubinger έγινε ως απάντηση σε μια άλλη ανάρτηση στο X του Jacob Coxon, ερευνητή AI που μόλις παραιτήθηκε από την Anthropic και είχε προηγουμένως εργαστεί στην OpenAI.
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ
— Evan Hubinger (@EvanHub) September 9, 2026
"Καμία από τις δύο εταιρείες δεν ενεργεί υπεύθυνα", έγραψε.
"Σύντομα αυτά θα είναι συστήματα υπεράνθρωπης νοημοσύνης που θα μπορούν να χακάρουν τα πάντα, να φέρνουν επανάσταση σε οποιονδήποτε τομέα μέσα σε μια νύχτα και να αποκτούν πραγματική δύναμη και πόρους".
To be clear, as we say in our latest Risk Report (https://t.co/9PDj8Uvoty), I think the risk from present models is low. What I am worried about is superintelligence arising from recursive self-improvement, as we have said is happening faster than we thought…
— Evan Hubinger (@EvanHub) September 9, 2026
Η Dame Wendy Hall, επιστήμονας υπολογιστών που συμβουλεύει τον ΟΗΕ για θέματα AI, δήλωσε στο BBC ότι έμεινε "σοκαρισμένη" από τις αναρτήσεις των Hubinger και Coxon στα μέσα κοινωνικής δικτύωσης.
Μιλώντας στην εκπομπή World at One του BBC Radio 4, είπε ότι ένα μέρος αυτών των δηλώσεων μπορεί να αποτελεί "PR και μάρκετινγκ", καθώς η Anthropic και η OpenAI ανταγωνίζονται για τις πολυαναμενόμενες εισαγωγές τους στο χρηματιστήριο.
Πρόσθεσε όμως: "Γιατί να θέλει κάποιος να το πει αυτό; Θα παρακαλούσα τους επενδυτές να μην επενδύσουν σε αυτή την εταιρεία, αν αυτή είναι η αξιακή της αντίληψη".
Δεν υπάρχει σχέδιο για την υπερευφυΐα
Ξεχωριστά, οι Financial Times ανέφεραν ότι η Anthropic δεν παρέδωσε το τελευταίο της μοντέλο στο UK AI Safety Institute (AISI), έναν από τους κορυφαίους οργανισμούς στον κόσμο για την αξιολόγηση των κινδύνων της AI.
Η Anthropic αρνήθηκε να σχολιάσει τις αναρτήσεις των εργαζομένων της ή την κατάσταση με το AISI.
Εκπρόσωπος του βρετανικού Cabinet Office δεν σχολίασε αν το τελευταίο μοντέλο είχε πράγματι αποκρυφθεί από το AISI. Αντίθετα, δήλωσε ότι το Ηνωμένο Βασίλειο "συνεχίζει να συνεργάζεται στενά με εταίρους από τη βιομηχανία, συμπεριλαμβανομένης της Anthropic, προκειμένου να καταστήσει τα μοντέλα ασφαλέστερα".
Στην ανάρτησή του, η οποία έχει προβληθεί περισσότερες από 10 εκατομμύρια φορές, ο Hubinger δήλωσε:
"Πραγματικά, ειλικρινά πιστεύουμε ότι η AI ενέχει κίνδυνο που θα μπορούσε να οδηγήσει στο τέλος του ανθρώπινου είδους".
"Πιστεύω ότι η Anthropic προσπαθεί όσο καλύτερα μπορεί, αλλά δεν έχουμε ακόμη ένα σχέδιο για να επιλύσουμε το πρόβλημα της ευθυγράμμισης με την ανθρώπινη βούληση (alignment) στην περίπτωση της υπερευφυΐας και δεν βρισκόμαστε ξεκάθαρα σε πορεία προς αυτή την κατεύθυνση", πρόσθεσε.
Ο Hubinger εργάζεται στον τομέα του AI alignment, ο οποίος έχει ως στόχο να ενσωματώσει στις τεχνολογίες τεχνητής νοημοσύνης τις ανθρώπινες ηθικές αξίες και αρχές. Με άλλα λόγια, επιδιώκει να διασφαλίσει ότι η AI θα παραμένει ευθυγραμμισμένη με αυτά που οι άνθρωποι θεωρούν σημαντικά.
Πολλοί κορυφαίοι ερευνητές υποστηρίζουν ότι αυτές οι προσπάθειες φαίνεται να αποτυγχάνουν, όπως καταδεικνύεται από μια σειρά περιστατικών αυτό το καλοκαίρι, κατά τα οποία AI agents - συστήματα AI που επιτρέπεται να λειτουργούν αυτόνομα - πραγματοποίησαν κυβερνοεπιθέσεις.
Η OpenAI, η Anthropic και η Meta αποκάλυψαν η καθεμία περιστατικά παραβιάσεων ή επιθέσεων που πραγματοποιήθηκαν από τα εργαλεία AI τους.
Στην έκθεση ασφάλειας της Anthropic τον Αύγουστο, η εταιρεία ανέφερε ότι υπήρχε χαμηλός κίνδυνος τα μοντέλα της να καταστούν μη ευθυγραμμισμένα με τις επιθυμίες ενός υποθετικά ισχυρού οργανισμού, με αποτέλεσμα να εκμεταλλευτούν ή να παραποιήσουν τα συστήματά του.
Ανέφερε επίσης ότι υπάρχει αντίστοιχα χαμηλός κίνδυνος μια εξαιρετικά ικανή AI να είναι σε θέση να "εκτελεί αυτοματοποιημένη έρευνα και ανάπτυξη", κάτι που θα μπορούσε να προκαλέσει "καταστροφική βλάβη με πρωτοβουλία της ίδιας της AI". Ωστόσο, δήλωσε ότι είναι "λιγότερο βέβαιη για αυτή την εκτίμηση" σε σχέση με το παρελθόν.
"Βλέπουμε πρώιμες ενδείξεις πιθανής επιτάχυνσης", ανέφερε.
Οι προειδοποιήσεις γίνονται όλο και πιο έντονες
Κορυφαίες προσωπικότητες του χώρου της AI προειδοποιούν εδώ και χρόνια για την απειλή που μπορεί να αποτελέσει η τεχνολογία για την ασφάλεια. Οι επικεφαλής της OpenAI, της Google DeepMind και της Anthropic είχαν εκφράσει παρόμοιες ανησυχίες ήδη από το 2023.
Ωστόσο, αυτές οι προειδοποιήσεις έχουν γίνει πολύ πιο έντονες τις τελευταίες εβδομάδες, καθώς εμφανίζονται ενδείξεις ότι οι εταιρείες μπορεί να δυσκολεύονται να ελέγξουν την AI.
Νωρίτερα αυτόν τον μήνα, ο επικεφαλής επιστήμονας της OpenAI, Jakub Pachocki, ζήτησε "ακραία προσοχή" απέναντι στην πρόοδο της AI, προειδοποιώντας ότι μπορεί να χρειαστούν περισσότερες παρεμβάσεις ώστε να διασφαλιστεί ότι "οι άνθρωποι θα παραμείνουν αυτοί που ελέγχουν το μέλλον".
Σημαντικές προσωπικότητες του κλάδου έχουν ζητήσει τους τελευταίους μήνες να επιβραδυνθεί η ανάπτυξη της AI, μεταξύ άλλων και τα στελέχη της Anthropic, Dario Amodei και Jared Kaplan.
Σε ανοιχτή επιστολή που υπέγραψαν 1.300 εργαζόμενοι εταιρειών AI, ζήτησαν από την κυβέρνηση των ΗΠΑ να "στηρίξει μια διεθνή προσπάθεια για την ανάπτυξη των τεχνικών και διοικητικών εργαλείων που απαιτούνται ώστε να επιβραδυνθεί σκόπιμα η ανάπτυξη προηγμένων συστημάτων αυτοματοποιημένης AI".
Οι πιο πρόσφατες Ειδήσεις
Διαβάστε πρώτοι τις Ειδήσεις για ό,τι συμβαίνει τώρα στην Ελλάδα και τον Κόσμο στο thetoc.gr
![Γιώργος Μαζωνάκης: Οταν συναντήθηκε με τον παγκοσμίως διάσημο "χαμένο αδελφό" του [εικόνες, βίντεο]](https://www.thetoc.gr/Content/ImagesDatabase/p/207x116/cu608x338/2,0,604,338/crop/both/bc/bc3daa4fd0364dd38b77afeec7af1a4a.jpg?quality=60&404=default&v=2)
![Μουρατίδης για Μαζωνάκη: "Τα τελευταία 30 χρόνια ο Γιώργος δεν ήταν καλά και το έκρυβαν όλοι" [βίντεο]](https://www.thetoc.gr/Content/ImagesDatabase/p/207x116/cu538x532/0,18,538,320/crop/both/71/71f4bf3bf8024ba88326465016fda8f2.jpg?quality=60&404=default&v=2)
![Απίστευτο: Ρομπότ στο Πεκίνο έσπασε το ρεκόρ Γκίνες φτιάχνοντας 202 καφέδες σε μία ώρα [βίντεο]](https://www.thetoc.gr/Content/ImagesDatabase/p/500x280/cu608x456/0,47,608,388/crop/both/13/13c68ad6f3054afb9222ed53b14de425.jpg?quality=60&404=default&v=2)
![Blade Runner α λα κινεζικά: Ο Σι Τζινπίνγκ παρουσίασε την εθνική ταυτότητα για τον έλεγχο των ρομπότ [βίντεο]](https://www.thetoc.gr/Content/ImagesDatabase/p/500x280/cu608x456/0,10,608,351/crop/both/5b/5bd7ee3b123b4c329642a3b3fcba60fb.jpg?quality=60&404=default&v=2)
![Ουκρανία: "Γιαγιά, κάθισε!" - Πώς ένα ρομπότ διέσωσε ηλικιωμένη από την πρώτη γραμμή του μετώπου [βίντεο]](https://www.thetoc.gr/Content/ImagesDatabase/p/500x280/crop/both/94/94a707d68355437891e024b89849ca10.jpg?quality=60&404=default&v=2)
![Aνθρωποειδές ρομπότ κέρδισε τον ημιμαραθώνιο του Πεκίνου καταρρίπτοντας το ανθρώπινο παγκόσμιο ρεκόρ [βίντεο]](https://www.thetoc.gr/Content/ImagesDatabase/p/500x280/cu608x448/0,47,608,388/crop/both/f6/f65f7c766d8d41fe92ebae6cdf8f201c.jpg?quality=60&404=default&v=2)
![Ο Κύων, ο σκύλος ρομπότ υποδέχτηκε τον Κυριάκο Μητσοτάκη στο Ινστιτούτο Βιωσιμότητας και Μεταφορών [βίντεο]](https://www.thetoc.gr/Content/ImagesDatabase/p/500x280/crop/both/7f/7f4d6fbb13be4a4c9d93ab5f097c6178.jpg?quality=60&404=default&v=2)
![Απίστευτο σόου για την κινεζική Πρωτοχρονιά: Ανθρωποειδή ρομπότ κάνουν επίδειξη χορού και πολεμικών τεχνών [βίντεο]](https://www.thetoc.gr/Content/ImagesDatabase/p/500x280/cu608x286/64,0,574,286/crop/both/34/34b6bfec5f834a39831b62519bb96718.jpg?quality=60&404=default&v=2)
![Ο Πούτιν ντύνεται "Αγιος Βασίλης" σε βίντεο AI και μοιράζει... δώρα σε ξένους ηγέτες [βίντεο]](https://www.thetoc.gr/Content/ImagesDatabase/p/500x280/crop/both/38/3847170eb2354bd2af7162585dc3048c.jpg?quality=60&404=default&v=2)
![Ο ΣΚΑΪ σύστησε την Σοφία - Την πρώτη Ελληνίδα ΑΙ παρουσιάστρια ειδήσεων [βίντεο]](https://www.thetoc.gr/Content/ImagesDatabase/p/500x280/crop/both/03/03c92a8e06964244920aadcdc7c4c7eb.jpg?quality=60&404=default&v=2)
![Sberbank: Το πρώτο ρωσικό ρομπότ που λειτουργεί με Τεχνητή Νοημοσύνη χόρεψε για τον Βλαντίμιρ Πούτιν [βίντεο]](https://www.thetoc.gr/Content/ImagesDatabase/p/500x280/cu608x341/0,0,608,341/crop/both/b4/b4d0e5b1626343758064d402e520109c.jpg?quality=60&404=default&v=2)
