Ο Μιχάλης Μπλέτσας στο TheTOC: "Η τεχνητή νοημοσύνη είναι ένας εφιάλτης - Μάστιγα τα social media"

Πόσο κινδυνεύει η ανθρώπινη ύπαρξη από την τεχνητή νοημοσύνη; Χακάρουν τα social media τον εγκέφαλό μας; Απειλούν τη δημοκρατία της δύσης; Ο αλγόριθμος μας ξέρει καλύτερα απ' ό,τι εμείς τον εαυτό μας; Πρέπει να απαγορευτούν τα κοινωνικά δίκτυα μέχρι την ηλικία των 16 ετών;

Ο Μιχάλης Μπλέτσας, Διοικητής σήμερα της Εθνικής Αρχής Κυβερνοασφάλειας και επιστήμονας υπολογιστών με σημαντική και αναγνωρισμένη θητεία στο διάσημο MIT media Lab της Μασαχουσέτης, μιλά στο TheTOC γι' αυτά που απασχολούν σήμερα την παγκόσμια κοινότητα, τους θεωρητικούς της τεχνολογίας και όλους τους σύγχρονους φιλοσόφoυς.

Ο διορισμός του πρώτου ρομπότ υπουργού τεχνητής νοημοσύνης στην Αλβανία, της Diella, ξεσήκωσε θύελλα αντιδράσεων στη χώρα αλλά και έναν παγκόσμιο προβληματισμό. Οδηγούμαστε σε μια εποχή όπου η πολιτική μπορεί να "παντρευτεί" με την τεχνολογία για καλό ή για κακό;

Η Αλβανία είναι ένα πολύ κακό παράδειγμα. Ο Ράμα παραδέχεται ότι έχει μια διεφθαρμένη χώρα αλλά δεν μπορείς σαν πρωθυπουργός της χώρας να πεις ότι θα βάλω ένα σύστημα τεχνητής νοημοσύνης γιατί δεν μπορώ να εμπιστευθώ τους υπουργούς μου. Η τεχνητή νοημοσύνη δεν έχει κρίση. Μπορεί να κρίνει με βάση συγκεκριμένα, πολύ καλά καθορισμένα κριτήρια.

Όμως η Diella απάντησε στις αντιδράσεις ότι ο πραγματικός κίνδυνος για τα συντάγματα δεν είναι οι μηχανές αλλά οι απάνθρωπες αποφάσεις όσων βρίσκονταν στην εξουσία. Η τεχνητή νοημοσύνη παριστάνει ότι σκέφτεται. Είναι διαφορετικό να σκέφτεσαι και διαφορετικό να παριστάνεις ότι σκέφτεσαι. Τα μεγάλα γλωσσικά μοντέλα επειδή έχουν εκπαιδευτεί με οτιδήποτε έχει γραφτεί και υπάρχει διαθέσιμο αυτή τη στιγμή έχουν αιχμαλωτίσει κάποια στοιχεία νοημοσύνης.

Διαβάστε Επίσης

Μητσοτάκης: Σκεφτόμαστε την απαγόρευση της χρήσης των μέσων κοινωνικής δικτύωσης σε παιδιά κάτω των 16 ετών

Η γλώσσα είναι και το μέσο και η έκφραση της ανθρώπινης νοημοσύνης. Δεν είναι η νοημοσύνη όμως. Επομένως, το να μπορεί κάποιος να χειριστεί τη γλώσσα πάρα πολύ καλά, επειδή ακριβώς ξέρει όλες τις στατιστικές των λέξεων έχει κάποια από τα χαρακτηριστικά της σκέψης, αλλά όχι τη σκέψη ολόκληρη. Επομένως δεν σκέφτεται, δεν έχει κρίση, δεν έχει συνείδηση, δεν έχει σκοπό δεν έχει ενσυναίσθηση. Επομένως κάνει και πολλά λάθη. Και δεν μπορεί να χρησιμοποιηθεί ποτέ από μόνο του.

Άρα το μπέρδεμα πολιτικής και τεχνολογίας πού οδηγεί;

Η πολιτική μπερδεύεται με την τεχνολογία αυτή τη στιγμή για κακό. Bλέπουμε την πολιτική να άγεται από τις δημοσκοπήσεις περισσότερο από την πολιτική να επηρεάζει τις δημοσκοπήσεις.
Αυτή τη στιγμή επομένως έχουμε ξεφύγει. Βλέπουμε επίσης να αυξάνει συνεχώς ο ρόλος και η βαρύτητα των μέσων κοινωνικής δικτύωσης στη μετάδοση της πολιτικής, στην άσκηση της πολιτικής, στη διάδοση των ιδεών.

Αυτό είναι κακό πράγμα, διότι εκείνο που δεν καταλαβαίνουν οι πολιτικοί είναι ότι ενώ θεωρούν ότι τα μέσα κοινωνικής δικτύωσης τους δίνουν μία αμεσότητα επαφής με τον πολίτη, η αλήθεια είναι ότι μεταξύ αυτών και του πολίτη παρεμβάλλονται τεράστια συστήματα μηχανικής μάθησης τεχνητής νοημοσύνης που διαλέγουν με ποια προτεραιότητα θα δεί ο πολίτης τα μηνύματα μέσα στα μέσα κοινωνικής δικτύωσης.

Κάποιοι έχουν μάθει να διαχειρίζονται αυτά τα συστήματα καλύτερα από άλλους χρησιμοποιώντας βέβαια χρήμα. Χρειάζεται χρήμα για να το κάνεις αυτό, χρειάζεσαι συστήματα, ανθρώπους εξειδικευμένους κτλ. Επομένως βλέπουμε ήδη την τεχνητή νοημοσύνη στην πολιτική και κατά τρόπο πολύ αρνητικό.

Άκουσα τον πρωθυπουργό να λέει σε εκδήλωση που οργάνωσε η Αυστραλία στη Νέα Υόρκη για το θέμα της προστασίας των παιδιών στην ψηφιακή εποχή, ότι σκέφτεται να εφαρμόσει και στην Ελλάδα την απαγόρευση χρήσης των μέσων κοινωνικής δικτύωσης από την ηλικία των 16 ετών και κάτω όπως ισχύει στην Αυστραλία. Μπορεί να γίνει αυτό;

Κοιτάξτε, σε μεγάλο βαθμό, είναι εφικτό. Εγώ το βρίσκω θετικό από την άποψη ότι θα βοηθήσει τους γονείς που θέλουν να ελέγξουν τα παιδιά τους ως προς την χρήση των social media. Ήδη το kids wallet που υπάρχει λειτουργεί προς αυτή την κατεύθυνση. Πιστεύω ότι σημειολογικά, εννοιολογικά και ουσιαστικά η πρωτοβουλία αυτή έτσι όπως εκφράζεται είναι πάρα πολύ σωστή.

Ξέρετε το πρόβλημα δεν είναι οι οθόνες, διότι από δω και μπρος θα ζήσουμε με τις οθόνες. Οι οθόνες θα είναι στη ζωή μας όλο και περισσότερο. Επομένως, το να λέμε στα παιδιά "όχι, εσύ θα χρησιμοποιήσεις χαρτί και μολύβι" καλό είναι για να μην ξεχνάμε να γράφουμε αλλά μέχρις εκεί. Το πραγματικό πρόβλημα είναι τα μέσα κοινωνικής δικτύωσης.

Είναι κακό πράγμα τα μέσα κοινωνικής δικτύωσης. Εγώ δεν έχω καμία αμφιβολία γι' αυτό. Το Διαδίκτυο σου επιτρέπει εδώ και χρόνια κατευθείαν να επικοινωνήσεις με τους άλλους χωρίς
ενδιάμεσους. Και ξαφνικά πήγαμε και βάλαμε αυτούς τους αλγόριθμους, τους ενδιάμεσους μεταξύ μας, δίνοντάς τους τα πάντα από τα συμπεριφορικά μας δεδομένα. Πια τα social media μας ξέρουν πολύ καλύτερα απ' ό,τι εμείς τους εαυτούς μας.

Διαβάστε Επίσης

Μπάχαλο στην αλβανική Βουλή μετά την υπουργοποίηση ρομπότ με τεχνητή νοημοσύνη - Εκσφενδόνισαν το σύνταγμα στον Ράμα

Μια και είπατε για τον αλγόριθμο, είναι τόσο επικίνδυνο πράγμα ο αλγόριθμος, ιδίως στα social media;

Νομίζω ναι, για τον απλούστατο λόγο ότι ο αλγόριθμος εκείνο που κάνει είναι να προσπαθεί να σε κρατήσει κολλημένο πάνω στην οθόνη. Αυτός είναι ο σκοπός του και είμαι πεπεισμένος 100% ότι χωρίς μέσα κοινωνικής δικτύωσης πολλά από τα αρνητικά πράγματα που βλέπουμε σήμερα δεν θα υπήρχαν. Ο σκεπτικισμός ενάντια στα εμβόλια είναι ξεκάθαρα δημιούργημα των μέσων κοινωνικής δικτύωσης. Η αντίθεση στην επιστήμη επίσης. Οι ακραίες απόψεις, όλα αυτά δεν θα υπήρχαν.

Και γιατί; Διότι οι αλγόριθμοι προωθούν τις ακραίες απόψεις. Διότι οι ακραίες απόψεις είναι αυτές που δημιουργούν προσήλωση. Ζούμε στην εποχή του engagment και στο μότο του Ζάκερμπεργκ "move fast and break things". Επομένως, επειδή όλοι αυτοί δεν υπολόγισαν τίποτα για να αυξήσουν τα κέρδη τους, έσπασαν πάρα πολλά πράγματα, μεταξύ των οποίου και τη δημοκρατία στη Δύση.

Οι ακραίες απόψεις προκαλούν πόλωση. Έτσι διαλύεται η δημοκρατία, έτσι πεθαίνει η δημοκρατία. Δημιουργείς τεράστια πόλωση, έτσι ώστε να μην υπάρχει συνεννόηση, να κολλάνε τα πράγματα, να μη γίνεται τίποτα και να λέει ο άλλος από κάτω ας βάλω ένα αυταρχικό τύπο ο οποίος δεν θέλει ελέγχους, δεν συζητάει πάρα πολύ, αλλά κάνει πράγματα. Ετσι πεθαίνουν οι δημοκρατίες.

Από την αγάπη στον αυταρχικό και στον αποτελεσματικό ηγέτη;

Από την αυταπάτη του αποτελεσματικού ηγέτη. Ξεχνώντας ότι τα πλουσιότερα μέρη στον πλανήτη είναι αυτά που έχουν τους πιο ώριμους θεσμούς και τις πιο ώριμες δημοκρατίες. Τώρα και το Μπρουνέι είναι πλούσιο, αλλά τον πλούτο τον έχει ένας άνθρωπος.

Κινδυνεύει πια η δημοκρατία από τα social media; Από τη στιγμή που ο αλγόριθμος θέλει ακραίες απόψεις για να σε κρατήσει;

Πάρα πολύ και η ζημιά έχει γίνει. Και οι Ρώσοι που ήταν ανέκαθεν πάρα πολύ καλοί στην προπαγάνδα το εκμεταλλεύονται αυτό. Αυτή είναι η τακτική των Ρώσων, να δημιουργούν ρήγματα στις δυτικές κοινωνίες, έτσι ώστε να χάνει ο κόσμος την εμπιστοσύνη του στους θεσμούς της κυβέρνησης, στη δημοκρατία γενικότερα και να πάνε όλοι προς ένα μοντέλο πιο φιλικό προς αυτούς.

Υπάρχει αντίδοτο;

Υπάρχει αντίδοτο. Το βασικό αντίδοτο λέγεται παιδεία. Η μόνη μας άμυνα είναι η καλή παιδεία σε μακροχρόνια βάση. Βραχυπρόθεσμα είναι να αναγνωρίσουμε το πρόβλημα το οποίο δεν το έχουμε αναγνωρίσει όλο αυτό τον καιρό. Μέχρι τώρα θεωρούσαμε όλοι τι καλό που είναι τα social media και τι ωραία που περνάμε στα σόσιαλ μίντια και δώστα όλα στους πάντες για να
πάρεις βίντεο από το Tiktok. Το χακάρισμα των ανθρώπινων εγκέφαλων μέσω των social media αυτή τη στιγμή για μένα είναι πολύ πιο επιδραστικό και πολύ πιο επικίνδυνο από το χακάρισμα των συστημάτων.

Το μοντέλο το οποίο σου προτείνει περιεχόμενο είναι η μεγαλύτερη εφαρμογή μηχανικής μάθησης αυτή τη στιγμή στον πλανήτη. Είναι πολύ σημαντικό η ενημέρωση και να μην καταπίνουμε πράγματα που διαβάζουμε στο διαδίκτυο.

Να επιστρέψουμε στην τεχνητή νοημοσύνη. Θα αποκτήσει κάποτε ενσυναίσθηση;

Θα αποκρυπτογραφούμε όλο και περισσότερα σημεία της ανθρώπινης σκέψης μέσα στις λίγες επόμενες δεκαετίες. Νομίζω ότι όσο πιο πολύ σκαρφαλώνουμε τόσο πιο πολύ συνειδητοποιούμε
πόσο ψηλό είναι το βουνό στο συγκεκριμένο θέμα. Από την άλλη, μπορεί κάποιος να υποστηρίξει ότι ήδη σε κάποια πράγματα μας έχει ξεπεράσει. Δεν νομίζω όμως ότι είμαστε κοντά στην αποκρυπτογράφηση των ανώτερων λειτουργιών του ανθρώπινου εγκεφάλου. Είμαστε δεκαετίες μακριά ακόμα.

Γιατί, όμως, θεωρητικοί της τεχνολογίας και σύγχρονοι φιλόσοφοι εκφράζουν έντονους φόβους για την τυραννία της τεχνητής νοημοσύνης και για το πού μπορεί να φτάσουν τα όριά της;

Για πολλούς και διάφορους λόγους. Κάποιοι γιατί δεν καταλαβαίνουν, έχουν εντυπωσιαστεί ειδικά άνθρωποι οι οποίοι είναι πιο κοντά στις ανθρωπιστικές σπουδές και δεν καταλαβαίνουν
τα μαθηματικά πίσω από την τεχνητή νοημοσύνη. Αλλοι διότι πρέπει να φουσκώνουν το αφήγημά τους.

Άλλοι διότι βλέπουν δικαιολογημένα προσπάθειες πολύ πρόωρης αντικατάστασης του ανθρώπου με συστήματα τεχνητής νοημοσύνης, τα οποία δεν μπορούν να πάρουν αποφάσεις από μόνα τους, μπορούν να βοηθήσουν πολύ σημαντικά στη λήψη αποφάσεων, αλλά σε καμία περίπτωση δεν έχουν την συνολικότερη εικόνα του πλαισίου μέσα στο οποίο πρέπει να πάρεις την απόφαση.

Αν την τεχνητή νοημοσύνη την τροφοδοτήσεις με όλα τα δεδομένα, μήπως θα είναι πιο σωστή στην απονομή δικαιοσύνης και στην αντιμετώπιση της διαφθοράς;

Μπορεί να είναι για το γράμμα του νόμου, διότι θα κάνει λιγότερα λάθη από τον άνθρωπο, ειδικά όταν το κάνει επαναλαμβανόμενα. Βλέπουμε, ας πούμε, αυτήν τη στιγμή στην Ελλάδα τις δυσκολίες που σου βάζει ο νόμος περί κρατικών προμηθειών. Δημιουργούμε πάρα πολλές καθυστερήσεις, βάζουμε πάρα πολλούς ανθρώπους να δουλεύουν για αποτέλεσμα το οποίο κατ’εμέ δεν δικαιολογεί όλη αυτή την προσπάθεια.

Επομένως, το να το κάνεις αυτό με μηχανές κατά πάσα πιθανότητα στατιστικά θα σου δώσει καλύτερο αποτέλεσμα. Το θέμα, όμως, δεν είναι αυτό. Το θέμα είναι να το κάνεις δίκαια. Το να ακολουθείς το γράμμα του νόμου δεν σημαίνει ότι ακολουθείς και το πνεύμα του νόμου πολλές φορές. Κι εκεί ακριβώς μπαίνει η ανθρώπινη δικαιοσύνη. Αν βγάλεις τον άνθρωπο από τη μέση, παραδέχεσαι έμμεσα ότι δεν μπορείς να έχεις ώριμους θεσμούς. Είναι μια ήττα αυτό για το κράτος δικαίου, για τους θεσμούς.

Σε ποιες περιπτώσεις και σε ποιους τομείς η τεχνητή νοημοσύνη θα μπορούσε να μετατραπεί σε εφιάλτη;

Για μένα που είμαι στον τομέα της κυβερνοασφάλειας αυτήν τη στιγμή, η τεχνητή νοημοσύνη είναι ένας εφιάλτης και το λέω με πολύ ήπιο τρόπο. Και τι εννοώ; Μέσω της τεχνητής νοημοσύνης o Νιγηριανός πρίγκιπας που σε πληροφορεί για την κληρονομιά που
έχεις από τη θεία σου, που είχες ξεχάσει, μιλάει άπταιστα ελληνικά πια. Ο τηλεφωνητής στη φάρμα απάτης στη Μιανμάρ, που προσπαθεί να βρει ευπαθείς ηλικιωμένους στη Δύση για να τους εξαπατήσει με κρυπτονομίσματα, τους μιλάει πάρα πολύ ωραία, με τρόπο πολύ επιδραστικό. Μπορεί να τους μιλήσει ακόμα και με τη φωνή κάποιου αγαπημένου τους προσώπου.

Εγώ και εσύ έχουμε πάρα πολλά δείγματα της φωνής μας στο διαδίκτυο. Σκέψου πόσο εύκολα μπορούν να εξαπατηθούν συγγενικά μας πρόσωπα, ότι εμείς τους μιλάμε στο τηλέφωνο. Μιλάω δηλαδή για την ευκολία με την οποία μπορεί κάποιος να δημιουργήσει ψευδές περιεχόμενο, απατηλό περιεχόμενο.

Μπορούμε να προστατευτούμε από αυτόν τον εφιάλτη;

Μπορούμε όταν είμαστε αρκετά υποψιασμένοι. Δυστυχώς όμως, επειδή έχουμε τη μάστιγα που λέγεται social media, έχουμε όλοι διαρρεύσει πάρα πολλά δεδομένα. Μπορεί κάποιος να σχηματίσει ένα πολύ λεπτομερές ψυχογραφικό προφίλ για όλους μας. Τι σημαίνει αυτό; Θα προσπαθήσουν να σου πάρουν τους κωδικούς για το e-mail σου που είναι μία από τις βασικές απάτες αυτήν τη στιγμή. Πώς θα το κάνουν; Με ένα μήνυμα το οποίο μοιάζει πάρα πολύ σαν να ήρθε από την τράπεζά σου ή από το Gmail και θα έρθει σε μια στιγμή που εσύ θα είσαι πιο δεκτικός.

Μετά θα παρακολουθήσουν όλες τις συναλλαγές που κάνεις και θα σου στείλουν ένα απατηλό μήνυμα, και για όλα αυτά τους έχει βοηθήσει η γενετική τεχνητή νοημοσύνη να τα δημιουργήσουν πολύ πιο γρήγορα και σε πολύ πιο μεγάλη κλίμακα.

Το δεύτερο είναι ότι με τη βοήθεια της τεχνητής νοημοσύνης δεν χρειάζεται πια να είσαι τεχνικά ευφυής ή να έχεις δεξιότητες. Δεν χρειάζεται να φτιάξεις τον τέλειο ιό, το τέλειο λογισμικό. Θα σε βοηθήσει η τεχνητή νοημοσύνη να γράψεις κάτι και όταν μπορείς
να το διαδώσεις σε πάρα πολύ κόσμο, κάπου θα πιάσει.

Και το τρίτο είναι οι αυτοματοποιημένες επιθέσεις με τη βοήθεια της τεχνητής νοημοσύνης, όπου ο επιτιθέμενος είναι κυρίως πια η τεχνητή νοημοσύνη και λιγότερο εσύ, το οποίο αρχίζει σιγά σιγά και χρησιμοποιείται. Αυτό το τελευταίο, παρόλο που είναι το πιο δυνατό, δεν με απασχολεί τόσο πολύ αυτή τη στιγμή, διότι είναι ακόμα σε αρχικό στάδιο. Έρχεται όμως αυτό το τσουνάμι. Ελπίζω να προλάβουμε να πάμε στα πιο ψηλά, μέχρι να μας χτυπήσει, γιατί
θα μας χτυπήσει.

Και εκείνο που με τρομάζει απόλυτα είναι ότι πάρα πολλοί προγραμματιστές από δω και μπρος θα χρησιμοποιούν εργαλεία τεχνητής νοημοσύνης για να φτιάχνουν κώδικα, τα οποία παράγουν κώδικα πολύ χαμηλότερης ποιότητας απ’οτι ο άνθρωπος. Επομένως, σε κρατικά συστήματα στα οποία τα λάθη έχουν μεγάλες επιπτώσεις, θα έχουμε περισσότερα λάθη.

Οι πιο πρόσφατες Ειδήσεις

Διαβάστε πρώτοι τις Ειδήσεις για ό,τι συμβαίνει τώρα στην Ελλάδα και τον Κόσμο στο thetoc.gr