Κάμποσες ημέρες πριν από το Πάσχα, πίνοντας τον πρωινό καφέ στο σαλόνι του σπιτιού ανοίξαμε την κουβέντα για τα δώρα της βαφτιστήρας. Στο τραπέζι του καθιστικού ήταν οι καφέδες, ένα τσουρέκι, μερικά βιβλία και τα τηλέφωνά μας, για την ακρίβεια δύο iphone. Η κουβέντα ήταν εστιασμένη κυρίως στα παπούτσια και το πασχαλινό αβγό. Συζητήσαμε μόνο, δεν αγγίξαμε τα κινητά, δεν περιηγηθήκαμε σε ιστοσελίδες, δεν κάναμε κάποια αναζήτηση στο διαδίκτυο, δεν είχαμε ανοιχτά τα laptop εκείνη την ώρα.

Τελειώσαμε την κουβέντα και άνοιξα το κινητό ξεκινώντας την καθημερινή περιήγηση στις ενημερωτικές ιστοσελίδες σε Ελλάδα κι εξωτερικό και μέχρι εκείνο το σημείο όλα καλά. Αμέσως μετά ανοίγω τα Social και ξαφνικά όλες οι διαφημίσεις που πέταγαν οι πληρωμένες καταχωρήσεις, αφορούσαν παιδικά παπούτσια, καταστήματα παιδικών παπουτσιών, τις πασχαλινές εκδόσεις παπουτσιών των πολυεθνικών. Εκεί όμως που πραγματικά θορυβήθηκα ήταν όταν αργότερα μπήκα σε μια ειδησεογραφική ιστοσελίδα της Υεμένης από το κομπιούτερ και οι προτάσεις που εμφάνιζε στα διαφημιστικά banners αφορούσαν προσφορές πασχαλινών αβγών.

Επαναλαμβάνω πως, στη διάρκεια της προηγούμενης κουβέντας, δεν αγγίξαμε καν τα κινητά και δεν αναζητήσαμε το παραμικρό στο διαδίκτυο.

Βεβαίως το μυαλό μου πήγε αμέσως στη Siri ή σε κάποια από τις εφαρμογές του κινητού. Άλλος ύποπτος στο χώρο δεν υπήρχε. Αλλά και πάλι τις εφαρμογές τις κλείνω, όταν δεν τις χρησιμοποιώ. Έτσι λοιπόν άρχισα να αναζητώ λίγο, το καθεστώς συλλογής δεδομένων από τις συσκευές και το πως ένας ψηφιακός βοηθός ή αλλιώς ένας έξυπνος εικονικός βοηθός όπως η siri το Google Assistant η Alexa κι ό,τι άλλο σου παρέχουν ως ψηφιακό βοηθό, μπορεί την ώρα που εσύ δεν το χρησιμοποιείς να παρακολουθεί ή αλλιώς να συλλέγει στοιχεία για πράγματα που κάνεις ή συζητάς.

Η απάντηση τόσο για τα παραπάνω προγράμματα, όσο και για αρκετές άλλες εφαρμογές που είναι τοποθετημένες σε υπολογιστές και κινητά, είναι πως ναι, μπορούν να συλλέγουν στοιχεία ενώ εσύ θεωρείς πως κάτι τέτοιο δεν συμβαίνει και στις περισσότερες των περιπτώσεων η αιτιολογία που εξηγεί το γιατί συμβαίνει αυτό, αφορά τις γνώσεις και τον τρόπο χρήσης του κινητού ή του υπολογιστή από τον χρήστη και όχι το ίδιο το πρόγραμμα. Στην πραγματικότητα όμως πρόκειται περισσότερο για μικρά “κενά” των προγραμμάτων τα οποία, μπορούν να τα ενεργοποιούν ενώ εσύ θεωρείς ότι τα έχεις απενεργοποιήσει.

Το θέμα όμως είναι πιο περίπλοκο, ειδικά όταν στη σημερινή εποχή η πλειοψηφία των κατόχων smart phones, έχει περάσει σε αυτά προσωπικά δεδομένα που αφορούν κωδικούς εφαρμογών και τραπεζών.

Οι τράπεζες μέσα από ένα πολυεπίπεδο σύστημα ταυτοποίησης, επιχειρούν να διασφαλίσουν τους χρήστες και τα ιδρύματά τους. Άλλου είδους εταιρείες κι εφαρμογές εξακολουθούν να εφαρμόζουν τα κλασικά πρωτόκολλα ασφαλείας και η ευαλωτότητά τους έχει αποδειχθεί εκ των πραγμάτων μέσα από διαρροές προσωπικών δεδομένων που σε κάποιες περιπτώσεις γνωστοποιήθηκε και άλλοτε επιχειρήθηκε να κρατηθεί μακριά από το φως της δημοσιότητας.

Ο Mythos της Τεχνητής Νοημοσύνης στην υπηρεσία της κυβερνοασφάλειας

Η σκοτεινή πλευρά των εφαρμογών έξυπνων εικονικών βοηθών, αφορά την καθημερινότητα όλων των ανθρώπων ωστόσο με μια γνωστική χρήση των εφαρμογών και των συσκευών, μπορεί να περιοριστεί ο βαθμός έκθεσης. Από την άλλη, η τεχνολογία αναπτύσσεται τόσο γρήγορα που ακόμα κι αυτοί που χρηματοδοτούν την έρευνα τρομάζουν όταν κατανοούν τα αποτελέσματα του έργου τους.

Τον προηγούμενο μήνα μια μια νεοσύστατη εταιρεία, αξίας περίπου 800 δισεκατομμυρίων δολαρίων που έχει ως έδρα το Σαν Φρανσίσκο παρουσίασε ένα πρόγραμμα τεχνητής νοημοσύνης ικανό να εντοπίζει τα κενά ασφαλείας των προγραμμάτων και να τα επισημαίνει. Η Anthropic, η οποία και σχεδίασε το πρόγραμμα Mythos, το περιέγραψε ως «ορόσημο για την κυβερνοασφάλεια». Ουσιαστικά πρόκειται για ένα ακόμα chatbot, δηλαδή μια πολύ πιο εξελιγμένη εκδοχή της siri, του ChatGPT και άλλων εφαρμογών, το οποίο έχει την ιδιαιτερότητα να εντοπίζει τα ελαττώματα zero day, δηλαδή άγνωστες ευπάθειες ασφαλείας σε λογισμικό ή υλικό, τις οποίες οι δημιουργοί δεν γνωρίζουν, καθιστώντας τα συστήματα εξαιρετικά ευάλωτα. Οι επιθέσεις αυτές εκμεταλλεύονται το κενό πριν προλάβουν οι προγραμματιστές να το επιδιορθώσουν, αποτελώντας σοβαρό κίνδυνο για την κυβερνοασφάλεια.

Στις αρχές του Απριλίου η Anthtropic επέτρεψε σε εταιρείες τεχνολογίας και τράπεζες, συμπεριλαμβανομένων των Apple και Goldman Sachs, να έχουν πρόσβαση στο μοντέλο και να αξιολογήσουν τους κινδύνους που θα μπορούσε να θέσει για τις επιχειρήσεις και τους πελάτες τους. Το αποτέλεσμα σύμφωνα με τους συμμετέχοντες ήταν εντυπωσιακά ενώ άλλοι το χαρακτήρισαν τρομακτικό.

Το εντυπωσιακό αφορά στη δυνατότητα εκτέλεσης επιθέσεων που περιλαμβάνουν πολλαπλά βήματα και ο εντοπισμός ελαττωμάτων IT χωρίς ανθρώπινη καθοδήγηση. Το Mythos πέρα από οποιοδήποτε άλλο πρόγραμμα τεχνητής νοημοσύνης είχε δοκιμαστεί μέχρι πρότινος, κατάφερε να αναδείξει τα τρωτά σημεία των εταιρικών συστημάτων που δοκιμάστηκαν. Κι εδώ ανοίγει η κουβέντα για ένα ζήτημα που αφορά τον ανταγωνισμό, τον κάτοχο της πληροφορίας και της ασφάλειας. Για την ακρίβεια η συζήτηση αυτή έχει ανοίξει ήδη από το 2022 όταν εισέβαλε στην καθημερινότητα το ChatGPT κι έγινε κατανοητό ότι η ευλογία θα μπορούσε να αποτελεί και κατάρα ανάλογα με τη χρήση της καθώς η Τεχνητή Νοημοσύνη θα μπορούσε να προκαλέσει σοβαρές ζημιές στον πραγματικό κόσμο.

Φανταστείτε ένα πρόγραμμα τεχνητής νοημοσύνης, να επισημαίνει τις τρύπες ασφαλείας, μιας τράπεζας, ενός υπουργείου άμυνας ή των συστημάτων λειτουργίας ενός νοσοκομείου.

Φανταστείτε τώρα τι θα σήμαινε αν το πρόγραμμα αυτό βρισκόταν σε λάθος χέρια. Να σου δείχνει τα τρωτά σημεία ενός συστήματος και να σου υποδεικνύει ταυτόχρονα τις ενέργειες που θα πρέπει να κάνεις για να αφαιρέσεις τα διαθέσιμα κεφάλαια μιας τράπεζας ή να μπλοκάρεις τα συστήματα ενός αεροδρομίου μετρώντας ακριβώς το χρόνο που έχεις διαθέσιμο, μέχρι να αντιμετωπιστεί η κυβερνοεπίθεση.

Μια τέτοια πραγματικότητα ίσως και να μην είναι και τόσο μακρινό σενάριο. Η Anthropic ανακοίνωσε την ύπαρξη του προγράμματος στις 7 Απριλίου και μόλις την προηγούμενη εβδομάδα ανακοίνωσε ότι το πρόγραμμα, δεν θα κυκλοφορήσει δημόσια λόγω της ικανότητάς του να εντοπίζει άγνωστα ελαττώματα σε συστήματα πληροφορικής. Αυτά τα ελαττώματα θα μπορούσαν, θεωρητικά, να εκμεταλλευτούν οι χάκερ.

Εχθές η εταιρεία γνωστοποίησε πως ο φόβος έγινε πραγματικότητα, με την Anthropic να επιβεβαιώνει ότι μια ομάδα χρηστών σε ένα ιδιωτικό διαδικτυακό φόρουμ είχε αποκτήσει πρόσβαση στο μοντέλο της. Κι εδώ επιστρέφουμε στην προηγούμενη κουβέντα που αφορά στην ικανότητα των τεχνολογικών εταιρειών να κρατούν τα πιο επικίνδυνα προϊόντα τους μακριά από το κοινό.

Το παραπάνω γεγονός έχει θορυβήσει κυβερνήσεις και τους παγκόσμιους οργανισμούς ασφαλείας. Η ανησυχία για τις πιθανές απειλές της Mythos οδήγησε τον υπουργό Οικονομικών των ΗΠΑ, Scott Bessent, να συγκαλέσει συνάντηση με επικεφαλής μεγάλων αμερικανικών τραπεζών, συμπεριλαμβανομένων των Goldman και Citi, στην Ουάσινγκτον νωρίτερα αυτόν τον μήνα.

Οι ρυθμιστικές αρχές του Ηνωμένου Βασιλείου έχουν προσθέσει την Mythos στην ημερήσια διάταξη των συνεδριάσεων της Ομάδας Επιχειρησιακής Ανθεκτικότητας της Αγοράς αυτή την εβδομάδα.

Με άλλα λόγια η siri και η παρέα της ενηλικιώθηκαν πιο γρήγορα από ότι υπολόγιζαν οι δημιουργοί τους, ξεδιπλώνοντας μια άλλη πτυχή του “χαρακτήρα τους” η οποία δημιουργεί μύθους που τρομάζουν.