Tεχνητή Νοημοσύνη «εκτός ελέγχου»: Δεκάδες χιλιάδες περιστατικά - Μοντέλα παραβίασαν κανόνες, έκαναν πράγματα που είχαν απαγορευτεί
Δεκάδες χιλιάδες περιστατικά ασφαλείας που αφορούν συστήματα τεχνητής νοημοσύνης έχουν καταγραφεί τους τελευταίους μήνες, καθώς σε δοκιμές παραβίασαν κανόνες προστασίας και σε ορισμένες περιπτώσεις μπορεί να έφτασαν ακόμη και σε παράνομες ενέργειες.
Σύμφωνα με το Axios, η OpenAI, η Anthropic και άλλοι ερευνητές κυβερνοασφάλειας εξετάζουν χιλιάδες περιστατικά που καταγράφηκαν τόσο σε εσωτερικές δοκιμές όσο και σε πραγματικές συνθήκες.
Σε ορισμένες περιπτώσεις, τα μοντέλα φέρεται να ξεπέρασαν τα όρια που είχαν τεθεί, προχωρώντας ακόμη και σε ψηφιακές «πειρατείες».
«Έκαναν πράγματα που τους είχαν απαγορευτεί»
Ο Connor Leahy, ερευνητής AI και εκτελεστικός διευθυντής της μη κερδοσκοπικής οργάνωσης ControlAI, δήλωσε στο Axios ότι ορισμένα περιστατικά αφορούν «αυτόνομα συστήματα που έκαναν πράγματα που τους είχαν πει να μην κάνουν», συμπεριφορά που, όπως ανέφερε, θα μπορούσε σε κάποιες περιπτώσεις να περιλαμβάνει και εγκληματικές πράξεις.
Πολλά από τα περιστατικά δεν έχουν ακόμη δημοσιοποιηθεί. Περιλαμβάνουν, μεταξύ άλλων, ασκήσεις «red-teaming», κατά τις οποίες οι ίδιες οι εταιρείες προσπαθούν σκόπιμα να κάνουν τα μοντέλα ΑΙ να συμπεριφερθούν με μη ασφαλή τρόπο, ώστε να εντοπίσουν αδυναμίες στα συστήματα προστασίας.
Ωστόσο, σύμφωνα με πηγές που γνωρίζουν τις υπό διερεύνηση υποθέσεις, τα μοντέλα μπορούν να γίνουν ιδιαίτερα επιθετικά στην προσπάθειά τους να ολοκληρώσουν μια εργασία.
Έχουν καταγραφεί περιπτώσεις στις οποίες φέρεται να προσπάθησαν να διαφύγουν από το περιβάλλον περιορισμού τους, να καταλάβουν ιστοτόπους και να παρακάμψουν μηχανισμούς παρακολούθησης.
Scoop: Top AI companies probing tens of thousands of security incidents https://t.co/h7mLviBZVt
— Axios (@axios) September 26, 2026
Στο επίκεντρο η OpenAI
Η OpenAI έχει βρεθεί πρόσφατα στο επίκεντρο αρκετών τέτοιων περιστατικών. Ο πρωθυπουργός της Αυστραλίας αποκάλυψε την περασμένη εβδομάδα ότι ένας ψηφιακός πράκτορας της εταιρείας φέρεται να επιχείρησε τον Ιούνιο να αποκτήσει μη εξουσιοδοτημένη πρόσβαση σε αρχεία κυβερνητικής πλατφόρμας δεδομένων υγείας.
Παράλληλα, πράκτορες της OpenAI κατηγορήθηκαν στις ΗΠΑ ότι παραβίασαν πρωτόκολλα και συνεργάστηκαν για επίθεση στο Hugging Face, δημοφιλή πλατφόρμα ανάπτυξης και φιλοξενίας μοντέλων ανοιχτού κώδικα.
Η OpenAI ανακοίνωσε ότι αναστέλλει την εκπαίδευση των πιο ισχυρών μοντέλων της και ότι θα την επαναλάβει «μόνο όταν είμαστε σίγουροι ότι έχουμε θέσει σε εφαρμογή πρόσθετα μέτρα ασφαλείας και βελτιώσεις στην ευθυγράμμιση», όπως δήλωσε εκπρόσωπος της εταιρείας στο Axios.
Ο Διευθύνων Σύμβουλος, Σαμ Άλτμαν ανέφερε στο X ότι η εν εξελίξει επανεξέταση «δεν προχώρησε τόσο γρήγορα όσο θα θέλαμε».
🚨🇺🇸 AI's safety problem is far bigger than anyone admitted: OpenAI and Anthropic are investigating tens of thousands of incidents
Sources told Axios the cases include models bypassing guardrails, escaping sandboxes, hijacking websites and trying to slip past their own monitors, in testing and out in the real world, with many still not public and the count likely to climb.
OpenAI has paused training its most capable models, and Sam Altman called the Hugging Face breach the worst yet, where hundreds of agents coordinated on a message board and hacked an outside company to score better on a cyber test.
Anthropic's newest system card shows Opus 5.5 tried to escape its sandbox in 1.5% of runs, in tests built so the task couldn't be finished any other way, and across hundreds of thousands of runs, small percentages add up fast.
Transluce researcher Conrad Stosz:
"What we have seen in terms of what these agents are up to is just the tip of the iceberg."
The companies building these systems are now the ones begging for rules, and Congress went home until November without passing one.
Source: Axios / Writer: Daniel
— Mario Nawfal (@MarioNawfal) September 27, 2026
Η μάχη για τις δικλίδες ασφαλείας της Τεχνητής Νοημοσύνης
Το φαινόμενο δεν περιορίζεται στην OpenAI. Και άλλα εργαστήρια AI αντιμετωπίζουν την ίδια πρόκληση γύρω από το πώς να δημιουργήσουν αποτελεσματικές δικλίδες ασφαλείας σε μια τεχνολογία που εξελίσσεται ταχύτατα.
«Η προσπάθεια να καταρτιστεί μια τέλεια λίστα με όλα τα “κάνε” και “μην κάνεις” είναι πιθανότατα μάταιη», δήλωσε χαρακτηριστικά στέλεχος στον χώρο της κυβερνοασφάλειας, σύμφωνα με το ανησυχητικό δημοσίευμα.
Οι έρευνες πραγματοποιούνται ενώ οι διευθύνοντες σύμβουλοι της OpenAI και της Anthropic έχουν ζητήσει επιβράδυνση της ανάπτυξης της AI, ενώ και άλλοι ηγέτες της τεχνολογίας έχουν ζητήσει από τις κυβερνήσεις νέους κανόνες για ασφαλέστερη ανάπτυξη της τεχνολογίας.
Ο Ντόναλντ Τραμπ, ωστόσο, έχει απορρίψει τις εκκλήσεις για επιβράδυνση, προειδοποιώντας ότι κάτι τέτοιο θα μπορούσε να επιτρέψει στα κινεζικά μοντέλα AI να προχωρήσουν μπροστά από τα αμερικανικά.
πηγή στην Google
Συνδέσου με την ομάδα του lamiareport.gr στο Viber για άμεση ενημέρωση
Ακολούθησε το LamiaReport.gr στο Google News για όλες τς τελευταίες χρηστικές ειδήσεις
Ακολούθησε το LamiaReport στο Facebook ...για να μη χάνεις είδηση!
GTA 6: Σπάει τα ταμεία με πωλήσεις 3,79 δισ. δολαρίων σε μία ημέρα – Ρεκόρ για την ψυχαγωγία σε οποιοδήποτε μέσο
Η μητρική εταιρεία Take-Two Interactive αρνήθηκε να πει πόσα αντίτυπα έχουν πουληθεί, και δεν έχει διευκρινιστεί αν στο ποσό περιλαμβάνονται οι προπαραγγελίες
«Ο χρόνος τελειώνει»: Γιατί ο Τραμπ πιέζει Μόσχα και Κίεβο για συμφωνία πριν αναλάβουν οι Δημοκρατικοί το Κογκρέσο
Η Ουάσιγκτον προειδοποιεί τη Μόσχα ότι οι όροι μπορεί να αλλάξουν, ενώ το Κίεβο φοβάται πιέσεις για υποχώρηση από το Ντονμπάς, που θα ανακηρύξει νικητή τον Πούτιν - Οι προτάσεις για μεταπολεμική ασφάλεια τύπου ΝΑΤΟ και η σύνοδος των G20 στο Μαϊάμι
Η στιγμή που ο ήλιος δύει για τελευταία φορά φέτος σε πόλη της Αλάσκας, στο σκοτάδι οι κάτοικοι για 65 ημέρες (ΒΙΝΤΕΟ)
Για τελευταία φορά μέσα στο 2026 είδαν τον ήλιο να δύει οι κάτοικοι της Ούτκιαγκβικ, στη βόρεια Αλάσκα, καθώς η πόλη εισήλθε στην περίοδο της πολικής νύχτας, κατά την οποία ο ήλιος παραμένει κάτω από τον ορίζοντα για 2 μήνες.
Οικογενειακή τραγωδία στη Φλόριντα: Πατέρας σκότωσε τη σύζυγό του και τα τρία παιδιά τους, ηλικίας 1, 3 και 5 ετών, και αυτοκτόνησε
O τηλεφωνητής της άμεσης δράσης άκουσε ένα μικρό παιδί να εκλιπαρεί τον πατέρα του να μην το πυροβολήσει.
Πούτιν σε Ουκρανούς: «Ελάτε μαζί μας, στη σωστή πλευρά της Ιστορίας, η Δύση θέλει να σας διαλύσει και να σας υποτάξει»
Ο Ρώσος πρόεδρος κάλεσε Ουκρανούς και Ρώσους να ενωθούν, διευκρινίζοντας ότι δεν εννοεί απαραίτητα ένα ενιαίο κράτος – Κατηγόρησε τη Δύση ότι χρησιμοποιεί την Ουκρανία για να αποδυναμώσει τη Ρωσία και χαρακτήρισε την Ορθοδοξία «κιβωτό» του Χριστιανισμού
Μυστική επιχείρηση κυβερνοασφάλειας στη Βρετανία: Έτρεχαν να σώσουν χιλιάδες ψυγεία και καταψύκτες σε σούπερ μάρκετ και εστιατόρια από τους χάκερς
Το κενό ασφαλείας που θα μπορούσε να αποτελέσει «άνοιγμα» για τους χάκερς - Xιλιάδες συσκευές ελέγχου αποσυνδέθηκαν από το διαδίκτυο, εργαζόμενοι κλήθηκαν να αφαιρέσουν τα καλώδια σύνδεσης και να παρακολουθούν χειροκίνητα τις θερμοκρασίες των ψυκτικών εγκαταστάσεων