Η Anthropic αποκάλυψε ότι απέτρεψε προσπάθειες κατασκευής βιολογικών όπλων

Εγκληματίες, ομάδες που υποστηρίζονται από κράτη, εταιρείες που εμπορεύονται λογισμικό κατασκοπείας, επιστήμονες και προπαγανδιστές έχουν επιχειρήσει σύμφωνα με πληροφορίες της Guardian, να χρησιμοποιήσουν τα ισχυρά μοντέλα τεχνητής νοημοσύνης της Anthropic για να σχεδιάσουν πυραύλους και βόμβες, να δημιουργήσουν θανατηφόρα παθογόνα και να παρακολουθούν αντιφρονούντες, σύμφωνα με έκθεση για τις απειλές της τεχνητής νοημοσύνης, που δημοσίευσε η εταιρεία χθες Πέμπτη.

«Οι περιπτώσεις που παρουσιάζουμε εδώ δεν είναι τυπικά περιστατικά κακής χρήσης, αλλά ορισμένες από τις πιο αξιοσημείωτες και πρωτόγνωρες απειλές που έχουμε εντοπίσει μέχρι σήμερα», αναφέρει η Anthropic στην έκθεσή της, έκτασης 154 σελίδων. «Δημοσιεύουμε αυτή την εργασία επειδή πιστεύουμε ότι έχουμε την ευθύνη να αποκαλύπτουμε την κακόβουλη χρήση των υπηρεσιών μας».

Επικίνδυνη «βιολογική έρευνα»

Ειδικότερα, η εταιρεία παρουσίασε αναλυτικά πέντε περιπτώσεις επιστημόνων που χρησιμοποίησαν τα μοντέλα τεχνητής νοημοσύνης της για βιολογική έρευνα. Σύμφωνα με την Anthropic, στις περιπτώσεις αυτές οι ερευνητές κατάφεραν να παρακάμψουν τις δικλείδες ασφαλείας που έχουν σχεδιαστεί για να εμποδίζουν την πρόσβαση χρηστών από «μη υποστηριζόμενες περιοχές», ενώ παράλληλα επιχείρησαν να αποκρύψουν τον πραγματικό σκοπό της έρευνάς τους.

«Η κακόβουλη χρήση της βιολογίας αποτελεί έναν από τους σοβαρότερους κινδύνους των προηγμένων μοντέλων τεχνητής νοημοσύνης», έγραψε η Anthropic. «Χωρίς τις κατάλληλες δικλείδες ασφαλείας, τέτοιες δυνατότητες θα μπορούσαν να οδηγήσουν σε καταστροφικές συνέπειες».

Η Anthropic ανέφερε ότι απέκλεισε αυτούς τους λογαριασμούς. Η εταιρεία δεν αποκάλυψε τα ονόματα των ερευνητικών ιδρυμάτων ούτε τις χώρες όπου σημειώθηκε η κακή χρήση, λέγοντας ότι δεν είναι σε θέση να γνωρίζει με βεβαιότητα τις προθέσεις των ερευνητών.

Η Anthropic έδωσε δεκάδες ακόμη παραδείγματα κακόβουλων παραγόντων που χρησιμοποίησαν τα μοντέλα τεχνητής νοημοσύνης της.

Παραδείγματα κακόβουλης χρήσης

Σε αυτά περιλαμβάνονταν κυβερνοεπιχειρήσεις, όπως η ρωσική κατασκοπεία και κυβερνοεπιθέσεις τύπου «smash-and-grab», δηλαδή επιθέσεις με στόχο την άμεση και γρήγορη απόκτηση δεδομένων ή άλλων πόρων· επιχειρήσεις παρακολούθησης, μεταξύ των οποίων ένα πρόγραμμα με έδρα την Κίνα που στόχευε Ουιγούρους στη Συρία και ένα άλλο που στόχευε εσωτερικούς αντιφρονούντες· εκστρατείες προπαγάνδας στη Ρωσία, τη Μαλαισία, το Ιράν και το Μπανγκλαντές, καθώς και τη χρήση του μοντέλου τεχνητής νοημοσύνης Claude στην Υεμένη, την Κίνα και τη Ρωσία για την ανάπτυξη λογισμικού για συμβατικά όπλα, συμπεριλαμβανομένων πυροβόλων όπλων, πυραύλων, ένοπλων drones, βομβών και άλλων πυρομαχικών.

Βιολογικά όπλα

Σε ένα από τα παραδείγματα βιολογικής έρευνας, η Anthropic εντόπισε επιστήμονα που χρησιμοποιούσε το Claude για να εργαστεί πάνω σε αίτηση κρατικά χρηματοδοτούμενης έρευνας σχετικά με τον ιό chikungunya. Πρόκειται για ασθένεια που μεταδίδεται μέσω κουνουπιών, παρόμοια με τον δάγκειο πυρετό και την ελονοσία, και μπορεί να προκαλέσει για μήνες έντονο πόνο, πυρετό και άλλα σοβαρά συμπτώματα.

Μια τέτοια έρευνα θα μπορούσε να χρησιμοποιηθεί για την ανάπτυξη εμβολίων, αλλά να αξιοποιηθεί και για τη δημιουργία βιολογικών όπλων. Η Anthropic δήλωσε στους New York Times ότι η συγκεκριμένη περίπτωση ήταν ιδιαίτερα ανησυχητική, επειδή γνώριζε ότι η έρευνα επρόκειτο να πραγματοποιηθεί σε στρατιωτικό ερευνητικό ίδρυμα.

Η έκθεση δημοσιεύεται μόλις δύο ημέρες μετά την παραίτηση εργαζομένου της Anthropic, του Τζέινομπ Κόξον, η οποία προκάλεσε έντονη αναστάτωση στα μέσα ενημέρωσης. Ο ίδιος δήλωσε ότι παραιτήθηκε επειδή θεωρεί πως η εταιρεία δεν ενεργεί υπεύθυνα κατά την ανάπτυξη της τεχνολογίας της. Ο Κόξον υποστήριξε ότι η Anthropic και η ανταγωνίστριά της, OpenAI, «τρέχουν κατευθείαν προς την αυτοβελτιούμενη υπερνοημοσύνη», η οποία θα προκαλέσει την εξαφάνιση της ανθρωπότητας έως το 2030. Νυν εργαζόμενοι της Anthropic, όπως ο Έβαν Χάμπιντζερ, συμφώνησαν δημόσια μαζί τους.

Απαιτείται συντονισμένη δράση

Πολλοί ειδικοί στην τεχνητή νοημοσύνη υποστηρίζουν ότι, μέσα στα επόμενα τρία χρόνια, οι πραγματικές απειλές - όπως αυτές που περιγράφονται στην έκθεση της Anthropic - είναι πολύ πιο ανησυχητικές από ένα σενάριο Αποκάλυψης που θα προκαλούσε μια παντοδύναμη τεχνητή νοημοσύνη.

«Ο επιταχυντισμός στην τεχνητή νοημοσύνη και η καταστροφολογία γύρω από την τεχνητή νοημοσύνη είναι δύο όψεις του ίδιου νομίσματος: και οι δύο ενισχύουν την αντίληψη ότι θα υπάρξει ένα υπεράνθρωπο ον με γενική τεχνητή νοημοσύνη (AGI)», δήλωσε η Heidy Khlaaf, επικεφαλής επιστήμονας τεχνητής νοημοσύνης στο AI Now Institute. Η Khlaaf υποστήριξε ότι τα εργαστήρια τεχνητής νοημοσύνης που αναπτύσσουν τεχνολογία η οποία μπορεί να χρησιμοποιηθεί για κυβερνοεπιθέσεις και για την ανάπτυξη πολεμικών όπλων θα μπορούσαν να δημιουργήσουν πολύ πιο θανατηφόρες απειλές.

Στην έκθεσή της, η Anthropic ανέφερε ότι η πιθανή κακόβουλη χρήση των μοντέλων τεχνητής νοημοσύνης στον πραγματικό κόσμο συνήθως δεν είναι ορατή στο κοινό. Αντίθετα, διερευνάται εσωτερικά, καθώς και από ακαδημαϊκούς, κυβερνήσεις και διεθνείς οργανισμούς.

Η εταιρεία δήλωσε ότι ολόκληρος ο κλάδος της τεχνητής νοημοσύνης πρέπει να συνεργαστεί με τις κυβερνήσεις, προκειμένου να αντιμετωπιστούν αυτές οι επιβλαβείς χρήσεις και να δημιουργηθούν μηχανισμοί προστασίας.

«Καθώς τα μοντέλα γίνονται ολοένα και πιο ικανά, οι κίνδυνοι που εγκυμονούν θα αυξάνονται, εκτός εάν οι προγραμματιστές τεχνητής νοημοσύνης και όσοι εργάζονται για την προστασία της κοινωνίας αναλάβουν δράση για να τα καταστήσουν ασφαλέστερα», έγραψε η Anthropic.

ΔΕΙΤΕ ΑΚΟΜΑ Συναγερμός στο αεροδρόμιο Λάρνακας μετά από απειλή για βόμβα σε αεροσκάφος