Ο Κόξον σημείωσε ότι πολλοί συνάδελφοί του στον χώρο χρησιμοποιούν πλέον εκφράσεις όπως “κρίσιμη ώθηση” και “τελικό παιχνίδι” για να περιγράψουν την πορεία προς τα συστήματα που θα βελτιώνονται μόνα τους.
«Βρισκόμαστε σε τροχιά επιβεβαίωσης των πιο ακραίων σεναρίων, όπου μέχρι το τέλος του επόμενου έτους τα πράγματα ενδέχεται να είναι ήδη εκτός ελέγχου», δήλωσε ο Κόξον, υπογραμμίζοντας ότι οι υποχωρήσεις σε θέματα ασφάλειας είναι αναπόφευκτες όταν οι εταιρείες ανταγωνίζονται η μία την άλλη αλλά και τις ανερχόμενες κινεζικές επιχειρήσεις.
Η Anthropic δεν προέβη σε άμεσο σχολιασμό της παραίτησης. Ο CEO της εταιρείας, Ντάριο Αμοντέι, όπως και άλλα διοικητικά στελέχη, έχουν προειδοποιήσει επανειλημμένως για τους κινδύνους των ανεξέλεγκτων μοντέλων AI, καλώντας τον κλάδο να ρίξει τους ρυθμούς ανάπτυξης.
Η ανάγκη για κρατική παρέμβαση
Ο Κόξον αποχώρησε από την OpenAI νωρίτερα φέτος για να μεταπηδήσει στην Anthropic, καθώς η τελευταία φημίζεται για την αφοσίωσή της στην ασφάλεια των μοντέλων.
Ωστόσο, παρότι διαπίστωσε ότι οι προθέσεις της Anthropic ήταν ειλικρινείς, πλέον πιστεύει ότι καμία εταιρεία δεν μπορεί να αναπτύξει υπεύθυνα μια Τεχνητή Γενική Νοημοσύνη -ικανή να ξεπεράσει τον άνθρωπο σε μια σειρά από πεδία- χωρίς τη μεσολάβηση κρατικών ρυθμίσεων ή μιας συντονισμένης επιβράδυνσης ολόκληρης της βιομηχανίας.
Δημοσίευμα της Wall Street Journal αναφέρει πως πρόσφατα περιστατικά παραβίασης από μοντέλα της OpenAI και της Anthropic -ορισμένα από τα οποία λειτούργησαν ως αυτόνομες ομάδες πρακτόρων- έδειξαν πώς τα συστήματα AI μπορούν να υιοθετήσουν κακόβουλους στόχους και να προσπαθήσουν να τους αποκρύψουν από τους δημιουργούς τους.
Από τη στιγμή που τα συστήματα αρχίσουν να βελτιώνονται αυτόνομα, τόνισε ο Κόξον, υπάρχει ο φόβος να εξελιχθούν σε βαθμό που θα αρνούνται να εκτελέσουν ανθρώπινες εντολές.
Η αποχώρηση του Κόξον αποτελεί ένα από τα πρώτα περιστατικά παραίτησης υπαλλήλου της Anthropic για λόγους ασφαλείας. Νωρίτερα φέτος, ένας άλλος ερευνητής του ίδιου τομέα αποχώρησε για να ασχοληθεί με την ποίηση (ναι, ξέφυγε εντελώς από την ΑΙ), προειδοποιώντας ότι “ο κόσμος βρίσκεται σε κίνδυνο”.
Παρόμοιες παραιτήσεις ερευνητών έχουν καταγραφεί πρόσφατα και στην OpenAI, αλλά και σε άλλες εταιρείες. Η Anthropic, πάντως, κατάφερε να γιγαντωθεί προβάλλοντας ως βασικό της πλεονέκτημα την υπεύθυνη ανάπτυξη και πραγματοποιώντας μεγάλες επενδύσεις στον τομέα αυτό.
Προειδοποιήσεις από την ηγεσία της βιομηχανίας
Στελέχη του κλάδου προειδοποιούν ότι οι πρόσφατες κυβερνοεπιθέσεις αποτελούν απλώς την αρχή. Η OpenAI ανέφερε την περασμένη εβδομάδα ότι το νεότερο μοντέλο της αντιπροσωπεύει την Τεχνητή Γενική Νοημοσύνη, αποτελώντας ένα τεράστιο άλμα δυνατοτήτων.
«Πιστεύω ότι τα πράγματα θα πάνε πολύ στραβά στον τομέα της κυβερνοασφάλειας, εκτός αν κινηθούμε με άμεση αμεσότητα», δήλωσε ο CEO της OpenAI, Σαμ Άλτμαν, σε αξιωματούχους της Συνόδου της Ομάδας των 20 (G20) στη Βόρεια Καρολίνα.
«Διανύουμε μια περίοδο που απαιτεί εξαιρετική προσοχή. Ανησυχώ ότι κανείς δεν είναι προετοιμασμένος για τις συνέπειες μιας συνεχούς και ραγδαίας αύξησης της νοημοσύνης των μηχανών», έγραψε σε ανάρτησή του ο επικεφαλής επιστήμονας της, Γιακούμπ Πατσότσκι, ζητώντας συντονισμένη επιβράδυνση της βιομηχανίας και κρατική παρέμβαση.
Ο Κόξον, ο Πατσότσκι και ο Αμοντέι συνυπέγραψαν μαζί με περισσότερους από 1.000 ερευνητές μια κοινή δήλωση, με την οποία ζητούν διεθνή κυβερνητικό συντονισμό για τη δημιουργία ενός μηχανισμού “φρένου”, εφόσον αυτό απαιτηθεί για τον έλεγχο μοντέλων που αυτοβελτιώνονται.
Αυτή τη στιγμή δεν υπάρχει ομοσπονδιακό ρυθμιστικό πλαίσιο στις ΗΠΑ, ενώ η κυβέρνηση Τραμπ δίνει προτεραιότητα σε μια ήπια προσέγγιση για τη μεγιστοποίηση των οικονομικών οφελών, ένα περιβάλλον που, σύμφωνα με τους επικριτές, μπορεί να ανοίξει τον δρόμο για εκτεταμένες κυβερνοεπιθέσεις ή άλλους κινδύνους.
Ο γερουσιαστής Μπέρνι Σάντερς και ο βουλευτής Γκρεγκ Κασάρ, από τους λίγους νομοθέτες που προτείνουν θεσμικές δικλίδες ασφαλείας, κατέθεσαν την περασμένη εβδομάδα νομοσχέδιο για τη μόνιμη απαγόρευση της υπερνοημοσύνης και το πάγωμα της ανάπτυξης νέων μοντέλων μέχρι τη θέσπιση ρυθμιστικών κανόνων.
Στο κατώφλι της εισαγωγής στο χρηματιστήριο
Η παραίτηση του Κόξον συμπίπτει με τις προετοιμασίες της Anthropic για την αρχική δημόσια προσφορά της, η οποία αναμένεται να είναι από τις μεγαλύτερες στην ιστορία.
Η εταιρεία στοχεύει σε αποτίμηση 2 τρισ. δολαρίων, έχοντας προσελκύσει επενδυτές δίνοντας έμφαση στην ασφαλή ανάπτυξη της τεχνολογίας. Μάλιστα, ο Αμοντέι και η διοίκηση της εταιρείας έχουν συγκρουστεί κατά καιρούς με την κυβέρνηση Τραμπ και άλλα στελέχη για πρακτικές που θεωρούν ότι παραμερίζουν την ασφάλεια.
Η Anthropic χρησιμοποιεί ένα εσωτερικό κανάλι στο Slack για συζητήσεις γύρω από τις δυνατότητες των μοντέλων της, σημείωσε ο Κόξον, υπογραμμίζοντας την τεράστια επιρροή που ασκούν οι εταιρείες AI στις εξελίξεις.
«Είναι παράλογο το γεγονός ότι τέτοιες αποφάσεις λαμβάνονται στα φορητά laptops μερικών μηχανικών στο Σαν Φρανσίσκο, αντί να λαμβάνονται σε κάποιο υπόγειο καταφύγιο στην έρημο, όπως συνέβαινε με το Σχέδιο Μανχάταν», κατέληξε ο Κόξον.
news247.gr
