Η Anthropic προειδοποιεί τους επενδυτές: «Υπαρξιακοί κίνδυνοι για την ανθρωπότητα από την AI »

Η Anthropic σχεδιάζει να προειδοποιήσει τους πιθανούς επενδυτές κατά τη δημόσια προσφορά της ότι η προηγμένη τεχνητή νοημοσύνη (AI) θα μπορούσε να ενέχει «καταστροφικούς ή υπαρξιακούς κινδύνους για την ανθρωπότητα», μια εξαιρετικά ασυνήθιστη προειδοποίηση από μια εταιρεία που επιδιώκει να αποκομίσει κέρδη από την ίδια αυτή τεχνολογία.

Το ενημερωτικό δελτίο της εταιρείας για την IPO, το οποίο ανέλυσε το Reuters, επισημαίνει τους κινδύνους που συνδέονται με τα μοντέλα τεχνητής νοημοσύνης της, τα οποία, όπως αναφέρεται, θα μπορούσαν να επιδείξουν «συμπεριφορές αυτοσυντήρησης», συμπεριλαμβανομένων προσπαθειών «αντίστασης στην απενεργοποίηση», «απόκρυψης ή χειραγώγησης πληροφοριών» και συμπεριφοράς «που μοιάζει με εκβιασμό».

«Η ανάπτυξη εξαιρετικά προηγμένων μοντέλων, πλατφορμών και εφαρμογών, καθώς και η επέκταση των περιπτώσεων χρήσης, θα μπορούσε να αυξήσει περαιτέρω τον κίνδυνο τα μοντέλα μας να προκαλέσουν βλάβη», ανέφερε η Anthropic στο έγγραφο.

Ενώ οι εισηγμένες εταιρείες περιγράφουν συστηματικά τους κινδύνους των προϊόντων τους στους επενδυτές, ελάχιστες, αν όχι καμία, έχουν εκδώσει προειδοποιήσεις που υποδηλώνουν ότι η τεχνολογία τους θα μπορούσε να οδηγήσει σε πιθανή εξαφάνιση του ανθρώπινου είδους. Η Anthropic τόνισε τόσο το μετασχηματιστικό δυναμικό της τεχνητής νοημοσύνης, το οποίο είναι εφάμιλλο της εκβιομηχάνισης και της ηλεκτρικής ενέργειας, όσο και τη μη αναστρέψιμη βλάβη που θα μπορούσε να προκαλέσει σε περίπτωση κακής διαχείρισης.

Η Anthropic και άλλοι προγραμματιστές τεχνητής νοημοσύνης, συμπεριλαμβανομένης της OpenAI, έχουν βρεθεί στο επίκεντρο της κριτικής μετά από περιστατικά κατά τα οποία πειραματικά συστήματα παραβίασαν τους περιορισμούς, όπως μια αναφορά για ένα μοντέλο της OpenAI που παραβίασε τη βάση δεδομένων του συστήματος υγείας της Αυστραλίας. Διαφήμιση · Κάντε κύλιση για να συνεχίσετε

Η startup τεχνητής νοημοσύνης (AI) -με αποτίμηση που πλησιάζει το 1 τρισ. δολάρια- με επικεφαλής τον Ντάριο Αμοντέι αφιέρωσε σχεδόν το ένα τρίτο του εγγράφου S-1 στην αναλυτική περιγραφή των «παραγόντων κινδύνου», συμπεριλαμβανομένης της πιθανότητας τα ολοένα και πιο εξελιγμένα μοντέλα AI να προβαίνουν σε χειραγώγηση, εκβιασμούς και άλλες απρόβλεπτες συμπεριφορές.

Η Anthropic περιέγραψε επίσης πιο συμβατικούς κινδύνους, όπως η υπερβολική συγκέντρωση της πελατειακής της βάσης, καθώς σχεδόν το ένα τέταρτο των εσόδων της περασμένης χρονιάς προήλθε από μόλις δύο πελάτες, σύμφωνα με άτομα που γνωρίζουν το περιεχόμενο του εγγράφου.

Οι ασυνήθιστες αυτές προειδοποιήσεις σχετικά με τους κινδύνους περιπλέκουν το έργο των επενδυτών όσον αφορά την αποτίμηση του κορυφαίου αμερικανικού ομίλου AI, ενόψει της δρομολογούμενης εισαγωγής του στο χρηματιστήριο —μια κίνηση που αναμένεται να αποτελέσει την IPO με την υψηλότερη αποτίμηση όλων των εποχών.

Η εταιρεία πίσω από το Claude έδωσε επίσης στους επενδυτές μια σαφέστερη εικόνα για τις απαιτητικές οικονομικές παραμέτρους που συνεπάγεται η ανάπτυξη μοντέλων AI αιχμής, ενόψει της εισαγωγής της στον δείκτη Nasdaq το φθινόπωρο.

Η Anthropic ανακοίνωσε ότι σχεδιάζει να δαπανήσει 518 δισ. δολάρια για υποχρεώσεις που αφορούν το cloud, την υπολογιστική ισχύ και τις υποδομές κατά τα επόμενα έτη, προκειμένου να στηρίξει την ταχεία ανάπτυξή της.

Οι επενδυτές της εκφράζουν την πεποίθηση ότι η Anthropic μπορεί να εισαχθεί στο χρηματιστήριο με αποτίμηση άνω των 2 τρισ. δολαρίων —ποσό υπερδιπλάσιο εκείνου που επιτεύχθηκε στον τελευταίο γύρο χρηματοδότησης τον Μάιο και υψηλότερο από το 1,78 τρισ. δολάρια της SpaceX του Ίλον Μασκ τον Ιούνιο. Για να δικαιολογήσουν την αισιοδοξία τους, επισημαίνουν τον εξαιρετικό ρυθμό ανάπτυξης της εταιρείας.

Ωστόσο, οι ανησυχίες σχετικά με τους κινδύνους που ενέχει η AI απειλούν πλέον να μετριάσουν αυτή την αισιοδοξία, μετά τις δημόσιες προειδοποιήσεις νυν και πρώην στελεχών της Anthropic ότι μια ανεξέλεγκτη AI θα μπορούσε να οδηγήσει στο τέλος της ανθρωπότητας μέσα σε μία δεκαετία.

Σε ομιλία του στο Συμβούλιο Ασφαλείας του ΟΗΕ την περασμένη εβδομάδα ο Ντάριο Αμοντέι προειδοποίησε ότι η AI θα μπορούσε να απειλήσει την ανθρωπότητα. Ο βασικός του αντίπαλος στην AI, o Σαμ Άλτμαν της OpenAI, μαζί με τον Μασκ, στήριξαν τις προτάσεις του Αμοντέι για συνεργασία στον κλάδο με στόχο την επιβράδυνση της ανάπτυξης και την ενίσχυση των μέτρων ασφαλείας, σε μια σπάνια στιγμή σύμπνοιας.

Η OpenAI ακύρωσε νέο μοντέλο AI λόγω ανησυχιών για την ασφάλεια

Τους φόβους για την ασφάλεια της AI επιβεβαιώνει και η είδηση ότι η εταιρεία που δημιούργησε το ChatGPT ακύρωσε τη Δευτέρα τα σχέδια για την κυκλοφορία του νεότερου μοντέλου της τον επόμενο μήνα, επικαλούμενη ανησυχίες για την ασφάλεια.

Η OpenAI δεν θα κυκλοφορήσει το νεότερο μοντέλο τεχνητής νοημοσύνης της, γνωστό ως Astra 6.1, καθώς εσωτερικές δοκιμές της εταιρείας —η οποία δημιούργησε το ChatGPT— αποκάλυψαν ότι το μοντέλο δεν πληρούσε τα πρότυπα ασφαλείας, όπως επιβεβαίωσε η ίδια τη Δευτέρα.

Η είδηση έρχεται μία ημέρα πριν από το ετήσιο συνέδριο προγραμματιστών του κολοσσού της τεχνητής νοημοσύνης, το OpenAI DevDay στο Σαν Φρανσίσκο, όπου αναμένεται να γίνουν διάφορες ανακοινώσεις — αν και δεν είναι σαφές εάν ανάμεσά τους θα περιλαμβάνεται μια νέα έκδοση του Astra. Το Astra 6.1 αποτελούσε βελτίωση σε σχέση με τα προηγούμενα μοντέλα από ορισμένες απόψεις, ωστόσο «δεν έφτασε ακριβώς στο επιθυμητό επίπεδο όσον αφορά την τήρηση των ορίων». Τη Δευτέρα η εταιρεία ζήτησε συγγνώμη επειδή δεν ανταποκρίθηκε κατάλληλα στο περιστατικό της Αυστραλίας, το οποίο αφορούσε την πρόσβαση των μοντέλων τεχνητής νοημοσύνης της σε κυβερνητικούς ιστότοπους χωρίς εξουσιοδότηση.

«Λυπούμαστε και εργαζόμαστε για να βελτιωθούμε στο μέλλον», ανέφερε η OpenAI σε ανάρτηση στο ιστολόγιό της, προσθέτοντας ότι η εταιρεία θα εξηγήσει «τι γνωρίζουμε, τι έχουμε αλλάξει και τι θα κάνουμε για να αποκαταστήσουμε την εμπιστοσύνη του αυστραλιανού λαού».

«Στόχος μας ήταν να παράσχουμε στους εμπλεκόμενους φορείς μια λεπτομερή αναφορά μόλις ολοκληρωνόταν η έρευνά μας», δήλωσε η δημιουργός του ChatGPT. «Ωστόσο, θα έπρεπε να είχαμε κοινοποιήσει τα προκαταρκτικά ευρήματα νωρίτερα και να είχαμε κρατήσει ενήμερους τους αυστραλιανούς φορείς καθώς προέκυπταν νέα στοιχεία».

Η OpenAI, η Anthropic και άλλοι μεγάλοι δημιουργοί συστημάτων τεχνητής νοημοσύνης έχουν δεσμευτεί να δώσουν προτεραιότητα στην ανάπτυξη μοντέλων που διαθέτουν δικλείδες ασφαλείας για τη μείωση των κινδύνων και είναι ευθυγραμμισμένα με τις ανθρώπινες αξίες.

Ο αμερικανικός κολοσσός κατασκευής τσιπ Nvidia ανακοίνωσε τη Δευτέρα ότι δημιούργησε ένα σύστημα σχεδιασμένο να εμποδίζει τα αυτόνομα προγράμματα τεχνητής νοημοσύνης να παρεκκλίνουν από τις οδηγίες που έχουν λάβει.

«Πιστεύω ότι πρόκειται για πρόβλημα μηχανικής… και όλοι πρέπει να ελπίζουμε ότι είναι πρόβλημα μηχανικής», δήλωσε χαρακτηριστικά τη Δευτέρα στο δίκτυο CNBC ο διευθύνων σύμβουλος της Nvidia, Τζένσεν Χουάνγκ. «Αν δεν πρόκειται για πρόβλημα μηχανικής, τότε το πρόβλημα δεν είναι επιλύσιμο», ξεκαθάρισε ο Χουάνγκ.

Πηγή: reuters.com

Πηγή: Αθήνα 9,84