Home Τεχνολογία Το νέο Meta AI εκπαιδεύεται σε ένα αδίστακτο παιχνίδι που αναζητά δύναμη

Το νέο Meta AI εκπαιδεύεται σε ένα αδίστακτο παιχνίδι που αναζητά δύναμη

0
46

Η τεχνητή νοημοσύνη έγινε πιο ρεαλιστική.

Ερευνητές της μητρικής εταιρείας του Facebook Meta αποκάλυψαν ένα μοντέλο τεχνητής νοημοσύνης, που ονομάστηκε Κικέρων από έναν Ρωμαίο πολιτικό που επιδεικνύει ικανότητες στη διαπραγμάτευση, την εξαπάτηση και την προνοητικότητα. Τις περισσότερες φορές κερδίζει στη Διπλωματία, κομπλεξικός, αδίστακτος ένα παιχνίδι στρατηγικής όπου οι παίκτες σφυρηλατούν συμμαχίες, αναπτύσσουν σχέδια μάχης και διαπραγματεύονται την κατάκτηση μιας στυλιζαρισμένης έκδοσης της Ευρώπης.

Αυτή είναι η πιο πρόσφατη εξέλιξη της τεχνητής νοημοσύνης, η οποία γνώρισε ταχεία πρόοδο τα τελευταία χρόνια, η οποία οδήγησε σε δυστοπικές εφευρέσεις που κυμαίνονται από ανθρώπινα chatbots έως υπερρεαλιστική τέχνη που δημιουργήθηκε από AI έως δολοφονικά drones.

Το Cicero, που κυκλοφόρησε την περασμένη εβδομάδα, μπόρεσε να ξεγελάσει τους ανθρώπους ώστε να πιστέψουν ότι ήταν πραγματικό, σύμφωνα με το Meta, και μπορούσε να προσκαλέσει παίκτες να συμμετάσχουν σε συμμαχίες, να δημιουργήσουν σχέδια εισβολής και να διαπραγματευτούν ειρηνευτικές συμφωνίες, αν χρειαστεί. Η γνώση της γλώσσας του μοντέλου εξέπληξε ορισμένους επιστήμονες και τους δημιουργούς του, οι οποίοι θεώρησαν ότι αυτό το επίπεδο πολυπλοκότητας ήταν χρόνια μακριά.

Ωστόσο, οι ειδικοί είπαν ότι η ικανότητά του να διατηρεί πληροφορίες, να σκέφτεται αρκετά βήματα μπροστά από τους αντιπάλους και να ξεπερνά τους ανταγωνιστές του προκαλεί ευρύτερες ανησυχίες. Αυτό το είδος τεχνολογίας μπορεί να χρησιμοποιηθεί για να δημιουργήσει πιο έξυπνες απάτες για να εξαπατήσει ανθρώπους ή να δημιουργήσει πιο πειστικά βαθιά ψεύτικα.

«Αυτό είναι ένα τέλειο παράδειγμα του πόσο μπορούμε να κοροϊδέψουμε τους άλλους ανθρώπους», είπε ο Kentaro Toyama, καθηγητής και ειδικός στην τεχνητή νοημοσύνη στο Πανεπιστήμιο του Michigan, ο οποίος διάβασε την εργασία του Meta. «Αυτά τα πράγματα είναι πολύ τρομακτικά… [and] μπορεί να χρησιμοποιηθεί για το κακό».

Για χρόνια, οι επιστήμονες αγωνίζονται για την κατασκευή μοντέλων AI που μπορούν να εκτελούν εργασίες καλύτερα από τους ανθρώπους. Οι σχετικές εξελίξεις συνοδεύτηκαν επίσης από τον φόβο ότι θα μπορούσαν να φέρουν τους ανθρώπους πιο κοντά σε μια δυστοπία που μοιάζει με επιστημονική φαντασία, όπου τα ρομπότ και η τεχνολογία ελέγχουν τον κόσμο.

Το 2019, το Facebook δημιούργησε μια τεχνητή νοημοσύνη που μπορεί να μπλοφάρει και να κερδίσει ανθρώπους στο πόκερ. Πρόσφατα, ένας πρώην μηχανικός της Google ισχυρίστηκε ότι η LaMDA, η τεχνητά ευφυής γεννήτρια chatbot της Google, γνωρίζει. Η τέχνη που δημιουργήθηκε από την τεχνητή νοημοσύνη μπόρεσε να ξεγελάσει έμπειρους κριτές διαγωνισμών, πυροδοτώντας ηθικές συζητήσεις.

Οι ειδικοί λένε ότι πολλές από αυτές τις εξελίξεις έχουν έρθει με ταχεία διαδοχή χάρη στην πρόοδο στην επεξεργασία φυσικής γλώσσας και στους εξελιγμένους αλγόριθμους που μπορούν να αναλύουν μεγάλες συλλογές κειμένων.

Η ερευνητική ομάδα Meta ξεκίνησε να δημιουργήσει κάτι για να δοκιμάσει πόσο προηγμένα μοντέλα γλώσσας θα μπορούσαν να αποκτήσουν, ελπίζοντας να δημιουργήσει μια τεχνητή νοημοσύνη που «θα ήταν συνολικά εντυπωσιακή για την κοινότητα», δήλωσε ο Noam Brown, επιστήμονας στην ερευνητική ομάδα AI της Meta.

Προσγειώθηκαν σε ένα gameplay που χρησιμοποιήθηκε συχνά για να δείξει τα όρια και την πολυπλοκότητα του AI. Παιχνίδια όπως το σκάκι και το Go, που παίζονταν στην Κίνα, ήταν αναλυτικά και οι υπολογιστές τα είχαν ήδη κατακτήσει. Οι μετα-ερευνητές κατέληξαν γρήγορα στη Διπλωματία, είπε ο Μπράουν, η οποία δεν είχε αριθμητική βάση και βασιζόταν περισσότερο σε συνομιλίες μεταξύ ανθρώπων.

Για να το κυριαρχήσουν, δημιούργησαν τον Κικέρωνα. Τροφοδοτήθηκε από δύο μηχανές τεχνητής νοημοσύνης. Ένας εστιασμένος στρατηγικός συλλογισμός που επέτρεψε στο μοντέλο να προβλέψει και να δημιουργήσει ιδανικούς τρόπους παιχνιδιού. Ο δεύτερος καθοδηγούμενος διάλογος, που επιτρέπει στο μοντέλο να επικοινωνεί με τους ανθρώπους με ρεαλιστικό τρόπο.

Οι ερευνητές εκπαίδευσαν το μοντέλο σε μεγάλα σύνολα δεδομένων κειμένου από το Διαδίκτυο και σε περίπου 50.000 παιχνίδια Διπλωματίας που παίζονται διαδικτυακά στο webDiplomacy.net, τα οποία περιλάμβαναν μεταγραφές συζητήσεων εντός του παιχνιδιού.

Για να το δοκιμάσει αυτό, η Meta επέτρεψε στον Cicero να παίξει 40 αγώνες διπλωματίας εναντίον ανθρώπων σε ένα διαδικτυακό πρωτάθλημα και ήταν μεταξύ του κορυφαίου 10 τοις εκατό των παικτών, σύμφωνα με τη μελέτη.

Οι Meta Researchers είπαν ότι όταν ο Κικέρων ήταν απατηλός, το παιχνίδι του υπέφερε και το φιλτράρησαν για να το κάνουν πιο δίκαιο. Ωστόσο, αναγνώρισαν ότι το μοντέλο θα μπορούσε να «παραλείψει στρατηγικά» πληροφορίες όταν χρειαζόταν. «Αν μιλάει με τον αντίπαλό του, δεν πρόκειται να του πει όλες τις λεπτομέρειες του σχεδίου επίθεσης του», είπε ο Μπράουν.

Η τεχνολογία του Cicero θα μπορούσε να έχει αντίκτυπο σε πραγματικά προϊόντα, είπε ο Brown. Οι προσωπικοί βοηθοί θα μπορούσαν να κατανοήσουν καλύτερα τις ανάγκες των πελατών. Οι εικονικοί άνθρωποι στο Metaverse μπορούν να είναι πιο ελκυστικοί και να αλληλεπιδρούν με πιο ρεαλιστικούς τρόπους.

«Είναι υπέροχο να μπορείς να δημιουργήσεις τεχνητή νοημοσύνη που μπορεί να νικήσει τους ανθρώπους στα παιχνίδια», είπε ο Μπράουν. «Αλλά αυτό που θέλουμε είναι μια τεχνητή νοημοσύνη που μπορεί να συνεργαστεί με ανθρώπους στον πραγματικό κόσμο».

Αλλά ορισμένοι ειδικοί της τεχνητής νοημοσύνης διαφωνούν.

Η Toyama του Πανεπιστημίου του Μίσιγκαν είπε ότι τα σενάρια εφιάλτη είναι προφανή. Είπε ότι επειδή ο κώδικας του Κικέρωνα είναι ανοιχτός στο κοινό, οι αδίστακτοι ηθοποιοί μπορούν να τον αντιγράψουν και να χρησιμοποιήσουν τις διαπραγματευτικές και επικοινωνιακές του δεξιότητες για να δημιουργήσουν πειστικά μηνύματα ηλεκτρονικού ταχυδρομείου που απατούν και εκβιάζουν χρήματα.

Αν κάποιος εκπαιδεύσει ένα γλωσσικό μοντέλο σε δεδομένα όπως διπλωματικά τηλεγραφήματα στο WikiLeaks, «θα μπορούσε να φανταστεί ένα σύστημα που υποδύεται έναν άλλο διπλωμάτη ή κάποιον στο διαδίκτυο και στη συνέχεια αρχίζει να επικοινωνεί με μια ξένη δύναμη», είπε.

Ο Μπράουν είπε ότι η Meta έχει διασφαλίσεις για να αποτρέψει τον τοξικό διάλογο και να φιλτράρει τα δόλια μηνύματα, αλλά αναγνώρισε ότι αυτή η ανησυχία ισχύει για τον Κικέρωνα και άλλα μοντέλα γλωσσικής επεξεργασίας. «Υπάρχουν πολλά θετικά πιθανά αποτελέσματα, και φυσικά η δυνατότητα για αρνητικές χρήσεις επίσης», είπε.

Παρά τις εσωτερικές διασφαλίσεις, η Toyama είπε ότι υπάρχουν λίγοι κανονισμοί σχετικά με τη χρήση αυτών των μοντέλων από το ευρύτερο κοινό, εγείροντας ανησυχίες στο ευρύτερο κοινό.

«Η τεχνητή νοημοσύνη είναι σαν την πυρηνική ενέργεια αυτής της εποχής», είπε ο Toyama. “Έχει τεράστιες δυνατότητες τόσο για καλό όσο και για κακό, αλλά… νομίζω ότι αν δεν αρχίσουμε να ασκούμε τη ρύθμιση του κακού, όλες οι δυστοπικές επιστημονικές φαντασίες για την τεχνητή νοημοσύνη θα γίνουν δυστοπικό επιστημονικό γεγονός.”

LEAVE A REPLY

Please enter your comment!
Please enter your name here