Η τεχνολογία πίσω από αυτά τα εκπληκτικά ελαττωματικά νέα Chatbots –

Σχόλιο

Οι πραγματικές αλλαγές παραδείγματος είναι σπάνιες, γεγονός που εξηγεί τη διαφημιστική εκστρατεία γύρω από το ChatGPT, ένα chatbot που τροφοδοτείται από τη λεγόμενη γενετική τεχνητή νοημοσύνη που υπόσχεται να φέρει επανάσταση στον τρόπο με τον οποίο οι άνθρωποι αλληλεπιδρούν με τους υπολογιστές. Από την πρεμιέρα του τον Νοέμβριο, έχει γίνει παγκόσμια αίσθηση, παρέχοντας φαινομενικά εξελιγμένες αλλά απλές γλωσσικές απαντήσεις σε σχεδόν κάθε ερώτηση. Τεχνολογικοί γίγαντες όπως η Microsoft Corp., η Google και η Baidu Inc. ποντάρουν πολύ σε αυτή τη νέα τεχνολογία που θα μπορούσε να ανατρέψει την κερδοφόρα αγορά των μηχανών αναζήτησης, ακόμη κι αν η ευρύτερη χρήση της αποκαλύψει δυνητικά σοβαρά ελαττώματα.

1. Τι είναι η γενετική τεχνητή νοημοσύνη;

Αυτά τα συστήματα χρησιμοποιούν νευρωνικά δίκτυα που διαμορφώνονται χαλαρά σύμφωνα με τη δομή του ανθρώπινου εγκεφάλου και μαθαίνουν να εκτελούν εργασίες με παρόμοιο τρόπο, κυρίως με δοκιμή και σφάλμα. Κατά τη διάρκεια της εκπαίδευσης, λαμβάνουν έναν τεράστιο όγκο πληροφοριών (για παράδειγμα, κάθε μπεστ σέλερ των New York Times που δημοσιεύτηκε το 2022) και τους ανατίθεται μια εργασία να ολοκληρώσουν με βάση αυτά τα δεδομένα, για παράδειγμα: “Γράψτε ένα διαφημιστικό σημείωμα για ένα νέο μυθιστόρημα”. Με τον καιρό, τους λένε ποιες λέξεις και προτάσεις έχουν νόημα και ποιες όχι, και οι επόμενες προσπάθειες βελτιώνονται. Είναι σαν ένα παιδί που μαθαίνει να προφέρει μια δύσκολη λέξη υπό την καθοδήγηση ενός γονιού. Σιγά σιγά μαθαίνουν και εφαρμόζουν αυτή τη δεξιότητα σε μελλοντικές προσπάθειες. Αυτό που τα διαφοροποιεί από τα παλαιότερα συστήματα υπολογιστών είναι ότι τα αποτελέσματα είναι πιθανολογικά, που σημαίνει ότι οι απαντήσεις θα είναι διαφορετικές κάθε φορά, αλλά σταδιακά θα γίνονται πιο έξυπνες, πιο γρήγορες και πιο λεπτομερείς.

Το ChatGPT είναι η πιο πρόσφατη επανάληψη του GPT (Generative Pre-Trained Transformer), μιας οικογένειας προγραμμάτων AI δημιουργίας κειμένου που αναπτύχθηκε από το εργαστήριο OpenAI που εδρεύει στο Σαν Φρανσίσκο. Οι GPT εκπαιδεύονται σε μια διαδικασία που ονομάζεται μάθηση χωρίς επίβλεψη, η οποία περιλαμβάνει την εύρεση μοτίβων σε ένα σύνολο δεδομένων χωρίς να τους δίνονται παραδείγματα με ετικέτα ή σαφείς οδηγίες για το τι πρέπει να αναζητήσετε. Η πιο πρόσφατη έκδοση, το GPT-3.5, άντλησε κείμενο από όλο τον Ιστό, συμπεριλαμβανομένης της Wikipedia, ειδησεογραφικών τοποθεσιών, βιβλίων και ιστολογίων, προσπαθώντας να διατηρήσει τις απαντήσεις του σχετικές και καλά ενημερωμένες. Το ChatGPT προσθέτει μια διεπαφή συνομιλίας στο GPT-3.5. Στην ουσία, συστήματα όπως το ChatGPT δημιουργούν συναρπαστικές συμβολοσειρές λέξεων, αλλά δεν κατανοούν τη σημασία τους ή εάν είναι προκατειλημμένες ή παραπλανητικές. Το μόνο που ξέρουν είναι ότι ακούγονται σαν κάτι που θα έλεγε ένας άνθρωπος.

Ιδρύθηκε ως μη κερδοσκοπικός οργανισμός από τον προγραμματιστή λογισμικού και επιχειρηματία Sam Altman για την ανάπτυξη τεχνολογίας AI που «ωφελεί όλη την ανθρωπότητα». Οι πρώτοι επενδυτές περιλάμβαναν το φιλανθρωπικό ίδρυμα του συνιδρυτή του LinkedIn, Reid Hoffman, Khosla Ventures, και τον Elon Musk, ο οποίος τερμάτισε τη συμμετοχή του το 2018. Το OpenAI προχώρησε στη δημιουργία μιας κερδοσκοπικής οντότητας το 2019 όταν η Microsoft επένδυσε 1 δισεκατομμύριο δολάρια.

4. Ποια ήταν η αντίδραση στο ChatGPT;

Πάνω από ένα εκατομμύριο άτομα εγγράφηκαν για να το χρησιμοποιήσουν μετά την κυκλοφορία του στα τέλη Νοεμβρίου. Τα μέσα κοινωνικής δικτύωσης είναι γεμάτα από χρήστες που δοκιμάζουν διασκεδαστικές, χαμηλού προϋπολογισμού χρήσεις αυτής της τεχνολογίας. Κάποιοι μοιράστηκαν τις απαντήσεις τους σε σκοτεινές ερωτήσεις. Άλλοι λαχταρούσαν περίπλοκα ιστορικά επιχειρήματα, κολεγιακά «δοκίμια», στίχους ποπ τραγουδιών, ποιήματα για κρυπτονομίσματα, σχέδια γευμάτων που καλύπτουν συγκεκριμένες διατροφικές ανάγκες και λύσεις σε προβλήματα προγραμματισμού. Το κύμα ενδιαφέροντος ανέβασε επίσης το προφίλ άλλων προϊόντων OpenAI, συμπεριλαμβανομένου του λογισμικού που μπορεί να κερδίσει τους ανθρώπους στα βιντεοπαιχνίδια και ενός εργαλείου γνωστό ως Dall-E που μπορεί να δημιουργήσει εικόνες από φωτορεαλιστικές έως φανταστικές με βάση περιγραφές κειμένου.

5. Ποιος θα ωφεληθεί από όλα αυτά;

Τεχνικοί γίγαντες όπως η Microsoft έχουν αναγνωρίσει τη δυνατότητα της γενετικής τεχνητής νοημοσύνης να αλλάξει τον τρόπο με τον οποίο οι άνθρωποι πλοηγούνται στον Ιστό. Αντί να αναζητούν δεκάδες άρθρα για ένα δεδομένο θέμα και να στέλνουν πίσω μια γραμμή σχετικού κειμένου από έναν ιστότοπο, αυτά τα συστήματα μπορούν να απαντήσουν σε ένα αίτημα. Η Microsoft εμβάθυνε τη σχέση της με το OpenAI τον Ιανουάριο με μια πολυετή επένδυση 10 δισεκατομμυρίων δολαρίων που της έδωσε μερικό δικαίωμα στα μελλοντικά κέρδη του OpenAI με αντάλλαγμα την υπολογιστική ισχύ του δικτύου cloud Azure της Microsoft. Η Microsoft έχει δηλώσει ότι θα ενσωματώσει τον ξάδερφο του ChatGPT στη μηχανή αναζήτησης Bing. Η ανακοίνωση αμφισβήτησε τον αντίπαλο γίγαντα αναζήτησης Google, ο οποίος απάντησε τον Φεβρουάριο λανσάροντας τη δική του υπηρεσία συνομιλίας AI, Bard. Η κινεζική Baidu σχεδιάζει επίσης ένα chatbot AI.

6. Ποιοι άλλοι κλάδοι μπορούν να ωφεληθούν;

Οι οικονομικές δυνατότητες των παραγωγικών συστημάτων τεχνητής νοημοσύνης ξεπερνούν κατά πολύ την αναζήτηση στον ιστό. Μπορούν να επιτρέψουν στις επιχειρήσεις να μεταφέρουν την αυτοματοποιημένη εξυπηρέτηση πελατών σε ένα νέο επίπεδο πολυπλοκότητας δίνοντας τη σωστή απόκριση την πρώτη φορά, ώστε οι χρήστες να μην χρειάζεται να περιμένουν να μιλήσουν σε έναν άνθρωπο. Θα μπορούσαν επίσης να επεξεργάζονται αναρτήσεις ιστολογίου και άλλους τύπους περιεχομένου δημοσίων σχέσεων για επιχειρήσεις που διαφορετικά θα χρειάζονταν τη βοήθεια ενός κειμενογράφου.

7. Ποιοι είναι οι περιορισμοί της γενετικής τεχνητής νοημοσύνης;

Οι απαντήσεις που συγκεντρώνει από μεταχειρισμένες πληροφορίες μπορεί να ακούγονται τόσο αξιόπιστες που οι χρήστες μπορεί να υποθέσουν ότι έχει επαληθεύσει την ακρίβειά τους. Στην πραγματικότητα φτύνει κείμενο που διαβάζεται καλά και ακούγεται έξυπνο, αλλά μπορεί να είναι ελλιπές, προκατειλημμένο, εν μέρει λάθος ή περιστασιακά ανόητο. Αυτά τα συστήματα είναι τόσο καλά όσο τα δεδομένα στα οποία έχουν εκπαιδευτεί. Χωρίς χρήσιμο πλαίσιο, όπως η πηγή πληροφοριών, και με μερικά τυπογραφικά λάθη και άλλες ατέλειες που συχνά μπορούν να σηματοδοτούν αναξιόπιστο υλικό, το περιεχόμενο ChatGPT μπορεί να είναι ναρκοπέδιο για όσους δεν είναι αρκετά εξοικειωμένοι με το θέμα ώστε να εντοπίσουν τη λάθος απάντηση. Αυτό το ζήτημα ώθησε το StackOverflow, έναν ιστότοπο προγραμματισμού υπολογιστών στο φόρουμ συμβουλές κωδικοποίησης, να αποκλείσει τις απαντήσεις ChatGPT επειδή ήταν συχνά ανακριβείς.

8. Τι γίνεται με τους ηθικούς κινδύνους;

Καθώς η νοημοσύνη των μηχανών γίνεται πιο εξελιγμένη, τόσο γίνεται και η δυνατότητά της για εξαπάτηση και κακία. Το Microsoft AI bot Tay αφαιρέθηκε το 2016, αφού ορισμένοι χρήστες του έμαθαν να κάνει ρατσιστικά και σεξιστικά σχόλια. Ένα άλλο που αναπτύχθηκε από την Meta Platforms Inc. αντιμετώπισε παρόμοια προβλήματα το 2022. Το OpenAI προσπάθησε να εκπαιδεύσει το ChatGPT να απορρίπτει ακατάλληλα αιτήματα, περιορίζοντας την ικανότητά του να διαδίδει ρητορική μίσους και παραπληροφόρηση. Ο Altman, Διευθύνων Σύμβουλος του OpenAI, ενθάρρυνε τους ανθρώπους να απορρίψουν δυσάρεστες ή προσβλητικές απαντήσεις προκειμένου να βελτιώσουν το σύστημα. Ωστόσο, ορισμένοι χρήστες έχουν βρει λύσεις. Τα γενετικά συστήματα τεχνητής νοημοσύνης ενδέχεται να μην ανιχνεύουν προκαταλήψεις λόγω φύλου και φυλής που ένας άνθρωπος θα παρατηρούσε σε βιβλία και άλλα κείμενα. Είναι επίσης πιθανά όπλα εξαπάτησης. Οι ακαδημαϊκοί ανησυχούν ότι οι μαθητές θα προσλάβουν chatbots για να κάνουν την εργασία τους. Οι νομοθέτες μπορεί να πλημμυρίσουν με επιστολές προφανώς από ψηφοφόρους που διαμαρτύρονται για την προτεινόμενη νομοθεσία και δεν έχουν ιδέα εάν είναι γνήσια ή δημιουργούνται από ένα chatbot που χρησιμοποιείται από μια εταιρεία λόμπι.

— Με τη βοήθεια των Alex Webb και Nate Lanxon.

Περισσότερες ιστορίες όπως αυτή είναι διαθέσιμες στο bloomberg.com

Αφήστε μια απάντηση

Η ηλ. διεύθυνση σας δεν δημοσιεύεται. Τα υποχρεωτικά πεδία σημειώνονται με *