Home Επιχειρήσεις Αυτό το έγραψε κάποιο ρομπότ; Χρειαζόμαστε υδατογραφήματα για να ανιχνεύσουμε AI

Αυτό το έγραψε κάποιο ρομπότ; Χρειαζόμαστε υδατογραφήματα για να ανιχνεύσουμε AI

0
37

Ένας προικισμένος γραφέας με εκπληκτικές δημιουργικές ικανότητες κάνει ένα εντυπωσιακό ντεμπούτο. Το ChatGPT, ένα σύστημα δημιουργίας κειμένου με βάση το Σαν Φρανσίσκο από την OpenAI, γράφει δοκίμια, σενάρια και λογοτεχνικά λόγια μετά την πρόσφατη κυκλοφορία του στο κοινό, συνήθως σε δευτερόλεπτα και συχνά με υψηλό επίπεδο. Ακόμα και τα αστεία του μπορεί να είναι αστεία. Πολλοί επιστήμονες της τεχνητής νοημοσύνης έχουν θαυμάσει πόσο παρόμοιο ακούγεται με τον άνθρωπο.

Και είναι ενδιαφέρον ότι θα βελτιωθεί σύντομα. Το OpenAI αναμένεται ευρέως να κυκλοφορήσει την επόμενη επανάληψη του, γνωστή ως GPT-4, τους επόμενους μήνες, και οι πρώτοι δοκιμαστές λένε ότι είναι καλύτερο από οτιδήποτε άλλο πριν.(1)

Αλλά όλες αυτές οι βελτιώσεις έχουν ένα τίμημα. Όσο καλύτερη είναι η τεχνητή νοημοσύνη, τόσο πιο δύσκολο θα είναι να γίνει διάκριση μεταξύ τεχνητού κειμένου και κειμένου που δημιουργείται από μηχανή. Το OpenAI πρέπει να δώσει προτεραιότητα στις προσπάθειές του για την επισήμανση της εργασίας μηχανών, διαφορετικά μπορεί σύντομα να κατακλυζόμαστε από τον συγκεχυμένο συνδυασμό πραγματικών και ψεύτικων πληροφοριών στο διαδίκτυο.

Προς το παρόν, επιβάλλει στους ανθρώπους μια υποχρέωση να είναι ειλικρινείς. Η πολιτική ChatGPT του OpenAI δηλώνει ότι όταν μοιράζονται περιεχόμενο από το σύστημά του, οι χρήστες θα πρέπει να υποδεικνύουν ξεκάθαρα ότι δημιουργείται από την τεχνητή νοημοσύνη “με τρόπο που κανένας αναγνώστης δεν θα μπορούσε να παραλείψει” ή να παρεξηγήσει.

Η τεχνητή νοημοσύνη σχεδόν σίγουρα θα σας βοηθήσει να σκοτώσετε το δοκίμιό σας στο κολέγιο. (Ένας μαθητής από τη Νέα Ζηλανδία έχει ήδη παραδεχτεί ότι το χρησιμοποίησε για να βελτιώσει τους βαθμούς του.) Οι κυβερνήσεις θα το χρησιμοποιήσουν για να πλημμυρίσουν τα κοινωνικά δίκτυα με προπαγάνδα, οι spammer για να γράφουν ψεύτικες κριτικές του Amazon και οι συμμορίες ransomware για να γράψουν πιο πειστικά μηνύματα ηλεκτρονικού ψαρέματος. Κανείς δεν θα δείξει το μηχάνημα πίσω από την κουρτίνα.

Και πρέπει να λάβετε υπόψη μου ότι και αυτή η στήλη γράφτηκε εξ ολοκλήρου από άνθρωπο.

Το κείμενο που δημιουργείται από την τεχνητή νοημοσύνη χρειάζεται απεγνωσμένα ένα υδατογράφημα, όπως οι εταιρείες φωτογραφιών προστατεύουν τις φωτογραφίες τους και τα κινηματογραφικά στούντιο σταματούν την πειρατεία. Το OpenAI έχει ήδη μια μέθοδο προσθήκης ετικετών σε ένα άλλο εργαλείο δημιουργίας περιεχομένου που ονομάζεται DALL-E με ενσωματωμένη λεζάντα σε κάθε εικόνα που δημιουργεί. Αλλά είναι πολύ πιο δύσκολο να εντοπίσουμε την προέλευση του κειμένου. Πώς να βάλετε μια μυστηριώδη, δύσκολο να αφαιρεθεί ετικέτα στις λέξεις;

Η πιο πολλά υποσχόμενη προσέγγιση είναι η κρυπτογραφία. Σε μια προσκεκλημένη διάλεξη τον περασμένο μήνα στο Πανεπιστήμιο του Τέξας στο Ώστιν, ο ερευνητής του OpenAI Scott Aaronson έδωσε μια σπάνια εικόνα για το πώς η εταιρεία μπορεί να διακρίνει το κείμενο που δημιουργείται από το ακόμα πιο ανθρώπινο εργαλείο GPT-4.

Ο Aaronson, ο οποίος προσλήφθηκε από το OpenAI νωρίτερα φέτος για να λύσει το πρόβλημα προέλευσης, εξήγησε ότι οι λέξεις μπορούν να μετατραπούν σε μια σειρά από διακριτικά που αντιπροσωπεύουν σημεία στίξης, γράμματα ή μέρη λέξεων, για συνολικά περίπου 100.000 μάρκες. Το σύστημα GPT θα αποφασίσει στη συνέχεια να τακτοποιήσει αυτά τα διακριτικά (αντανακλώντας το ίδιο το κείμενο) με τέτοιο τρόπο ώστε να μπορούν να ανιχνευθούν χρησιμοποιώντας ένα κρυπτογραφικό κλειδί που είναι γνωστό μόνο στο OpenAI. «Δεν θα κάνει καμία ανιχνεύσιμη διαφορά για τον τελικό χρήστη», είπε ο Aaronson.

Στην πραγματικότητα, θα ήταν δύσκολο για οποιονδήποτε χρησιμοποιεί το εργαλείο GPT να αφαιρέσει το σήμα του υδατογραφήματος, ακόμη και με την αναδιάταξη των λέξεων ή την αφαίρεση των σημείων στίξης, είπε. Ο καλύτερος τρόπος για να ξεπεραστεί αυτό θα ήταν να χρησιμοποιήσετε ένα άλλο σύστημα AI για να παραφράσετε την έξοδο GPT. Αλλά χρειάζεται προσπάθεια και δεν θα το έκαναν όλοι. Στη διάλεξή του, ο Aaronson είπε ότι είχε ένα λειτουργικό πρωτότυπο.(2)

Αλλά ακόμα και αν υποθέσουμε ότι η μέθοδός του λειτουργεί εκτός εργαστηριακού περιβάλλοντος, το OpenAI εξακολουθεί να έχει ένα δίλημμα. Μοιράζεται δημόσια τα κλειδιά υδατογραφήματος ή τα αποθηκεύει ιδιωτικά;

Εάν τα κλειδιά δημοσιοποιηθούν, καθηγητές σε όλο τον κόσμο θα μπορούσαν να εκτελέσουν τις εκθέσεις των μαθητών τους με ειδικό λογισμικό για να διασφαλίσουν ότι δεν δημιουργούνται από μηχανή, με τον ίδιο τρόπο που κάνουν πολλοί τώρα για να ελέγξουν για λογοκλοπή. Αλλά αυτό θα επέτρεπε επίσης στους κακούς ηθοποιούς να εντοπίσουν το υδατογράφημα και να το αφαιρέσουν.

Εν τω μεταξύ, η διατήρηση των κλειδιών μυστικά δημιουργεί ένα δυνητικά ισχυρό επιχειρηματικό μοντέλο για το OpenAI: τη χρέωση των ατόμων για πρόσβαση. Οι διαχειριστές πληροφορικής θα μπορούσαν να πληρώσουν μια συνδρομή για τη σάρωση εισερχόμενων email για επιθέσεις phishing, ενώ τα πανεπιστήμια θα μπορούσαν να πληρώσουν μια ομαδική αμοιβή για τους καθηγητές τους – και το τίμημα για τη χρήση αυτού του εργαλείου θα πρέπει να είναι αρκετά υψηλό για να αποτρέψει συμμορίες ransomware και κατασκευαστές προπαγάνδας. Το OpenAI ουσιαστικά θα κέρδιζε χρήματα σταματώντας την κακή χρήση της δικής του δημιουργίας.

Θα πρέπει επίσης να θυμόμαστε ότι οι εταιρείες τεχνολογίας δεν έχουν το καλύτερο ιστορικό για την πρόληψη της κατάχρησης των συστημάτων τους, ειδικά όταν δεν υπόκεινται σε ρύθμιση και έχουν κερδοσκοπικό σκοπό. (Η OpenAI λέει ότι είναι μια υβριδική μη κερδοσκοπική εταιρεία που θα περιορίσει τα μελλοντικά της έσοδα.) Αλλά τα αυστηρά φίλτρα που έχει ήδη θέσει σε εφαρμογή η OpenAI για να εμποδίσουν τα εργαλεία κειμένου και εικόνας να δημιουργούν προσβλητικό περιεχόμενο είναι μια καλή αρχή.

Τώρα το OpenAI πρέπει να δώσει προτεραιότητα στο σύστημα υδατογραφημάτων για το κείμενό του. Φαίνεται ότι το μέλλον μας θα πλημμυρίσει με πληροφορίες που δημιουργούνται από μηχανές, όχι μόνο από τα ολοένα και πιο δημοφιλή εργαλεία OpenAI, αλλά και από την ευρύτερη αύξηση των πλαστών, «συνθετικών» δεδομένων που χρησιμοποιούνται για την εκπαίδευση μοντέλων AI και την αντικατάσταση δεδομένων που δημιουργούνται από τον άνθρωπο. Οι εικόνες, τα βίντεο, η μουσική και άλλα θα δημιουργούνται όλο και περισσότερο τεχνητά για να ταιριάζουν στα υπερπροσωποποιημένα γούστα μας.(3)

Φυσικά, είναι πιθανό οι μελλοντικοί μας εαυτοί να μην ενδιαφέρονται αν ένα πιασάρικο τραγούδι ή κινούμενο σχέδιο προέρχεται από την τεχνητή νοημοσύνη. Οι ανθρώπινες αξίες αλλάζουν με την πάροδο του χρόνου. Μας ενδιαφέρει πολύ λιγότερο να θυμόμαστε γεγονότα και οδηγίες τώρα από ό,τι κάναμε, ας πούμε, πριν από 20 χρόνια. Σε κάποιο σημείο, τα υδατογραφήματα μπορεί να μην φαίνονται τόσο απαραίτητα.

Αλλά προς το παρόν, με την απτή αξία που αποδίδεται στην ανθρώπινη εφευρετικότητα που άλλοι πληρώνουν ή αξιολογούν, και με τη σχεδόν βεβαιότητα ότι ένα εργαλείο OpenAI θα γίνει κατάχρηση, πρέπει να γνωρίζουμε πού τελειώνει ο ανθρώπινος εγκέφαλος και πού ξεκινούν οι μηχανές. Ένα υδατογράφημα θα ήταν μια καλή αρχή.

Περισσότερα από τη γνώμη του Bloomberg:

• Η Google αντιμετωπίζει μια σοβαρή απειλή από το ChatGPT: Parma Olson

• Το ChatGPT μπορεί να κάνει τη δημοκρατία ακόμα πιο μπερδεμένο: Tyler Cowen

• Ο Musk πρέπει να διατηρήσει το πιο σημαντικό χαρακτηριστικό του Twitter: το Gearoid Reidy

(1) Το ChatGPT βασίζεται σε μια σειρά μοντέλων γλώσσας που ονομάζονται GPT-3.5. Το GPT σημαίνει Generative Pre-Trained Transformer.

(2) Ο Aaronson επεσήμανε επίσης ότι ο ευκολότερος τρόπος παρακολούθησης κειμένου GPT θα ήταν να αποθηκεύει το OpenAI όλη την έξοδο σε μια κεντρική βάση δεδομένων, όπου οι άνθρωποι θα μπορούσαν να ελέγξουν για αντιστοιχίες. Αλλά αυτό μπορεί να οδηγήσει σε παραβίαση του απορρήτου. Αυτό μπορεί να αποκαλύψει πώς άλλα άτομα έχουν χρησιμοποιήσει το μοντέλο GPT.

(3) Η Gartner εκτιμά ότι έως το 2024, το 60% όλων των δεδομένων που χρησιμοποιούνται για εκπαίδευση τεχνητής νοημοσύνης θα είναι συνθετικά και έως το 2030 θα επισκιάσει πλήρως τα πραγματικά δεδομένα που χρησιμοποιούνται για την εκπαίδευση σε τεχνητή νοημοσύνη.

Αυτή η στήλη δεν αντικατοπτρίζει απαραίτητα τη γνώμη των συντακτών ή του Bloomberg LP και των ιδιοκτητών του.

Η Parmy Olson είναι αρθρογράφος του Bloomberg Opinion που καλύπτει την τεχνολογία. Πρώην ρεπόρτερ της Wall Street Journal και του Forbes, είναι η συγγραφέας του We Are Anonymous.

LEAVE A REPLY

Please enter your comment!
Please enter your name here