AI slop: Γιατί το ίντερνετ γεμίζει με φτηνό AI content και πώς το καταλαβαίνεις

Κάνεις scroll και εμφανίζεται μπροστά σου μια συγκινητική φωτογραφία ενός ηλικιωμένου που υποτίθεται πως έφτιαξε μόνος του ένα αριστούργημα από ξύλο. Λίγο πιο κάτω, ένα βίντεο δείχνει ένα ζώο να σώζει ηρωικά ένα παιδί. Ανοίγεις ένα άρθρο που υπόσχεται να απαντήσει σε μια απλή ερώτηση και, έπειτα από 700 λέξεις, συνειδητοποιείς ότι ουσιαστικά δεν σου είπε τίποτα.

Έλα λίγο να σου μιλήσουμε για το τι εστί AI slop.

Ο όρος χρησιμοποιείται όλο και περισσότερο για να περιγράψει το χαμηλής ποιότητας περιεχόμενο που παράγεται μαζικά με εργαλεία τεχνητής νοημοσύνης και ανεβαίνει online με ελάχιστη ή καθόλου ανθρώπινη επιμέλεια. Μπορεί να είναι κείμενο, φωτογραφία, βίντεο, meme, μουσική ή οτιδήποτε άλλο μπορεί πλέον να δημιουργηθεί σε δευτερόλεπτα.

Το Reuters Institute το περιγράφει ως κάτι που δεν είναι καν παραπληροφόρηση. Μπορεί να είναι ένα ασαφές κείμενο γεμάτο buzzwords, μια βιαστικά φτιαγμένη εικόνα ή ένα άρθρο στο οποίο κάτι δεν κολλάει ούτε στο ύφος ούτε στα γεγονότα.

Γιατί γίνεται ο κακός χαμός με αυτό;

Επειδή είναι φτηνό και μπορεί να αποδώσει, duh! Εκεί που κάποτε χρειαζόσουν κάποιον να γράψει ένα άρθρο, κάποιον να δημιουργήσει μια εικόνα και κάποιον να μοντάρει ένα βίντεο, σήμερα ένας άνθρωπος μπορεί να παράγει δεκάδες ή εκατοντάδες κομμάτια περιεχομένου μέσα στην ίδια ημέρα.

Αν παράγεις εκατό βίντεο και τα 99 περάσουν απαρατήρητα, ίσως το εκατοστό γίνει viral. Αν δημιουργήσεις χιλιάδες σελίδες για δημοφιλείς αναζητήσεις, κάποιες μπορεί να φέρουν επισκέψεις, clicks και διαφημιστικά έσοδα.

Η Google, μάλιστα, έχει ειδικό όρο για μια αντίστοιχη πρακτική στα αποτελέσματα αναζήτησης, την ονομάζει scaled content abuse. Δηλαδή τη μαζική δημιουργία σελίδων με βασικό στόχο τη χειραγώγηση των rankings και όχι την πραγματική βοήθεια του αναγνώστη. Στα παραδείγματά της περιλαμβάνει ρητά τη χρήση generative AI για τη δημιουργία πολλών σελίδων χωρίς ουσιαστική προστιθέμενη αξία.

Οι αλγόριθμοι λατρεύουν τη σαβούρα αρκεί να φέρνει engagement

Υπάρχει όμως κι ένας δεύτερος λόγος που βλέπουμε όλο και περισσότερο AI slop, επειδή αρκετές φορές εμείς οι ίδιοι το ανταμείβουμε. Ερευνητές μελέτησαν 125 σελίδες στο Facebook που είχαν δημοσιεύσει τουλάχιστον 50 εικόνες παραγόμενες με AI η καθεμία. Οι εικόνες τους συγκέντρωσαν συνολικά εκατοντάδες εκατομμύρια εμφανίσεις. Μία AI-generated ανάρτηση έφτασε τα 40 εκατομμύρια views και περισσότερα από 1,9 εκατομμύρια interactions.

Κάποιες από αυτές τις σελίδες χρησιμοποιούσαν το engagement για να οδηγούν τον κόσμο σε content farms και χαμηλής ποιότητας websites, ενώ άλλες επιχειρούσαν ακόμη και να πουλήσουν ανύπαρκτα προϊόντα ή να αποσπάσουν προσωπικά δεδομένα. Με λίγα λόγια, όταν το παράξενο, το συγκινητικό ή το εξωφρενικό φέρνει reactions, ο αλγόριθμος δεν είναι απαραίτητο να αναρωτηθεί αν αποτελεί αριστούργημα ή σκουπίδι.

Πώς καταλαβαίνεις το AI slop;

Στις εικόνες και στα βίντεο, τα πράγματα μια φορά και ένα καιρό ήταν σχετικά εύκολα. Παράξενα δάχτυλα, γράμματα που δεν έβγαζαν νόημα, αντικείμενα που ενώνονταν μεταξύ τους και πρόσωπα που έμοιαζαν σαν να έχουν βγει από ταινία του Ντέηβιντ Λιντς.

Τα σύγχρονα μοντέλα όμως έχουν βελτιωθεί σημαντικά. Γι' αυτό πλέον πρέπει να κοιτάς κυρίως το σύνολο. Έχει λογική αυτό που βλέπεις; Ποιος το ανέβασε; Υπάρχει κάποια αξιόπιστη αρχική πηγή; Ένα απίστευτο περιστατικό που συνέβη μπροστά σε δεκάδες ανθρώπους υπάρχει μόνο σε έναν άγνωστο λογαριασμό;

Στα AI videos μπορεί ακόμη να εμφανίζονται αλλόκοτες κινήσεις, ασυνέπειες από καρέ σε καρέ ή αφύσικη ομιλία και ήχος – στα έχουμε εξηγήσει πιο αναλυτικά εδώ. Watermarks και τα λεγόμενα Content Credentials μπορούν επίσης να προσφέρουν ενδείξεις για την προέλευση ενός αρχείου, όταν υπάρχουν.

Στο κείμενο τα πράγματα είναι δυσκολότερα ή και όχι.

«Στη σημερινή εποχή», «Σε έναν κόσμο που αλλάζει διαρκώς», «Αξίζει να σημειωθεί ότι», «Είναι σημαντικό να σημειωθεί ότι», «Η απάντηση εξαρτάται από πολλούς παράγοντες», «Από τη μία πλευρά… από την άλλη…», «Το κλειδί είναι να βρεις την ισορροπία», «Δεν πρόκειται απλώς για Χ, αλλά για Υ», «Και εδώ είναι που τα πράγματα γίνονται ενδιαφέροντα», «Η πραγματικότητα είναι πιο σύνθετη», «Τα καλά νέα είναι ότι», «Με απλά λόγια», «Στην πράξη, αυτό σημαίνει ότι», «Τι σημαίνει όμως αυτό στην πράξη;», «Ας το δούμε πιο αναλυτικά», «Ας πάρουμε τα πράγματα από την αρχή», «Υπάρχει όμως και μια άλλη πλευρά», «Κάπου εδώ μπαίνει στην εξίσωση το…», «Εδώ ακριβώς βρίσκεται το πρόβλημα», «Το σημαντικότερο ίσως είναι ότι», «Τελικά, όλα καταλήγουν σε…» και, φυσικά, το αθάνατο «Συνοψίζοντας…» είναι μερικές από τις φράσεις που συναντάμε ξανά και ξανά σε κείμενα που έχουν παραχθεί από AI chatbots.

Και οι AI detectors;

Τα εργαλεία ανίχνευσης AI επιχειρούν να εκτιμήσουν κατά πόσο ένα κείμενο έχει δημιουργηθεί από μοντέλο τεχνητής νοημοσύνης, όμως το αποτέλεσμα δεν πρέπει να αντιμετωπίζεται σαν αδιάψευστη απόδειξη.

Το WIRED εξέτασε πρόσφατα την περίπτωση του Pangram, ενός από τα εργαλεία που έχουν αποκτήσει μεγάλη επιρροή στον χώρο, επισημαίνοντας ταυτόχρονα τις αντιπαραθέσεις γύρω από τα false positives, τη διαφάνεια και τις συνέπειες που μπορεί να έχει ένας λανθασμένος χαρακτηρισμός για έναν πραγματικό συγγραφέα.

AI content δεν σημαίνει AI slop

Ένα κείμενο δεν μετατρέπεται σε σκουπίδι επειδή κάποιος χρησιμοποίησε AI για να κάνει research, να οργανώσει σημειώσεις, να διορθώσει ένα κείμενο ή να βοηθηθεί στη δημιουργία του. Ακόμη και η ίδια η Google αναφέρει ότι η generative AI μπορεί να χρησιμοποιηθεί χρήσιμα στην έρευνα και στη δομή πρωτότυπου περιεχομένου. Το πρόβλημα ξεκινά όταν παράγεται μαζικά περιεχόμενο χωρίς πραγματική αξία για τον άνθρωπο που θα το διαβάσει.

Και το ειρωνικό στην όλη φάση είναι ότι η κατάσταση μπορεί κάποτε να ενοχλήσει ακόμη και την ίδια την τεχνητή νοημοσύνη. Έρευνα στο Nature έχει δείξει ότι όταν γενιές μοντέλων εκπαιδεύονται επανειλημμένα πάνω σε δεδομένα που έχουν παραχθεί από προηγούμενα μοντέλα, μπορεί να εμφανιστεί το λεγόμενο model collapse, με σταδιακή απώλεια πληροφορίας και ποικιλίας από τα αρχικά ανθρώπινα δεδομένα.