TikTok's Feed Overwhelmed by "AI Slop" Affecting Youngest Users

TikTok's Feed Overwhelmed by "AI Slop" Affecting Youngest Users

TikTok's Feed Overwhelmed by "AI Slop" Affecting Youngest Users

A alarming new report reveals that AI-generated "slop"—low-quality, bizarre, and sometimes disturbing AI videos—has effectively taken over social media platforms, with TikTok leading the surge. 

According to data from the video editing company Kapwing, nearly 60% of the videos pushed to new users on TikTok's highly algorithmic "For You" page consists of AI slop. 

This volume is three times higher than what new users experience on rival platform YouTube, signaling a rapid shift in the app's content landscape.

The phenomenon is hitting TikTok’s youngest and most vulnerable audience the hardest. Kapwing discovered that the highest density of this automated content is concentrated in the children's category. 

For instance, an audit of the hashtag #cartoonkids revealed that it was almost entirely dominated by AI slop, with a staggering 97 out of 100 sampled videos being completely machine-generated rather than human-made.

Experts are growing increasingly concerned about the psychological and developmental impacts of this constant exposure on impressionable minds, warning that a steady diet of brain-melting AI material could hinder early childhood brain development. 

Furthermore, the issue extends beyond mindless entertainment; the rise of highly photorealistic deepfakes across social media is actively compounding the spread of political propaganda and dangerous misinformation.

TikTok and YouTube are not alone in this struggle, as Meta's platforms, Facebook and Instagram, have similarly devolved into landscapes filled with absurd, AI-generated imagery that frequently deceives both bots and real users. 

Once a user interacts with or shows a slight interest in an AI video, platform algorithms quickly double down, rapidly feeding the user an even higher concentration of automated content.

In response to growing backlash, tech platforms are scrambling to implement basic guardrails, though an easy fix remains elusive. 

TikTok recently introduced features allowing users to manually adjust the amount of AI content in their feeds, while YouTube has rolled out stricter labeling policies for machine-generated media. 

However, because AI technology has advanced so rapidly, even leading deepfake experts admit it has become nearly impossible to distinguish reality from automated slop with the naked eye.

TikTok का फ़ीड "AI स्लॉप" से भर गया है, जो सबसे कम उम्र के यूज़र्स को प्रभावित कर रहा है

एक चौंकाने वाली नई रिपोर्ट से पता चलता है कि AI से बने "स्लॉप" – कम क्वालिटी वाले, अजीब और कभी-कभी परेशान करने वाले AI वीडियो – ने सोशल मीडिया प्लेटफ़ॉर्म पर कब्ज़ा कर लिया है, जिसमें TikTok सबसे आगे है।

वीडियो एडिटिंग कंपनी Kapwing के डेटा के मुताबिक, TikTok के बहुत ज़्यादा एल्गोरिदम वाले "For You" पेज पर नए यूज़र्स को दिखाए जाने वाले लगभग 60% वीडियो AI स्लॉप वाले होते हैं।

यह वॉल्यूम नए यूज़र्स को दूसरे प्लेटफ़ॉर्म YouTube पर मिलने वाले वॉल्यूम से तीन गुना ज़्यादा है, जो ऐप के कंटेंट लैंडस्केप में तेज़ी से बदलाव का संकेत देता है।

यह बात TikTok के सबसे कम उम्र के और सबसे कमज़ोर ऑडियंस को सबसे ज़्यादा प्रभावित कर रही है। Kapwing ने पाया कि इस ऑटोमेटेड कंटेंट की सबसे ज़्यादा डेंसिटी बच्चों की कैटेगरी में है।

 उदाहरण के लिए, हैशटैग #cartoonkids के एक ऑडिट से पता चला कि इसमें लगभग पूरी तरह से AI की बकवास थी, जिसमें हैरान करने वाले 100 सैंपल वीडियो में से 97 पूरी तरह से मशीन से बने थे, न कि इंसानों से बने।

एक्सपर्ट्स इस बात को लेकर ज़्यादा चिंतित हो रहे हैं कि इस लगातार एक्सपोज़र का बच्चों के दिमाग पर क्या साइकोलॉजिकल और डेवलपमेंटल असर पड़ता है, उन्होंने चेतावनी दी है कि दिमाग को पिघलाने वाली AI सामग्री की लगातार खुराक बचपन के शुरुआती दिमाग के विकास में रुकावट डाल सकती है।

इसके अलावा, यह मुद्दा सिर्फ़ बिना सोचे-समझे मनोरंजन से कहीं ज़्यादा है; सोशल मीडिया पर बहुत ज़्यादा फोटोरियलिस्टिक डीपफेक का बढ़ना पॉलिटिकल प्रोपेगैंडा और खतरनाक गलत जानकारी के फैलने को बढ़ा रहा है।

इस लड़ाई में TikTok और YouTube अकेले नहीं हैं, क्योंकि Meta के प्लेटफॉर्म, Facebook और Instagram, भी इसी तरह बेतुकी, AI से बनी तस्वीरों से भरे हुए हैं जो अक्सर बॉट्स और असली यूज़र्स दोनों को धोखा देते हैं।

जब कोई यूज़र किसी AI वीडियो के साथ इंटरैक्ट करता है या उसमें थोड़ी भी दिलचस्पी दिखाता है, तो प्लेटफॉर्म एल्गोरिदम तेज़ी से दोगुना हो जाते हैं, और यूज़र को तेज़ी से ऑटोमेटेड कंटेंट का और भी ज़्यादा कंसंट्रेशन देते हैं।

 बढ़ते विरोध के जवाब में, टेक प्लेटफॉर्म बेसिक सुरक्षा उपाय लागू करने की कोशिश कर रहे हैं, हालांकि कोई आसान समाधान अभी भी मुश्किल है।

TikTok ने हाल ही में ऐसे फीचर्स शुरू किए हैं जिनसे यूज़र्स अपने फ़ीड में AI कंटेंट की मात्रा को मैन्युअल रूप से एडजस्ट कर सकते हैं, जबकि YouTube ने मशीन से बने मीडिया के लिए सख्त लेबलिंग पॉलिसी शुरू की हैं।

हालांकि, क्योंकि AI टेक्नोलॉजी इतनी तेज़ी से आगे बढ़ी है, इसलिए जाने-माने डीपफेक एक्सपर्ट भी मानते हैं कि नंगी आंखों से असलियत और ऑटोमेटेड गंदगी में फर्क करना लगभग नामुमकिन हो गया है।

చిన్న వయసు వినియోగదారులను ప్రభావితం చేస్తున్న "AI స్లాప్"తో టిక్‌టాక్ ఫీడ్ నిండిపోయింది

AI రూపొందించిన "స్లాప్"—అంటే తక్కువ నాణ్యత గల, వింతైన, మరియు కొన్నిసార్లు కలవరపరిచే AI వీడియోలు—సోషల్ మీడియా ప్లాట్‌ఫారమ్‌లను సమర్థవంతంగా ఆక్రమించాయని, ఈ పెరుగుదలకు టిక్‌టాక్ నాయకత్వం వహిస్తోందని ఒక ఆందోళనకరమైన కొత్త నివేదిక వెల్లడిస్తోంది.

వీడియో ఎడిటింగ్ కంపెనీ కాప్‌వింగ్ డేటా ప్రకారం, టిక్‌టాక్ యొక్క అత్యంత అల్గారిథమిక్ "ఫర్ యూ" పేజీలో కొత్త వినియోగదారులకు పంపబడే వీడియోలలో దాదాపు 60% AI స్లాప్‌తో నిండి ఉన్నాయి.

ఈ పరిమాణం, పోటీ ప్లాట్‌ఫారమ్ అయిన యూట్యూబ్‌లో కొత్త వినియోగదారులు చూసే దానికంటే మూడు రెట్లు ఎక్కువ. ఇది యాప్ కంటెంట్ స్వరూపంలో వేగవంతమైన మార్పును సూచిస్తోంది.

ఈ దృగ్విషయం టిక్‌టాక్‌లోని అతి చిన్న మరియు సున్నితమైన ప్రేక్షకులను తీవ్రంగా దెబ్బతీస్తోంది. ఈ ఆటోమేటెడ్ కంటెంట్ యొక్క అత్యధిక సాంద్రత పిల్లల కేటగిరీలో కేంద్రీకృతమై ఉందని కాప్‌వింగ్ కనుగొంది.

 ఉదాహరణకు, #cartoonkids అనే హ్యాష్‌ట్యాగ్‌పై జరిపిన ఒక ఆడిట్‌లో, అది దాదాపు పూర్తిగా AI చెత్తతో నిండిపోయిందని వెల్లడైంది. నమూనాగా తీసుకున్న 100 వీడియోలలో ఆశ్చర్యకరంగా 97 వీడియోలు మనుషులు తయారు చేసినవి కాకుండా, పూర్తిగా యంత్రాల ద్వారానే రూపొందించబడినవి.

సున్నితమైన మనసులపై ఈ నిరంతర ప్రభావం వల్ల కలిగే మానసిక మరియు అభివృద్ధిపరమైన పరిణామాల గురించి నిపుణులు తీవ్రంగా ఆందోళన చెందుతున్నారు. మెదడును కరిగించే AI కంటెంట్‌ను నిరంతరం చూడటం వల్ల చిన్ననాటి మెదడు అభివృద్ధికి ఆటంకం కలగవచ్చని వారు హెచ్చరిస్తున్నారు.

అంతేకాకుండా, ఈ సమస్య కేవలం అర్థంలేని వినోదానికి మాత్రమే పరిమితం కాదు; సోషల్ మీడియా అంతటా అత్యంత వాస్తవికంగా కనిపించే డీప్‌ఫేక్‌ల పెరుగుదల, రాజకీయ ప్రచారం మరియు ప్రమాదకరమైన తప్పుడు సమాచారం వ్యాప్తిని మరింత తీవ్రతరం చేస్తోంది.

ఈ పోరాటంలో టిక్‌టాక్ మరియు యూట్యూబ్ మాత్రమే ఒంటరిగా లేవు. మెటా యొక్క ప్లాట్‌ఫారమ్‌లైన ఫేస్‌బుక్ మరియు ఇన్‌స్టాగ్రామ్ కూడా ఇదే విధంగా అసంబద్ధమైన, AI-సృష్టించిన చిత్రాలతో నిండిన ప్రదేశాలుగా మారిపోయాయి. ఇవి తరచుగా బాట్‌లను మరియు నిజమైన వినియోగదారులను మోసం చేస్తున్నాయి.

ఒక వినియోగదారుడు AI వీడియోతో ఇంటరాక్ట్ అయినా లేదా దానిపై కొద్దిపాటి ఆసక్తి చూపినా, ప్లాట్‌ఫారమ్ అల్గారిథమ్‌లు వెంటనే మరింత తీవ్రంగా స్పందించి, వినియోగదారునికి మరింత అధిక స్థాయిలో ఆటోమేటెడ్ కంటెంట్‌ను వేగంగా అందిస్తాయి.

 పెరుగుతున్న వ్యతిరేకతకు ప్రతిస్పందనగా, టెక్ ప్లాట్‌ఫారమ్‌లు ప్రాథమిక రక్షణ చర్యలను అమలు చేయడానికి తహతహలాడుతున్నాయి, అయినప్పటికీ ఒక సులభమైన పరిష్కారం మాత్రం అంతుచిక్కకుండా ఉంది.

టిక్‌టాక్ ఇటీవల తమ ఫీడ్‌లలోని ఏఐ (AI) కంటెంట్ మొత్తాన్ని వినియోగదారులు స్వయంగా సర్దుబాటు చేసుకునేందుకు వీలు కల్పించే ఫీచర్లను ప్రవేశపెట్టగా, యూట్యూబ్ యంత్రాల ద్వారా సృష్టించబడిన మీడియా కోసం కఠినమైన లేబులింగ్ విధానాలను అమలు చేసింది.

అయితే, ఏఐ సాంకేతికత ఇంత వేగంగా అభివృద్ధి చెందడం వల్ల, కంటితో చూసి వాస్తవాన్ని, యంత్రాల ద్వారా సృష్టించబడిన చెత్తను వేరు చేసి గుర్తించడం దాదాపు అసాధ్యంగా మారిందని ప్రముఖ డీప్‌ఫేక్ నిపుణులు సైతం అంగీకరిస్తున్నారు.