TikTok Shop Battles AI-Driven Fraud and 70 Million Fake Products

TikTok Shop Battles AI-Driven Fraud and 70 Million Fake Products

TikTok Shop Battles AI-Driven Fraud and 70 Million Fake Products

TikTok Shop and other major e-commerce platforms, including Amazon, are reportedly facing a massive surge in fraud, a problem exacerbated by the rise of generative AI tools. 

According to a Business Insider report, sophisticated fraudsters are utilizing AI to rapidly create convincing fake brands, dupes, and non-existent products, effectively tricking consumers into purchasing items that are never delivered. 

This widespread malicious activity has become a significant headache for platforms trying to maintain consumer trust.

The sheer volume of fraudulent listings highlights the scale of the challenge. 

In a recent report, TikTok revealed that in the first half of 2025, it rejected over 70 million products before they could even be listed on the platform. 

This figure marks a steep 40% increase compared to the preceding six months. TikTok attributes this jump partly to the growth of its global seller and creator community, but also to its improved ability to detect prohibited products.

The problem is being handled as a sophisticated battle between automated systems. 

According to Nicolas Waldmann, who leads TikTok Shop's governance and experience external affairs team, this fraud amounts to "organized crime," with scammers attempting to sell items, collect the money, and then disappear. 

The difficulty lies in catching these AI-powered fraudsters. As a countermeasure, TikTok employs its own AI to combat AI, in addition to using human moderation, resulting in what Waldmann describes as a "fun little cycle" of digital counter-insurgency.

The e-commerce industry's struggle with AI-powered fraud is not isolated to product listings. 

In August, a separate report noted that scammers were running a "widespread, ongoing, malicious campaign" on various platforms to steal both cryptocurrency and users' personal data. 

The efficiency and speed with which generative AI can create credible-looking brands and product imagery have made these types of scams exponentially harder for traditional detection methods to catch.

Ultimately, the fight against "AI slop" entering the online marketplace underscores a growing ethical challenge in the tech industry. 

While platforms like TikTok and Amazon are investing heavily in AI to track and reject these scams, the continuous increase in rejected fraudulent products indicates that the battle against bad actors using AI for profit is intensifying, threatening platform integrity and consumer confidence worldwide.

टिकटॉक शॉप एआई-चालित धोखाधड़ी और 7 करोड़ नकली उत्पादों से जूझ रहा है

टिकटॉक शॉप और अमेज़न सहित अन्य प्रमुख ई-कॉमर्स प्लेटफ़ॉर्म कथित तौर पर धोखाधड़ी में भारी वृद्धि का सामना कर रहे हैं, यह समस्या जनरेटिव एआई टूल्स के उदय से और भी बढ़ गई है।

बिजनेस इनसाइडर की एक रिपोर्ट के अनुसार, परिष्कृत धोखेबाज एआई का उपयोग करके तेज़ी से विश्वसनीय नकली ब्रांड, नकली उत्पाद और गैर-मौजूद उत्पाद बना रहे हैं, जिससे उपभोक्ताओं को ऐसी चीज़ें खरीदने के लिए मजबूर होना पड़ रहा है जो कभी डिलीवर ही नहीं होतीं।

यह व्यापक दुर्भावनापूर्ण गतिविधि उन प्लेटफ़ॉर्म के लिए एक बड़ा सिरदर्द बन गई है जो उपभोक्ता विश्वास बनाए रखने की कोशिश कर रहे हैं।

धोखाधड़ी वाली लिस्टिंग की विशाल संख्या इस चुनौती के पैमाने को उजागर करती है।

एक हालिया रिपोर्ट में, टिकटॉक ने खुलासा किया कि 2025 की पहली छमाही में, उसने 7 करोड़ से ज़्यादा उत्पादों को प्लेटफ़ॉर्म पर सूचीबद्ध होने से पहले ही अस्वीकार कर दिया।

यह आँकड़ा पिछले छह महीनों की तुलना में 40% की भारी वृद्धि दर्शाता है। टिकटॉक इस उछाल का श्रेय आंशिक रूप से अपने वैश्विक विक्रेता और निर्माता समुदाय के विकास को देता है, लेकिन प्रतिबंधित उत्पादों का पता लगाने की अपनी बेहतर क्षमता को भी। 

इस समस्या को स्वचालित प्रणालियों के बीच एक जटिल संघर्ष के रूप में देखा जा रहा है।

निकोलस वाल्डमैन, जो टिकटॉक शॉप की गवर्नेंस और एक्सटर्नल अफेयर्स टीम का नेतृत्व करते हैं, के अनुसार, यह धोखाधड़ी "संगठित अपराध" के समान है, जिसमें स्कैमर्स सामान बेचने, पैसे इकट्ठा करने और फिर गायब होने का प्रयास करते हैं।

इन एआई-संचालित धोखेबाजों को पकड़ना मुश्किल है। एक प्रतिकार उपाय के रूप में, टिकटॉक एआई का मुकाबला करने के लिए अपने स्वयं के एआई का उपयोग करता है, साथ ही मानवीय नियंत्रण का भी उपयोग करता है, जिसके परिणामस्वरूप वाल्डमैन डिजिटल प्रति-विद्रोह के एक "मज़ेदार छोटे चक्र" का वर्णन करते हैं।

ई-कॉमर्स उद्योग का एआई-संचालित धोखाधड़ी से संघर्ष केवल उत्पाद लिस्टिंग तक ही सीमित नहीं है।

अगस्त में, एक अलग रिपोर्ट में उल्लेख किया गया था कि स्कैमर्स क्रिप्टोकरेंसी और उपयोगकर्ताओं के व्यक्तिगत डेटा, दोनों को चुराने के लिए विभिन्न प्लेटफार्मों पर एक "व्यापक, निरंतर, दुर्भावनापूर्ण अभियान" चला रहे थे।

जिस दक्षता और गति से जनरेटिव एआई विश्वसनीय दिखने वाले ब्रांड और उत्पाद इमेजरी बना सकता है, उसने पारंपरिक पहचान विधियों के लिए इस प्रकार के घोटालों को पकड़ना कई गुना कठिन बना दिया है।

 अंततः, ऑनलाइन बाज़ार में प्रवेश करने वाले "एआई स्लोप" के विरुद्ध लड़ाई तकनीकी उद्योग में बढ़ती नैतिक चुनौती को रेखांकित करती है।

हालाँकि टिकटॉक और अमेज़न जैसे प्लेटफ़ॉर्म इन घोटालों पर नज़र रखने और उन्हें खारिज करने के लिए एआई में भारी निवेश कर रहे हैं, फिर भी अस्वीकृत धोखाधड़ी वाले उत्पादों में निरंतर वृद्धि यह दर्शाती है कि लाभ के लिए एआई का उपयोग करने वाले बुरे लोगों के विरुद्ध लड़ाई तेज़ हो रही है, जिससे दुनिया भर में प्लेटफ़ॉर्म की अखंडता और उपभोक्ता विश्वास को ख़तरा हो रहा है।

టిక్‌టాక్ షాప్ AI-ఆధారిత మోసం మరియు 70 మిలియన్ల నకిలీ ఉత్పత్తులతో పోరాడుతోంది

టిక్‌టాక్ షాప్ మరియు అమెజాన్‌తో సహా ఇతర ప్రధాన ఇ-కామర్స్ ప్లాట్‌ఫారమ్‌లు మోసాలలో భారీ పెరుగుదలను ఎదుర్కొంటున్నాయని నివేదించబడింది, ఇది జనరేటివ్ AI సాధనాల పెరుగుదల ద్వారా మరింత తీవ్రమైంది. 

బిజినెస్ ఇన్‌సైడర్ నివేదిక ప్రకారం, అధునాతన మోసగాళ్ళు AIని ఉపయోగించి నమ్మదగిన నకిలీ బ్రాండ్‌లు, నకిలీలు మరియు ఉనికిలో లేని ఉత్పత్తులను వేగంగా సృష్టిస్తున్నారు, వినియోగదారులను ఎప్పుడూ డెలివరీ చేయని వస్తువులను కొనుగోలు చేయడానికి సమర్థవంతంగా మోసగిస్తున్నారు. 

ఈ విస్తృతమైన హానికరమైన చర్య వినియోగదారుల విశ్వాసాన్ని కొనసాగించడానికి ప్రయత్నిస్తున్న ప్లాట్‌ఫారమ్‌లకు గణనీయమైన తలనొప్పిగా మారింది.

మోసపూరిత జాబితాల యొక్క భారీ పరిమాణం సవాలు యొక్క స్థాయిని హైలైట్ చేస్తుంది. 

ఇటీవలి నివేదికలో, టిక్‌టాక్ 2025 మొదటి అర్ధభాగంలో, ప్లాట్‌ఫారమ్‌లో జాబితా చేయబడటానికి ముందే 70 మిలియన్లకు పైగా ఉత్పత్తులను తిరస్కరించిందని వెల్లడించింది. 

ఈ సంఖ్య మునుపటి ఆరు నెలలతో పోలిస్తే 40% పెరుగుదలను సూచిస్తుంది. టిక్‌టాక్ ఈ పెరుగుదలకు పాక్షికంగా దాని ప్రపంచ విక్రేత మరియు సృష్టికర్త సంఘం పెరుగుదలకు, అలాగే నిషేధిత ఉత్పత్తులను గుర్తించే దాని మెరుగైన సామర్థ్యానికి కారణమని పేర్కొంది.

 ఈ సమస్యను ఆటోమేటెడ్ సిస్టమ్‌ల మధ్య ఒక అధునాతన యుద్ధంగా నిర్వహిస్తున్నారు. 

టిక్‌టాక్ షాప్ యొక్క గవర్నెన్స్ మరియు ఎక్స్‌పీరియన్స్ ఎక్స్‌టర్నల్ అఫైర్స్ బృందానికి నాయకత్వం వహించే నికోలస్ వాల్డ్‌మాన్ ప్రకారం, ఈ మోసం "వ్యవస్థీకృత నేరం"కి సమానం, స్కామర్లు వస్తువులను విక్రయించడానికి, డబ్బును సేకరించడానికి మరియు తరువాత అదృశ్యం కావడానికి ప్రయత్నిస్తారు. 

ఈ AI-ఆధారిత మోసగాళ్లను పట్టుకోవడంలో ఇబ్బంది ఉంది. ప్రతిఘటనగా, టిక్‌టాక్ మానవ నియంత్రణను ఉపయోగించడంతో పాటు AIని ఎదుర్కోవడానికి దాని స్వంత AIని ఉపయోగిస్తుంది, దీని ఫలితంగా వాల్డ్‌మాన్ డిజిటల్ కౌంటర్-తిరుగుబాటు యొక్క "సరదా చిన్న చక్రం"గా వర్ణించారు.

AI-ఆధారిత మోసంతో ఇ-కామర్స్ పరిశ్రమ యొక్క పోరాటం ఉత్పత్తి జాబితాలకు మాత్రమే పరిమితం కాదు. 

ఆగస్టులో, స్కామర్‌లు క్రిప్టోకరెన్సీ మరియు వినియోగదారుల వ్యక్తిగత డేటా రెండింటినీ దొంగిలించడానికి వివిధ ప్లాట్‌ఫామ్‌లలో "విస్తృతమైన, కొనసాగుతున్న, హానికరమైన ప్రచారం" నిర్వహిస్తున్నారని ఒక ప్రత్యేక నివేదిక పేర్కొంది. 

ఉత్పాదక AI విశ్వసనీయంగా కనిపించే బ్రాండ్‌లను మరియు ఉత్పత్తి చిత్రాలను సృష్టించగల సామర్థ్యం మరియు వేగం ఈ రకమైన స్కామ్‌లను సాంప్రదాయ గుర్తింపు పద్ధతులను పట్టుకోవడం చాలా కష్టతరం చేసింది.

 అంతిమంగా, ఆన్‌లైన్ మార్కెట్‌ప్లేస్‌లోకి "AI స్లాప్" ప్రవేశించడాన్ని వ్యతిరేకించే పోరాటం టెక్ పరిశ్రమలో పెరుగుతున్న నైతిక సవాలును నొక్కి చెబుతుంది. 

టిక్‌టాక్ మరియు అమెజాన్ వంటి ప్లాట్‌ఫారమ్‌లు ఈ మోసాలను ట్రాక్ చేయడానికి మరియు తిరస్కరించడానికి AIలో భారీగా పెట్టుబడులు పెడుతుండగా, తిరస్కరించబడిన మోసపూరిత ఉత్పత్తులలో నిరంతర పెరుగుదల AIని లాభం కోసం ఉపయోగించే చెడు నటులకు వ్యతిరేకంగా పోరాటం తీవ్రతరం అవుతోందని, ప్రపంచవ్యాప్తంగా ప్లాట్‌ఫామ్ సమగ్రత మరియు వినియోగదారుల విశ్వాసాన్ని బెదిరిస్తుందని సూచిస్తుంది.