Meta Suspends Teen Access to AI Characters Amid Safety Revisions

Meta Suspends Teen Access to AI Characters Amid Safety Revisions

Meta Suspends Teen Access to AI Characters Amid Safety Revisions

Meta Platforms announced on Friday that it is suspending teenagers' access to its AI characters across all global applications, including Instagram, WhatsApp, and Messenger. 

This suspension serves as a temporary measure while the company develops an updated iteration of the AI tools specifically designed for younger users. 

The move comes as Meta faces mounting pressure to ensure its generative AI features do not expose minors to inappropriate or suggestive content.

The upcoming version of these AI characters will be integrated with comprehensive parental controls, a feature that was notably absent in the initial rollout. 

Once the updated experience is ready, parents will have the ability to monitor or disable their teenagers' private chats with AI personas. 

Meta clarified that while these controls were previewed late last year, they have not yet been fully implemented, necessitating the current worldwide freeze on access for minors.

This decision follows significant criticism from regulators and child safety advocates regarding the behavior of Meta’s chatbots. 

Previous reports highlighted instances where the AI exhibited "flirty" or provocative behavior during interactions with minors, raising alarms about the potential for negative psychological impacts. 

By pulling the feature now, Meta aims to address these vulnerabilities before a wider, more permanent release of its AI suite.

To further align with safety standards, Meta stated that its future AI experiences for teens will be guided by a framework similar to the PG-13 movie rating system. 

This approach is intended to provide a protective layer that filters out mature themes and ensures the dialogue remains age-appropriate. 

The company is under increased scrutiny from U.S. regulators who are closely monitoring how tech giants manage the risks associated with rapidly evolving chatbot technology.

The suspension is expected to take effect in the coming weeks, during which time the "AI Characters" feature will simply be unavailable to users identified as minors. 

Meta has not yet provided a specific date for when the revamped, safer version will debut. 

For now, the company is prioritizing the creation of a "walled garden" for AI interaction to restore trust with parents and satisfy the demands of international digital safety laws.

मेटा ने सुरक्षा सुधारों के बीच AI कैरेक्टर्स तक टीनएजर्स की पहुंच सस्पेंड की

मेटा प्लेटफॉर्म्स ने शुक्रवार को घोषणा की कि वह इंस्टाग्राम, व्हाट्सएप और मैसेंजर सहित अपने सभी ग्लोबल एप्लिकेशन पर टीनएजर्स के लिए अपने AI कैरेक्टर्स तक पहुंच को सस्पेंड कर रहा है।

यह सस्पेंशन एक अस्थायी उपाय है, जबकि कंपनी खास तौर पर युवा यूजर्स के लिए डिज़ाइन किए गए AI टूल्स का एक अपडेटेड वर्जन डेवलप कर रही है।

यह कदम ऐसे समय आया है जब मेटा पर यह सुनिश्चित करने का दबाव बढ़ रहा है कि उसके जेनरेटिव AI फीचर्स नाबालिगों को अनुचित या आपत्तिजनक कंटेंट के संपर्क में न लाएं।

इन AI कैरेक्टर्स के आने वाले वर्जन में व्यापक पैरेंटल कंट्रोल इंटीग्रेट किए जाएंगे, एक ऐसा फीचर जो शुरुआती रोलआउट में मौजूद नहीं था।

एक बार जब अपडेटेड एक्सपीरियंस तैयार हो जाएगा, तो माता-पिता अपने टीनएजर्स की AI पर्सनैलिटी के साथ प्राइवेट चैट को मॉनिटर या डिसेबल कर पाएंगे।

मेटा ने साफ किया कि हालांकि इन कंट्रोल्स का पिछले साल के आखिर में प्रीव्यू किया गया था, लेकिन इन्हें अभी तक पूरी तरह से लागू नहीं किया गया है, जिसके कारण नाबालिगों के लिए एक्सेस पर मौजूदा दुनिया भर में रोक लगाई गई है।

यह फैसला मेटा के चैटबॉट्स के व्यवहार के बारे में रेगुलेटर्स और बाल सुरक्षा समर्थकों की महत्वपूर्ण आलोचना के बाद आया है।

पिछली रिपोर्टों में ऐसे उदाहरण सामने आए थे जहां AI ने नाबालिगों के साथ बातचीत के दौरान "फ्लर्टी" या भड़काऊ व्यवहार किया था, जिससे संभावित नकारात्मक मनोवैज्ञानिक प्रभावों के बारे में चिंताएं बढ़ गई थीं।

इस फीचर को अभी हटाकर, मेटा का लक्ष्य अपने AI सूट के व्यापक, अधिक स्थायी रिलीज से पहले इन कमजोरियों को दूर करना है।

सुरक्षा मानकों के साथ और तालमेल बिठाने के लिए, मेटा ने कहा कि टीनएजर्स के लिए उसके भविष्य के AI अनुभव PG-13 मूवी रेटिंग सिस्टम के समान एक फ्रेमवर्क द्वारा निर्देशित होंगे।

इस दृष्टिकोण का उद्देश्य एक सुरक्षात्मक परत प्रदान करना है जो वयस्क विषयों को फ़िल्टर करता है और यह सुनिश्चित करता है कि बातचीत उम्र के अनुसार हो।

कंपनी अमेरिकी रेगुलेटर्स की कड़ी निगरानी में है जो बारीकी से निगरानी कर रहे हैं कि टेक दिग्गज तेजी से विकसित हो रही चैटबॉट टेक्नोलॉजी से जुड़े जोखिमों को कैसे मैनेज करते हैं।

उम्मीद है कि यह सस्पेंशन आने वाले हफ्तों में लागू हो जाएगा, इस दौरान "AI कैरेक्टर्स" फीचर नाबालिग के रूप में पहचाने गए यूजर्स के लिए उपलब्ध नहीं होगा।

मेटा ने अभी तक कोई खास तारीख नहीं बताई है कि कब नया, सुरक्षित वर्जन लॉन्च होगा।

अभी के लिए, कंपनी माता-पिता के साथ विश्वास बहाल करने और अंतरराष्ट्रीय डिजिटल सुरक्षा कानूनों की मांगों को पूरा करने के लिए AI इंटरैक्शन के लिए एक "वॉल्ड गार्डन" बनाने को प्राथमिकता दे रही है।