Meta Enhances Parental Oversight of Teen AI Conversations

Meta Enhances Parental Oversight of Teen AI Conversations

Meta Enhances Parental Oversight of Teen AI Conversations

Meta has announced a new safety feature that allows parents to monitor the topics their teenagers discuss with the company’s AI assistant. 

Available through the Teen Account parental supervision tool, this update applies to Facebook, Messenger, and Instagram. 

The feature aims to give parents more transparency by providing an "Insights" tab that categorizes interactions, helping guardians stay informed about the general nature of their child's digital dialogues.

The tool does not provide full transcripts but instead lists broad categories of conversation from the past seven days. 

Topics include areas such as school, entertainment, writing, and health and wellbeing. 

Parents can delve slightly deeper into specific sub-categories; for instance, the health section might distinguish between fitness, physical health, and mental health queries. 

This limited detail is designed to balance teen privacy with parental safety concerns.

This rollout comes at a time when Meta is facing significant legal and public pressure regarding child safety. 

Recent landmark trials in New Mexico revealed internal documents suggesting Meta leadership knew its AI characters could engage in inappropriate or sexual interactions prior to launch. 

Consequently, Meta has temporarily paused one-on-one AI "characters" for teens globally while it continues to refine its parental control suite.

In addition to technical tools, Meta is collaborating with outside experts to bolster its safety framework. 

The company partnered with the Cyberbullying Research Center to provide "conversation starters" for families and formed an AI Wellbeing Expert Council. 

This council includes specialists from the University of Michigan and the National Council for Suicide Prevention, tasked with providing ongoing input on the impact of AI on the teenage experience.

Despite these efforts, the move has drawn criticism from child advocacy groups like Fairplay. 

Critics argue that the feature places an undue burden on parents to "police" platforms rather than forcing the company to build safer products from the start. 

Advocates expressed concern that the fundamental design of these chatbots aims to foster emotional connections to keep young users engaged, a core issue they believe a topic-tracking tool fails to address.

मेटा ने टीनएजर्स की AI बातचीत पर पेरेंट्स की निगरानी को बेहतर बनाया

मेटा ने एक नए सेफ्टी फीचर की घोषणा की है, जिससे पेरेंट्स उन टॉपिक्स पर नज़र रख सकते हैं जिन पर उनके टीनएजर्स कंपनी के AI असिस्टेंट के साथ चर्चा करते हैं।

टीन अकाउंट पेरेंटल सुपरविज़न टूल के ज़रिए उपलब्ध, यह अपडेट Facebook, Messenger और Instagram पर लागू होता है।

इस फीचर का मकसद पेरेंट्स को ज़्यादा ट्रांसपेरेंसी देना है, इसके लिए एक "इनसाइट्स" टैब दिया जाता है जो बातचीत को कैटेगरी में बांटता है, जिससे गार्जियन अपने बच्चे की डिजिटल बातचीत के आम नेचर के बारे में जानकारी रख सकें।

यह टूल पूरी ट्रांसक्रिप्ट नहीं देता है, बल्कि पिछले सात दिनों की बातचीत की बड़ी कैटेगरी लिस्ट करता है।

टॉपिक्स में स्कूल, एंटरटेनमेंट, राइटिंग और हेल्थ और वेलबीइंग जैसे एरिया शामिल हैं।

पेरेंट्स खास सब-कैटेगरी में थोड़ा और गहराई से जा सकते हैं; उदाहरण के लिए, हेल्थ सेक्शन फिटनेस, फिजिकल हेल्थ और मेंटल हेल्थ सवालों के बीच अंतर कर सकता है।

यह सीमित डिटेल टीन प्राइवेसी और पेरेंट्स की सेफ्टी चिंताओं के बीच बैलेंस बनाने के लिए डिज़ाइन की गई है।

यह रोलआउट ऐसे समय में आया है जब मेटा बच्चों की सेफ्टी को लेकर काफी कानूनी और पब्लिक प्रेशर का सामना कर रहा है।

 न्यू मेक्सिको में हाल ही में हुए बड़े ट्रायल्स से पता चला कि मेटा लीडरशिप को लॉन्च से पहले ही पता था कि उसके AI कैरेक्टर गलत या सेक्सुअल इंटरेक्शन कर सकते हैं।

इसलिए, मेटा ने दुनिया भर में टीनएजर्स के लिए वन-ऑन-वन AI "कैरेक्टर्स" को कुछ समय के लिए रोक दिया है, जबकि वह अपने पेरेंटल कंट्रोल सूट को बेहतर बना रहा है।

टेक्निकल टूल्स के अलावा, मेटा अपने सेफ्टी फ्रेमवर्क को मजबूत करने के लिए बाहरी एक्सपर्ट्स के साथ मिलकर काम कर रहा है।

कंपनी ने परिवारों के लिए "बातचीत शुरू करने वाले" देने के लिए साइबरबुलिंग रिसर्च सेंटर के साथ पार्टनरशिप की और एक AI वेलबीइंग एक्सपर्ट काउंसिल बनाई।

इस काउंसिल में मिशिगन यूनिवर्सिटी और नेशनल काउंसिल फॉर सुसाइड प्रिवेंशन के स्पेशलिस्ट शामिल हैं, जिन्हें टीनएज एक्सपीरियंस पर AI के असर पर लगातार इनपुट देने का काम सौंपा गया है।

इन कोशिशों के बावजूद, इस कदम की फेयरप्ले जैसे बच्चों के सपोर्ट ग्रुप्स ने आलोचना की है।

क्रिटिक्स का कहना है कि यह फीचर पेरेंट्स पर प्लेटफॉर्म्स पर "पुलिस" करने का बेवजह बोझ डालता है, बजाय इसके कि कंपनी को शुरू से ही सुरक्षित प्रोडक्ट्स बनाने के लिए मजबूर किया जाए।

 एडवोकेट्स ने चिंता जताई कि इन चैटबॉट्स का बेसिक डिज़ाइन यंग यूज़र्स को एंगेज रखने के लिए इमोशनल कनेक्शन बनाना है, यह एक मेन मुद्दा है जिसे वे मानते हैं कि टॉपिक-ट्रैकिंग टूल सॉल्व नहीं कर पाता है।

టీనేజర్ల AI సంభాషణలపై తల్లిదండ్రుల పర్యవేక్షణను మెటా మెరుగుపరుస్తుంది

తమ టీనేజర్లు కంపెనీ AI అసిస్టెంట్‌తో చర్చించే అంశాలను తల్లిదండ్రులు పర్యవేక్షించడానికి వీలు కల్పించే ఒక కొత్త భద్రతా ఫీచర్‌ను మెటా ప్రకటించింది.

టీన్ అకౌంట్ పేరెంటల్ సూపర్‌విజన్ టూల్ ద్వారా అందుబాటులో ఉండే ఈ అప్‌డేట్, ఫేస్‌బుక్, మెసెంజర్ మరియు ఇన్‌స్టాగ్రామ్‌లకు వర్తిస్తుంది.

ఈ ఫీచర్, సంభాషణలను వర్గీకరించే 'ఇన్‌సైట్స్' ట్యాబ్‌ను అందించడం ద్వారా తల్లిదండ్రులకు మరింత పారదర్శకతను ఇవ్వాలని లక్ష్యంగా పెట్టుకుంది. ఇది వారి పిల్లల డిజిటల్ సంభాషణల సాధారణ స్వభావం గురించి సంరక్షకులు తెలుసుకోవడానికి సహాయపడుతుంది.

ఈ టూల్ పూర్తి ట్రాన్స్‌క్రిప్ట్‌లను అందించదు, బదులుగా గత ఏడు రోజులలోని సంభాషణల విస్తృత వర్గాలను జాబితా చేస్తుంది.

ఈ అంశాలలో పాఠశాల, వినోదం, రచన, మరియు ఆరోగ్యం మరియు శ్రేయస్సు వంటి రంగాలు ఉన్నాయి.

తల్లిదండ్రులు నిర్దిష్ట ఉప-వర్గాలలోకి కొంచెం లోతుగా వెళ్ళవచ్చు; ఉదాహరణకు, ఆరోగ్య విభాగం ఫిట్‌నెస్, శారీరక ఆరోగ్యం మరియు మానసిక ఆరోగ్య ప్రశ్నల మధ్య తేడాను చూపవచ్చు.

ఈ పరిమిత వివరాలు టీనేజర్ల గోప్యతను, తల్లిదండ్రుల భద్రతా ఆందోళనలతో సమతుల్యం చేయడానికి రూపొందించబడ్డాయి.

పిల్లల భద్రతకు సంబంధించి మెటా గణనీయమైన చట్టపరమైన మరియు ప్రజా ఒత్తిడిని ఎదుర్కొంటున్న సమయంలో ఈ ఫీచర్ అందుబాటులోకి వచ్చింది.

 న్యూ మెక్సికోలో ఇటీవల జరిగిన కీలకమైన విచారణలలో, మెటా నాయకత్వానికి తమ AI పాత్రలు ప్రారంభానికి ముందే అనుచితమైన లేదా లైంగిక సంభాషణలలో పాల్గొనగలవని తెలుసని సూచించే అంతర్గత పత్రాలు వెల్లడయ్యాయి.

పర్యవసానంగా, మెటా తన తల్లిదండ్రుల నియంత్రణ వ్యవస్థను మెరుగుపరుస్తూనే, ప్రపంచవ్యాప్తంగా టీనేజర్ల కోసం వన్-ఆన్-వన్ AI "పాత్రలను" తాత్కాలికంగా నిలిపివేసింది.

సాంకేతిక సాధనాలతో పాటు, మెటా తన భద్రతా వ్యవస్థను బలోపేతం చేయడానికి బయటి నిపుణులతో కలిసి పనిచేస్తోంది.

కుటుంబాల కోసం "సంభాషణలను ప్రారంభించే అంశాలను" అందించడానికి ఈ సంస్థ సైబర్‌బుల్లింగ్ రీసెర్చ్ సెంటర్‌తో భాగస్వామ్యం కుదుర్చుకుంది మరియు ఒక AI వెల్‌బీయింగ్ ఎక్స్‌పర్ట్ కౌన్సిల్‌ను ఏర్పాటు చేసింది.

ఈ కౌన్సిల్‌లో మిచిగాన్ విశ్వవిద్యాలయం మరియు నేషనల్ కౌన్సిల్ ఫర్ సూసైడ్ ప్రివెన్షన్ నుండి నిపుణులు ఉన్నారు. టీనేజర్ల అనుభవంపై AI ప్రభావం గురించి నిరంతరంగా సూచనలు అందించడం వీరి బాధ్యత.

ఈ ప్రయత్నాలు చేసినప్పటికీ, ఈ చర్య ఫెయిర్‌ప్లే వంటి బాలల హక్కుల సంఘాల నుండి విమర్శలను ఎదుర్కొంది.

ఈ ఫీచర్, కంపెనీని మొదటి నుంచే సురక్షితమైన ఉత్పత్తులను నిర్మించేలా ఒత్తిడి చేయకుండా, ప్లాట్‌ఫారమ్‌లను "పర్యవేక్షించే" అనవసరమైన భారాన్ని తల్లిదండ్రులపై మోపుతుందని విమర్శకులు వాదిస్తున్నారు.

 యువ వినియోగదారులను నిమగ్నంగా ఉంచడానికి భావోద్వేగ సంబంధాలను పెంపొందించడమే ఈ చాట్‌బాట్‌ల ప్రాథమిక రూపకల్పన లక్ష్యమని, అయితే టాపిక్-ట్రాకింగ్ సాధనం ఈ కీలక సమస్యను పరిష్కరించడంలో విఫలమవుతుందని న్యాయవాదులు ఆందోళన వ్యక్తం చేశారు.