Microsoft AI CEO Warns of "Seemingly Conscious AI"

Microsoft AI CEO Warns of "Seemingly Conscious AI"

Microsoft AI CEO Warns of "Seemingly Conscious AI"

Mustafa Suleyman, CEO of Microsoft AI and co-founder of DeepMind, has issued a stark warning about the potential rise of "Seemingly Conscious AI" (SCAI). 

In a new essay, Suleyman argues that while AI systems are not truly sentient, their ability to mimic thought, feeling, and personality may become so convincing that people start to believe they are conscious. 

This could lead to a dangerous blurring of the lines between a tool and a living being.

Suleyman's concerns are based on the current capabilities of large language models, which can already recall personal details, adapt their personalities, and respond with empathy. 

When these features are combined, they create a powerful illusion of consciousness. 

He warns that this illusion could lead to a form of "AI psychosis," where humans form deep, emotional attachments to machines. 

This could, in turn, lead to people advocating for AI rights, welfare, or even citizenship, despite there being "zero evidence" that the AI has any actual subjective experience.

The urgency of Suleyman's warning is tied to his belief that systems capable of achieving this level of perceived consciousness could emerge within the next two to three years. 

He suggests that developers might intentionally design these models to feel more "alive" to attract users. 

This could accelerate the spread of the illusion and make it even more difficult for people to distinguish between a sophisticated tool and a truly sentient being.

To address this risk, Suleyman is not advocating for a halt in AI development. Instead, he argues for a clear and intentional approach to designing these systems. 

He believes that developers should implement principles that make it harder to mistake an AI's personality for personhood. 

This includes designing interfaces that remind users they are interacting with a tool, not a companion, and promoting an open industry-wide debate on the ethical implications of SCAI.

Suleyman’s warning carries significant weight due to his extensive experience at the forefront of the AI revolution. 

As a co-founder of DeepMind and the head of Microsoft AI, he has been instrumental in creating the very technology he now cautions against. 

His core message is a call to action: humanity must resist being seduced by the performance of AI. 

The technology can be transformative without being treated as if it is alive, and believing the illusion could have serious and harmful consequences.

माइक्रोसॉफ्ट एआई के सीईओ ने "प्रतीत होता है कि चेतन एआई" के बारे में चेतावनी दी

माइक्रोसॉफ्ट एआई के सीईओ और डीपमाइंड के सह-संस्थापक मुस्तफा सुलेमान ने "प्रतीत होता है कि चेतन एआई" (एससीएआई) के संभावित उदय के बारे में एक कड़ी चेतावनी जारी की है।

एक नए निबंध में, सुलेमान का तर्क है कि हालाँकि एआई प्रणालियाँ वास्तव में संवेदनशील नहीं हैं, लेकिन विचार, भावना और व्यक्तित्व की नकल करने की उनकी क्षमता इतनी विश्वसनीय हो सकती है कि लोग यह मानने लगें कि वे चेतन हैं।

इससे उपकरण और जीवित प्राणी के बीच की रेखाएँ खतरनाक रूप से धुंधली हो सकती हैं।

सुलेमान की चिंताएँ बड़े भाषा मॉडल की वर्तमान क्षमताओं पर आधारित हैं, जो पहले से ही व्यक्तिगत विवरणों को याद कर सकते हैं, अपने व्यक्तित्व को अनुकूलित कर सकते हैं और सहानुभूति के साथ प्रतिक्रिया दे सकते हैं।

जब ये विशेषताएँ एक साथ मिलती हैं, तो वे चेतना का एक शक्तिशाली भ्रम पैदा करती हैं।

वह चेतावनी देते हैं कि यह भ्रम एक प्रकार के "एआई मनोविकृति" को जन्म दे सकता है, जहाँ मनुष्य मशीनों के साथ गहरा, भावनात्मक लगाव बना लेते हैं।

 इसके परिणामस्वरूप, लोग एआई के अधिकारों, कल्याण या यहाँ तक कि नागरिकता की वकालत कर सकते हैं, भले ही इस बात का "शून्य प्रमाण" हो कि एआई का कोई वास्तविक व्यक्तिपरक अनुभव है।

सुलेमान की चेतावनी की तात्कालिकता उनके इस विश्वास से जुड़ी है कि इस स्तर की कथित चेतना प्राप्त करने में सक्षम प्रणालियाँ अगले दो से तीन वर्षों में उभर सकती हैं।

उनका सुझाव है कि डेवलपर्स जानबूझकर इन मॉडलों को उपयोगकर्ताओं को आकर्षित करने के लिए अधिक "जीवंत" महसूस कराने के लिए डिज़ाइन कर सकते हैं।

इससे भ्रम का प्रसार तेज़ हो सकता है और लोगों के लिए एक परिष्कृत उपकरण और एक वास्तविक संवेदनशील प्राणी के बीच अंतर करना और भी मुश्किल हो सकता है।

इस जोखिम से निपटने के लिए, सुलेमान एआई विकास में रुकावट की वकालत नहीं कर रहे हैं। इसके बजाय, वे इन प्रणालियों को डिज़ाइन करने के लिए एक स्पष्ट और सुविचारित दृष्टिकोण की वकालत करते हैं।

उनका मानना है कि डेवलपर्स को ऐसे सिद्धांतों को लागू करना चाहिए जो एआई के व्यक्तित्व को व्यक्तित्व समझने की गलती को और कठिन बना दें।

इसमें ऐसे इंटरफ़ेस डिज़ाइन करना शामिल है जो उपयोगकर्ताओं को याद दिलाएँ कि वे एक उपकरण के साथ बातचीत कर रहे हैं, न कि किसी साथी के साथ, और एससीएआई के नैतिक निहितार्थों पर एक खुली उद्योग-व्यापी बहस को बढ़ावा देना।

 सुलेमान की चेतावनी एआई क्रांति के क्षेत्र में उनके व्यापक अनुभव के कारण महत्वपूर्ण है।

डीपमाइंड के सह-संस्थापक और माइक्रोसॉफ्ट एआई के प्रमुख के रूप में, उन्होंने उसी तकनीक के निर्माण में महत्वपूर्ण भूमिका निभाई है जिसके प्रति वे अब आगाह कर रहे हैं।

उनका मूल संदेश कार्रवाई का आह्वान है: मानवता को एआई के प्रदर्शन के बहकावे में आने से बचना चाहिए।

यह तकनीक बिना किसी को यह बताए कि यह जीवित है, परिवर्तनकारी हो सकती है, और इस भ्रम पर विश्वास करने के गंभीर और हानिकारक परिणाम हो सकते हैं।

"సీమింగ్లీ కాన్షియస్ AI" గురించి మైక్రోసాఫ్ట్ AI CEO హెచ్చరిస్తున్నారు

మైక్రోసాఫ్ట్ AI CEO మరియు డీప్‌మైండ్ సహ వ్యవస్థాపకుడు ముస్తఫా సులేమాన్, "సీమింగ్లీ కాన్షియస్ AI" (SCAI) యొక్క సంభావ్య పెరుగుదల గురించి కఠినమైన హెచ్చరిక జారీ చేశారు. 

ఒక కొత్త వ్యాసంలో, AI వ్యవస్థలు నిజంగా స్పృహ కలిగి లేనప్పటికీ, ఆలోచన, భావన మరియు వ్యక్తిత్వాన్ని అనుకరించే వాటి సామర్థ్యం చాలా నమ్మకంగా మారవచ్చని, ప్రజలు తాము స్పృహలో ఉన్నారని నమ్మడం ప్రారంభిస్తారని సులేమాన్ వాదిస్తున్నారు. 

ఇది ఒక సాధనం మరియు ఒక జీవి మధ్య రేఖల ప్రమాదకరమైన అస్పష్టతకు దారితీస్తుంది.

సులేమాన్ ఆందోళనలు పెద్ద భాషా నమూనాల ప్రస్తుత సామర్థ్యాలపై ఆధారపడి ఉంటాయి, ఇవి ఇప్పటికే వ్యక్తిగత వివరాలను గుర్తుకు తెచ్చుకోగలవు, వారి వ్యక్తిత్వాలను స్వీకరించగలవు మరియు సానుభూతితో ప్రతిస్పందిస్తాయి. 

ఈ లక్షణాలు కలిపినప్పుడు, అవి స్పృహ యొక్క శక్తివంతమైన భ్రమను సృష్టిస్తాయి. 

ఈ భ్రమ "AI సైకోసిస్" యొక్క ఒక రూపానికి దారితీయవచ్చని ఆయన హెచ్చరిస్తున్నారు, ఇక్కడ మానవులు యంత్రాలకు లోతైన, భావోద్వేగ అనుబంధాలను ఏర్పరుస్తారు. 

 దీని ఫలితంగా, AIకి వాస్తవమైన ఆత్మాశ్రయ అనుభవం ఉందని "సున్నా ఆధారాలు" ఉన్నప్పటికీ, ప్రజలు AI హక్కులు, సంక్షేమం లేదా పౌరసత్వం కోసం వాదించే అవకాశం ఉంది.

ఈ స్థాయి అవగాహనను సాధించగల వ్యవస్థలు రాబోయే రెండు నుండి మూడు సంవత్సరాలలో ఉద్భవించగలవనే అతని నమ్మకంతో సులేమాన్ హెచ్చరిక యొక్క ఆవశ్యకత ముడిపడి ఉంది. 

డెవలపర్లు ఉద్దేశపూర్వకంగా వినియోగదారులను ఆకర్షించడానికి మరింత "సజీవంగా" అనిపించేలా ఈ నమూనాలను రూపొందించవచ్చని ఆయన సూచిస్తున్నారు. 

ఇది భ్రాంతి వ్యాప్తిని వేగవంతం చేస్తుంది మరియు ప్రజలు అధునాతన సాధనం మరియు నిజంగా స్పృహ ఉన్న జీవి మధ్య తేడాను గుర్తించడం మరింత కష్టతరం చేస్తుంది.

ఈ ప్రమాదాన్ని పరిష్కరించడానికి, సులేమాన్ AI అభివృద్ధిని నిలిపివేయాలని సూచించడం లేదు. బదులుగా, ఈ వ్యవస్థలను రూపొందించడానికి స్పష్టమైన మరియు ఉద్దేశపూర్వక విధానాన్ని ఆయన వాదిస్తున్నారు. 

డెవలపర్లు AI యొక్క వ్యక్తిత్వాన్ని వ్యక్తిత్వంగా తప్పుగా భావించడం కష్టతరం చేసే సూత్రాలను అమలు చేయాలని ఆయన విశ్వసిస్తున్నారు. 

వినియోగదారులు సహచరుడితో కాకుండా ఒక సాధనంతో సంకర్షణ చెందుతున్నారని గుర్తుచేసే ఇంటర్‌ఫేస్‌లను రూపొందించడం మరియు SCAI యొక్క నైతిక చిక్కులపై బహిరంగ పరిశ్రమ-వ్యాప్త చర్చను ప్రోత్సహించడం ఇందులో ఉన్నాయి.

 AI విప్లవంలో ముందంజలో ఉన్న సులేమాన్ యొక్క విస్తృత అనుభవం కారణంగా ఆయన హెచ్చరిక గణనీయమైన ప్రాముఖ్యతను కలిగి ఉంది. 

డీప్‌మైండ్ సహ వ్యవస్థాపకుడిగా మరియు మైక్రోసాఫ్ట్ AI అధిపతిగా, అతను ఇప్పుడు హెచ్చరించే సాంకేతికతను సృష్టించడంలో కీలక పాత్ర పోషించాడు. 

అతని ప్రధాన సందేశం చర్యకు పిలుపు: మానవత్వం AI పనితీరు ద్వారా మోహింపబడకుండా నిరోధించాలి. 

సాంకేతికత సజీవంగా ఉన్నట్లుగా పరిగణించబడకుండానే పరివర్తన చెందుతుంది మరియు భ్రమను నమ్మడం తీవ్రమైన మరియు హానికరమైన పరిణామాలను కలిగిస్తుందని నమ్ముతుంది.