Anthropic Report Reveals Armed Group’s Attempted Use of Claude AI for Missile Development

Anthropic Report Reveals Armed Group’s Attempted Use of Claude AI for Missile Development

Anthropic Report Reveals Armed Group’s Attempted Use of Claude AI for Missile Development

An armed group based in northern Yemen attempted to use Anthropic's 'Claude' AI chatbot system to assist in developing advanced missile and rocket technology. 

According to Anthropic's latest report on preventing the illegal misuse of AI, the active threat group leveraged the system across three distinct weapons development projects. 

These included a guided rocket powered by a mobile phone-class flight computer, a multi-stage ballistic missile with a range exceeding 2,000 kilometers, and a missile system featuring a hypersonic glide vehicle variant.

The group used the chatbot to write control, navigation, and guidance software—tasks that traditionally require an extensive team of specialized engineers. 

During one test, an AI-assisted guided rocket failed; within hours, the group returned to the Claude system to troubleshoot the root cause of the failure. 

However, Anthropic stated there is no evidence the group succeeded in manufacturing a functional weapon, and the company promptly banned the associated accounts once suspicious activity was flagged.

While Anthropic did not explicitly name the organization, the profile aligns with the Houthi rebels who control northern Yemen, including the capital, Sana'a. 

This disclosure comes amid escalated military actions by Houthi forces targeting the Bab al-Mandab Strait, a crucial maritime transit point between Europe and Asia. 

The group also recently claimed control of a strategic Red Sea island along this major global shipping route.

Beyond the Yemeni missile attempts, Anthropic's report highlighted several other security interventions. 

The company successfully thwarted efforts to leverage Claude for biological weapons development, as well as a suspected Russia-linked cyber espionage campaign directed against Ukraine. 

Additionally, Anthropic reported defending against cyberattacks from Chinese competitors attempting to breach and exploit its AI models.

These revelations underscore growing security concerns surrounding rapid advancements in artificial intelligence. 

Highlighting these risks, two Anthropic researchers warned that the swift evolution of frontier AI models could present severe existential threats to humanity in the near future if proper safeguards and oversight are not maintained.

एंथ्रोपिक रिपोर्ट से पता चला है कि हथियारबंद ग्रुप ने मिसाइल बनाने के लिए क्लाउड AI का इस्तेमाल करने की कोशिश की थी

उत्तरी यमन में मौजूद एक हथियारबंद ग्रुप ने एडवांस्ड मिसाइल और रॉकेट टेक्नोलॉजी बनाने में मदद के लिए एंथ्रोपिक के 'क्लाउड' AI चैटबॉट सिस्टम का इस्तेमाल करने की कोशिश की।

AI के गैर-कानूनी गलत इस्तेमाल को रोकने पर एंथ्रोपिक की लेटेस्ट रिपोर्ट के मुताबिक, एक्टिव थ्रेट ग्रुप ने तीन अलग-अलग हथियार बनाने के प्रोजेक्ट में इस सिस्टम का इस्तेमाल किया।

इनमें मोबाइल फोन-क्लास फ्लाइट कंप्यूटर से चलने वाला एक गाइडेड रॉकेट, 2,000 किलोमीटर से ज़्यादा रेंज वाली एक मल्टी-स्टेज बैलिस्टिक मिसाइल और एक हाइपरसोनिक ग्लाइड व्हीकल वेरिएंट वाला मिसाइल सिस्टम शामिल था।

ग्रुप ने चैटबॉट का इस्तेमाल कंट्रोल, नेविगेशन और गाइडेंस सॉफ्टवेयर लिखने के लिए किया—ऐसे काम जिनके लिए आम तौर पर खास इंजीनियरों की एक बड़ी टीम की ज़रूरत होती है।

एक टेस्ट के दौरान, AI से मदद वाला एक गाइडेड रॉकेट फेल हो गया; कुछ ही घंटों में, ग्रुप फेलियर की असली वजह का पता लगाने के लिए क्लाउड सिस्टम पर वापस आ गया।

 लेकिन, एंथ्रोपिक ने कहा कि इस बात का कोई सबूत नहीं है कि ग्रुप कोई काम करने वाला हथियार बनाने में कामयाब रहा, और कंपनी ने शक वाली एक्टिविटी फ़्लैग होते ही उससे जुड़े अकाउंट तुरंत बैन कर दिए।

हालांकि एंथ्रोपिक ने साफ़ तौर पर ऑर्गनाइज़ेशन का नाम नहीं बताया, लेकिन प्रोफ़ाइल हूथी बागियों से जुड़ी है जो उत्तरी यमन को कंट्रोल करते हैं, जिसमें राजधानी सना भी शामिल है।

यह खुलासा हूथी सेनाओं द्वारा बाब अल-मंदाब स्ट्रेट को टारगेट करके की जा रही मिलिट्री कार्रवाइयों के बीच हुआ है, जो यूरोप और एशिया के बीच एक ज़रूरी समुद्री ट्रांज़िट पॉइंट है।

ग्रुप ने हाल ही में इस बड़े ग्लोबल शिपिंग रूट के साथ एक स्ट्रेटेजिक रेड सी आइलैंड पर कंट्रोल का भी दावा किया है।

यमनी मिसाइल की कोशिशों के अलावा, एंथ्रोपिक की रिपोर्ट में कई और सिक्योरिटी दखल पर भी रोशनी डाली गई है।

कंपनी ने क्लॉड का इस्तेमाल बायोलॉजिकल हथियार बनाने के लिए करने की कोशिशों को, साथ ही यूक्रेन के खिलाफ़ रूस से जुड़े एक शक वाले साइबर जासूसी कैंपेन को भी सफलतापूर्वक नाकाम कर दिया।

इसके अलावा, एंथ्रोपिक ने चीनी कॉम्पिटिटर के साइबर हमलों से बचाव करने की भी रिपोर्ट दी, जो उसके AI मॉडल को तोड़ने और उसका फ़ायदा उठाने की कोशिश कर रहे थे।

 ये खुलासे आर्टिफिशियल इंटेलिजेंस में तेज़ी से हो रही तरक्की को लेकर बढ़ती सिक्योरिटी चिंताओं को दिखाते हैं।

इन खतरों पर रोशनी डालते हुए, दो एंथ्रोपिक रिसर्चर्स ने चेतावनी दी कि अगर सही सुरक्षा उपाय और निगरानी नहीं रखी गई, तो फ्रंटियर AI मॉडल्स का तेज़ी से विकास आने वाले समय में इंसानियत के लिए गंभीर खतरा पैदा कर सकता है।

క్షిపణి అభివృద్ధి కోసం క్లాడ్ ఏఐని ఉపయోగించేందుకు సాయుధ బృందం చేసిన ప్రయత్నాన్ని ఆంత్రోపిక్ నివేదిక వెల్లడించింది

ఉత్తర యెమెన్‌కు చెందిన ఒక సాయుధ బృందం, అధునాతన క్షిపణి మరియు రాకెట్ సాంకేతికతను అభివృద్ధి చేయడంలో సహాయపడటానికి ఆంత్రోపిక్ వారి 'క్లాడ్' ఏఐ చాట్‌బాట్ వ్యవస్థను ఉపయోగించుకోవడానికి ప్రయత్నించింది.

ఏఐ యొక్క చట్టవిరుద్ధ దుర్వినియోగాన్ని నివారించడంపై ఆంత్రోపిక్ వారి తాజా నివేదిక ప్రకారం, ఈ క్రియాశీల ముప్పు బృందం మూడు విభిన్న ఆయుధ అభివృద్ధి ప్రాజెక్టులలో ఈ వ్యవస్థను ఉపయోగించుకుంది.

వీటిలో మొబైల్ ఫోన్-స్థాయి ఫ్లైట్ కంప్యూటర్‌తో పనిచేసే ఒక గైడెడ్ రాకెట్, 2,000 కిలోమీటర్లకు పైగా పరిధి కలిగిన బహుళ-దశల బాలిస్టిక్ క్షిపణి, మరియు హైపర్‌సోనిక్ గ్లైడ్ వెహికల్ వేరియంట్‌ను కలిగి ఉన్న ఒక క్షిపణి వ్యవస్థ ఉన్నాయి.

సాంప్రదాయకంగా ప్రత్యేక నైపుణ్యం కలిగిన ఇంజనీర్ల విస్తృత బృందం అవసరమయ్యే నియంత్రణ, నావిగేషన్, మరియు మార్గదర్శక సాఫ్ట్‌వేర్‌ను రాయడానికి ఈ బృందం చాట్‌బాట్‌ను ఉపయోగించుకుంది.

ఒక పరీక్ష సమయంలో, ఏఐ-సహాయక గైడెడ్ రాకెట్ విఫలమైంది; కొన్ని గంటల్లోనే, ఆ వైఫల్యానికి గల మూలకారణాన్ని పరిష్కరించడానికి ఆ బృందం తిరిగి క్లాడ్ వ్యవస్థను ఆశ్రయించింది.

 అయితే, ఆ బృందం పనిచేసే ఆయుధాన్ని తయారు చేయడంలో విజయం సాధించిందనడానికి ఎటువంటి ఆధారాలు లేవని ఆంథ్రోపిక్ పేర్కొంది. అనుమానాస్పద కార్యకలాపాలు గుర్తించిన వెంటనే, ఆ సంస్థ సంబంధిత ఖాతాలను తక్షణమే నిషేధించింది.

ఆంథ్రోపిక్ ఆ సంస్థ పేరును స్పష్టంగా వెల్లడించనప్పటికీ, దాని ప్రొఫైల్, రాజధాని సనాతో సహా ఉత్తర యెమెన్‌ను నియంత్రించే హౌతీ తిరుగుబాటుదారులతో సరిపోలుతోంది.

యూరప్ మరియు ఆసియాల మధ్య కీలకమైన సముద్ర రవాణా కేంద్రమైన బాబ్ అల్-మండబ్ జలసంధిని లక్ష్యంగా చేసుకుని హౌతీ దళాలు సైనిక చర్యలను తీవ్రతరం చేస్తున్న తరుణంలో ఈ విషయం వెల్లడైంది.

ఈ ప్రధాన ప్రపంచ నౌకా రవాణా మార్గంలో ఉన్న ఒక వ్యూహాత్మక ఎర్ర సముద్ర ద్వీపాన్ని కూడా తాము నియంత్రణలోకి తీసుకున్నట్లు ఆ బృందం ఇటీవల ప్రకటించింది.

యెమెన్ క్షిపణి ప్రయత్నాలతో పాటు, ఆంథ్రోపిక్ నివేదిక అనేక ఇతర భద్రతా చర్యలను కూడా వెలుగులోకి తెచ్చింది.

జీవాయుధాల అభివృద్ధి కోసం క్లాడ్‌ను ఉపయోగించుకునే ప్రయత్నాలను, అలాగే ఉక్రెయిన్‌పై రష్యాతో సంబంధం ఉన్నట్లు అనుమానిస్తున్న సైబర్ గూఢచర్య ప్రచారాన్ని కూడా ఆ సంస్థ విజయవంతంగా అడ్డుకుంది.

అదనంగా, తమ ఏఐ (AI) నమూనాలను ఛేదించి, దుర్వినియోగం చేయడానికి ప్రయత్నిస్తున్న చైనా పోటీదారుల సైబర్ దాడుల నుండి తమను తాము రక్షించుకున్నట్లు ఆంథ్రోపిక్ నివేదించింది.

 కృత్రిమ మేధలో వేగవంతమైన పురోగతికి సంబంధించి పెరుగుతున్న భద్రతాపరమైన ఆందోళనలను ఈ వెల్లడింపులు నొక్కి చెబుతున్నాయి.

ఈ ప్రమాదాలను ప్రముఖంగా ప్రస్తావిస్తూ, సరైన భద్రతా చర్యలు మరియు పర్యవేక్షణను పాటించకపోతే, అత్యాధునిక ఏఐ నమూనాల వేగవంతమైన పరిణామం సమీప భవిష్యత్తులో మానవాళి మనుగడకే తీవ్రమైన ముప్పును కలిగించవచ్చని ఆంత్రోపిక్‌కు చెందిన ఇద్దరు పరిశోధకులు హెచ్చరించారు.