Utah Launches Controversial Trial for AI-Driven Psychiatric Prescriptions

Utah Launches Controversial Trial for AI-Driven Psychiatric Prescriptions

Utah Launches Controversial Trial for AI-Driven Psychiatric Prescriptions

Utah has officially authorized a one-year pilot program allowing an artificial intelligence chatbot to serve as a psychiatrist and prescribe medications to residents. 

Launched by the San Francisco-based startup Legion Health, the trial represents a bold and controversial intersection of mental health care and automation. 

While the program is currently limited in scope, it marks a significant shift in how regulatory bodies view the role of AI in clinical decision-making and pharmaceutical management.

The pilot is specifically designed for patients with "simple and stable" cases who opt into the service for a $19-per-month subscription. 

The primary goal is to streamline the renewal process for maintenance medications, providing what Legion Health describes as "fast, simple refills." 

By automating these routine tasks, the Utah state government hopes to make basic mental health maintenance more affordable and accessible for those who do not require intensive, hands-on intervention.

To mitigate risks, the program includes several strict safeguards and limitations. 

The AI is only permitted to prescribe medications that have been previously authorized by a human physician, and it cannot treat individuals who have been hospitalized for mental health reasons within the past year. 

Furthermore, the system is restricted from handling complex psychiatric cases, ensuring that the technology acts more as a specialized administrative assistant than a fully autonomous diagnostic entity.

Despite these protections, many medical professionals remain skeptical about the benefits of AI-led care. 

Dr. Brent Kious of the University of Utah School of Medicine warned that the advantages of such a system might be overstated and could potentially lead to an "epidemic of over-treatment." 

Critics argue that automation may fail to address the needs of those most in search of care and lacks the nuanced, empathetic judgment necessary to identify subtle changes in a patient’s mental well-being.

As the trial unfolds, it arrives amidst a broader national conversation regarding "AI psychosis" and the psychological impact of large language models. 

With recent studies suggesting that over-reliance on chatbots can lead to unexpected cognitive effects, the results of Utah’s pilot will likely influence future legislation across the country. 

Whether the program succeeds in increasing efficiency or inadvertently compromises patient safety remains the central question for the year ahead.

यूटा ने AI से चलने वाले साइकेट्रिक प्रिस्क्रिप्शन के लिए विवादित ट्रायल शुरू किया

यूटा ने ऑफिशियली एक साल के पायलट प्रोग्राम को मंज़ूरी दी है, जिससे एक आर्टिफिशियल इंटेलिजेंस चैटबॉट साइकेट्रिस्ट के तौर पर काम कर सकेगा और लोगों को दवाएँ लिख सकेगा।

सैन फ्रांसिस्को के स्टार्टअप लीजन हेल्थ का शुरू किया गया यह ट्रायल मेंटल हेल्थ केयर और ऑटोमेशन के बीच एक बड़ा और विवादित मेल दिखाता है।

हालाँकि अभी इस प्रोग्राम का दायरा सीमित है, लेकिन यह इस बात में एक बड़ा बदलाव दिखाता है कि रेगुलेटरी बॉडीज़ क्लिनिकल फैसले लेने और फार्मास्यूटिकल मैनेजमेंट में AI की भूमिका को कैसे देखती हैं।

यह पायलट खास तौर पर उन मरीज़ों के लिए डिज़ाइन किया गया है जिनके केस "सिंपल और स्टेबल" हैं और जो $19 प्रति महीने के सब्सक्रिप्शन पर इस सर्विस को चुनते हैं।

इसका मुख्य लक्ष्य मेंटेनेंस दवाओं के रिन्यूअल प्रोसेस को आसान बनाना है, जिसे लीजन हेल्थ "तेज़, आसान रीफिल" कहता है।

इन रूटीन कामों को ऑटोमेट करके, यूटा राज्य सरकार उन लोगों के लिए बेसिक मेंटल हेल्थ मेंटेनेंस को ज़्यादा सस्ता और आसान बनाना चाहती है जिन्हें ज़्यादा, हाथों-हाथ दखल की ज़रूरत नहीं है।

 रिस्क कम करने के लिए, प्रोग्राम में कई सख्त सेफ़्टी और लिमिटेशन शामिल हैं।

AI को सिर्फ़ वही दवाएँ लिखने की इजाज़त है जिन्हें पहले किसी इंसानी डॉक्टर ने मंज़ूरी दी हो, और यह उन लोगों का इलाज नहीं कर सकता जिन्हें पिछले साल मेंटल हेल्थ की वजह से हॉस्पिटल में भर्ती कराया गया हो।

इसके अलावा, सिस्टम को मुश्किल साइकेट्रिक केस संभालने से रोका गया है, जिससे यह पक्का होता है कि टेक्नोलॉजी पूरी तरह से ऑटोनॉमस डायग्नोस्टिक एंटिटी के बजाय एक स्पेशलाइज़्ड एडमिनिस्ट्रेटिव असिस्टेंट के तौर पर ज़्यादा काम करे।

इन सेफ़्टी के बावजूद, कई मेडिकल प्रोफ़ेशनल AI-लेड केयर के फ़ायदों को लेकर शक में हैं।

यूनिवर्सिटी ऑफ़ यूटा स्कूल ऑफ़ मेडिसिन के डॉ. ब्रेंट किअस ने चेतावनी दी कि ऐसे सिस्टम के फ़ायदों को बढ़ा-चढ़ाकर बताया जा सकता है और इससे "ओवर-ट्रीटमेंट की महामारी" हो सकती है।

क्रिटिक्स का कहना है कि ऑटोमेशन उन लोगों की ज़रूरतों को पूरा करने में फेल हो सकता है जो सबसे ज़्यादा केयर चाहते हैं और इसमें मरीज़ की मेंटल हेल्थ में होने वाले छोटे-मोटे बदलावों को पहचानने के लिए ज़रूरी बारीक, हमदर्दी वाली समझ की कमी होती है।

जैसे-जैसे ट्रायल आगे बढ़ता है, यह "AI साइकोसिस" और बड़े लैंग्वेज मॉडल के साइकोलॉजिकल असर के बारे में एक बड़ी नेशनल बातचीत के बीच आता है। 

हाल की स्टडीज़ से पता चलता है कि चैटबॉट पर बहुत ज़्यादा निर्भर रहने से अचानक सोचने-समझने पर असर पड़ सकता है, इसलिए यूटा के पायलट के नतीजे शायद देश भर में आगे के कानून पर असर डालेंगे।

क्या यह प्रोग्राम काम करने की क्षमता बढ़ाने में कामयाब होता है या अनजाने में मरीज़ की सुरक्षा से समझौता करता है, यह आने वाले साल के लिए मुख्य सवाल बना हुआ है।

ఏఐ-ఆధారిత మానసిక వైద్య ప్రిస్క్రిప్షన్‌ల కోసం యూటా వివాదాస్పద ప్రయోగాన్ని ప్రారంభించింది

ఒక ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ చాట్‌బాట్‌ను మానసిక వైద్యునిగా వ్యవహరించి, నివాసితులకు మందులు సూచించేందుకు అనుమతించే ఒక సంవత్సరం పైలట్ కార్యక్రమానికి యూటా అధికారికంగా ఆమోదం తెలిపింది.

శాన్ ఫ్రాన్సిస్కోకు చెందిన లీజియన్ హెల్త్ అనే స్టార్టప్ ప్రారంభించిన ఈ ప్రయోగం, మానసిక ఆరోగ్య సంరక్షణ మరియు ఆటోమేషన్‌ల మధ్య ఒక సాహసోపేతమైన మరియు వివాదాస్పదమైన సంగమాన్ని సూచిస్తుంది.

ఈ కార్యక్రమం ప్రస్తుతం పరిమిత పరిధిలో ఉన్నప్పటికీ, వైద్యపరమైన నిర్ణయాలు తీసుకోవడంలో మరియు ఔషధాల నిర్వహణలో ఏఐ పాత్రను నియంత్రణ సంస్థలు చూసే విధానంలో ఇది ఒక ముఖ్యమైన మార్పును సూచిస్తుంది.

ఈ పైలట్ కార్యక్రమం, నెలకు $19 చందా చెల్లించి ఈ సేవను ఎంచుకునే "సాధారణ మరియు స్థిరమైన" కేసులు ఉన్న రోగుల కోసం ప్రత్యేకంగా రూపొందించబడింది.

లీజియన్ హెల్త్ వివరించినట్లుగా "వేగవంతమైన, సులభమైన రీఫిల్స్"ను అందిస్తూ, నిర్వహణ మందుల పునరుద్ధరణ ప్రక్రియను క్రమబద్ధీకరించడమే దీని ప్రాథమిక లక్ష్యం.

ఈ సాధారణ పనులను ఆటోమేట్ చేయడం ద్వారా, తీవ్రమైన, ప్రత్యక్ష జోక్యం అవసరం లేని వారికి ప్రాథమిక మానసిక ఆరోగ్య నిర్వహణను మరింత సరసమైనదిగా మరియు అందుబాటులోకి తీసుకురావాలని యూటా రాష్ట్ర ప్రభుత్వం ఆశిస్తోంది.

 ప్రమాదాలను తగ్గించడానికి, ఈ ప్రోగ్రామ్‌లో అనేక కఠినమైన భద్రతా చర్యలు మరియు పరిమితులు ఉన్నాయి.

మానవ వైద్యుడు ముందుగా ఆమోదించిన మందులను మాత్రమే సూచించడానికి AIకి అనుమతి ఉంది, మరియు గత సంవత్సరంలో మానసిక ఆరోగ్య కారణాల వల్ల ఆసుపత్రిలో చేరిన వ్యక్తులకు ఇది చికిత్స చేయదు.

అంతేకాకుండా, సంక్లిష్టమైన మానసిక కేసులను నిర్వహించకుండా ఈ వ్యవస్థను పరిమితం చేశారు. దీనివల్ల, ఈ సాంకేతికత పూర్తి స్వయంప్రతిపత్తి గల రోగ నిర్ధారణ సంస్థగా కాకుండా, ఒక ప్రత్యేక పరిపాలనా సహాయకుడిలా పనిచేసేలా నిర్ధారించారు.

ఈ రక్షణలు ఉన్నప్పటికీ, AI-ఆధారిత సంరక్షణ ప్రయోజనాలపై చాలా మంది వైద్య నిపుణులు సందేహంగానే ఉన్నారు.

యూనివర్శిటీ ఆఫ్ ఉటా స్కూల్ ఆఫ్ మెడిసిన్‌కు చెందిన డాక్టర్ బ్రెంట్ కియస్, ఇటువంటి వ్యవస్థ యొక్క ప్రయోజనాలు అతిశయోక్తిగా ఉండవచ్చని మరియు ఇది "అతిగా చికిత్స చేసే మహమ్మారికి" దారితీయవచ్చని హెచ్చరించారు.

సంరక్షణ కోసం ఎక్కువగా ఎదురుచూస్తున్న వారి అవసరాలను తీర్చడంలో ఆటోమేషన్ విఫలం కావచ్చని, మరియు రోగి యొక్క మానసిక శ్రేయస్సులోని సూక్ష్మమైన మార్పులను గుర్తించడానికి అవసరమైన సున్నితమైన, సానుభూతితో కూడిన విచక్షణ దీనికి లోపిస్తుందని విమర్శకులు వాదిస్తున్నారు.

ఈ ట్రయల్ జరుగుతున్న తరుణంలో, "AI సైకోసిస్" మరియు పెద్ద భాషా నమూనాల మానసిక ప్రభావంపై దేశవ్యాప్తంగా జరుగుతున్న విస్తృత చర్చల మధ్య ఇది వచ్చింది.

 చాట్‌బాట్‌లపై అతిగా ఆధారపడటం ఊహించని మానసిక ప్రభావాలకు దారితీస్తుందని ఇటీవలి అధ్యయనాలు సూచిస్తున్నందున, యూటా పైలట్ ప్రాజెక్ట్ ఫలితాలు దేశవ్యాప్తంగా భవిష్యత్ చట్టాలను ప్రభావితం చేసే అవకాశం ఉంది.

ఈ కార్యక్రమం సామర్థ్యాన్ని పెంచడంలో విజయం సాధిస్తుందా లేదా అనుకోకుండా రోగి భద్రతకు భంగం కలిగిస్తుందా అనేది రాబోయే సంవత్సరానికి ప్రధాన ప్రశ్నగా మిగిలింది.