Salesforce Pulls Back on Generative AI Due to Critical Reliability Issues

Salesforce Pulls Back on Generative AI Due to Critical Reliability Issues

Salesforce Pulls Back on Generative AI Due to Critical Reliability Issues

Salesforce is officially reevaluating its deep reliance on Large Language Models (LLMs) after encountering significant reliability hurdles in real-world business applications. 

According to company executives, the industry-wide trust in generative AI has notably declined over the past year as businesses discover that open-ended models often fail to meet the precision required for enterprise tasks. 

This realization has prompted a strategic pivot within the software giant to ensure their AI tools remain useful and trustworthy for corporate clients.

In response to these concerns, Salesforce is shifting the focus of its flagship AI product, Agentforce, toward "deterministic" automation. 

Unlike generative AI, which can be unpredictable, deterministic systems follow rigid, rule-based logic to ensure consistent outcomes. 

By prioritizing these predictable workflows over fully LLM-driven processes, Salesforce aims to eliminate the "hallucinations" and errors that can arise when AI is tasked with high-stakes business logic or complex instructions.

The limitations of current AI models became evident following a significant workforce reduction at Salesforce. 

CEO Marc Benioff recently revealed that the company cut its support staff from 9,000 to 5,000 employees after deploying AI agents. 

However, as these systems were used at scale, executives found that the models often struggled with multi-step commands and lacked the nuanced understanding needed to replace human oversight entirely, highlighting a costly gap for enterprise customers who require 100% accuracy.

Specific technical failures, such as those experienced by the home security firm Vivint, have accelerated this shift toward hybrid automation. 

Vivint utilized Agentforce for customer support but found the AI was inconsistently sending out required satisfaction surveys despite clear instructions. 

To fix this, Salesforce had to implement "deterministic triggers"—manual code overrides that force the system to perform a specific action every time—rather than trusting the AI to decide when a task was complete.

Beyond specific task failures, Salesforce is also battling a phenomenon known as AI "drift." 

This occurs when chatbots lose focus or become sidetracked by unrelated user questions, failing to complete their primary objective, such as helping a customer fill out a form. 

As Salesforce continues to refine its AI strategy, the focus remains on balancing the creative potential of generative models with the ironclad reliability of traditional automation to maintain its standing as a leader in the CRM space.

सेल्सफोर्स ने गंभीर भरोसेमंद मुद्दों के कारण जेनरेटिव AI से कदम पीछे खींचे

रियल-वर्ल्ड बिज़नेस एप्लीकेशन में महत्वपूर्ण भरोसेमंद चुनौतियों का सामना करने के बाद सेल्सफोर्स आधिकारिक तौर पर लार्ज लैंग्वेज मॉडल (LLMs) पर अपनी गहरी निर्भरता का फिर से मूल्यांकन कर रहा है।

कंपनी के अधिकारियों के अनुसार, पिछले एक साल में जेनरेटिव AI पर इंडस्ट्री-वाइड भरोसा काफी कम हो गया है, क्योंकि बिज़नेस को पता चला है कि ओपन-एंडेड मॉडल अक्सर एंटरप्राइज़ कामों के लिए ज़रूरी सटीकता को पूरा करने में विफल रहते हैं।

इस बात का एहसास होने पर सॉफ्टवेयर दिग्गज कंपनी ने एक रणनीतिक बदलाव किया है ताकि यह सुनिश्चित किया जा सके कि उनके AI टूल कॉर्पोरेट क्लाइंट के लिए उपयोगी और भरोसेमंद बने रहें।

इन चिंताओं के जवाब में, सेल्सफोर्स अपने प्रमुख AI प्रोडक्ट, एजेंटफोर्स का फोकस "डिटरमिनिस्टिक" ऑटोमेशन की ओर शिफ्ट कर रहा है।

जेनरेटिव AI के विपरीत, जो अप्रत्याशित हो सकता है, डिटरमिनिस्टिक सिस्टम लगातार परिणाम सुनिश्चित करने के लिए कठोर, नियम-आधारित लॉजिक का पालन करते हैं।

पूरी तरह से LLM-संचालित प्रक्रियाओं के बजाय इन अनुमानित वर्कफ़्लो को प्राथमिकता देकर, सेल्सफोर्स का लक्ष्य उन "भ्रमों" और गलतियों को खत्म करना है जो तब हो सकती हैं जब AI को हाई-स्टेक बिज़नेस लॉजिक या जटिल निर्देशों का काम सौंपा जाता है।

सेल्सफोर्स में कर्मचारियों की संख्या में बड़ी कटौती के बाद मौजूदा AI मॉडल की सीमाएं स्पष्ट हो गईं।

CEO मार्क बेनिऑफ ने हाल ही में खुलासा किया कि AI एजेंट तैनात करने के बाद कंपनी ने अपने सपोर्ट स्टाफ को 9,000 से घटाकर 5,000 कर्मचारी कर दिया।

हालांकि, जब इन सिस्टम का बड़े पैमाने पर इस्तेमाल किया गया, तो अधिकारियों ने पाया कि मॉडल अक्सर मल्टी-स्टेप कमांड के साथ संघर्ष करते थे और उनमें मानव निगरानी को पूरी तरह से बदलने के लिए ज़रूरी सूक्ष्म समझ की कमी थी, जो उन एंटरप्राइज़ ग्राहकों के लिए एक महंगी कमी को उजागर करता है जिन्हें 100% सटीकता की आवश्यकता होती है।

कुछ खास तकनीकी विफलताएं, जैसे कि होम सिक्योरिटी फर्म विविंट द्वारा अनुभव की गईं, ने हाइब्रिड ऑटोमेशन की ओर इस बदलाव को तेज किया है।

विविंट ने कस्टमर सपोर्ट के लिए एजेंटफोर्स का इस्तेमाल किया, लेकिन पाया कि AI स्पष्ट निर्देशों के बावजूद ज़रूरी संतुष्टि सर्वे लगातार नहीं भेज रहा था।

इसे ठीक करने के लिए, सेल्सफोर्स को "डिटरमिनिस्टिक ट्रिगर"—मैनुअल कोड ओवरराइड लागू करने पड़े जो सिस्टम को हर बार एक खास कार्रवाई करने के लिए मजबूर करते हैं—बजाय इसके कि AI पर भरोसा किया जाए कि वह तय करे कि कोई काम कब पूरा हुआ।

कुछ खास कामों में विफलता के अलावा, सेल्सफोर्स AI "ड्रिफ्ट" नामक एक घटना से भी जूझ रहा है।

यह तब होता है जब चैटबॉट फोकस खो देते हैं या असंबंधित उपयोगकर्ता प्रश्नों से भटक जाते हैं, और अपने प्राथमिक उद्देश्य को पूरा करने में विफल रहते हैं, जैसे कि ग्राहक को फॉर्म भरने में मदद करना। जैसे-जैसे Salesforce अपनी AI स्ट्रेटेजी को बेहतर बना रहा है, उसका फोकस जनरेटिव मॉडल की क्रिएटिव क्षमता और ट्रेडिशनल ऑटोमेशन की पक्की विश्वसनीयता के बीच बैलेंस बनाने पर है, ताकि CRM स्पेस में लीडर के तौर पर अपनी जगह बनाए रख सके।

క్లిష్టమైన విశ్వసనీయత సమస్యల కారణంగా సేల్స్‌ఫోర్స్ జనరేటివ్ AI పై వెనక్కి తగ్గింది

వాస్తవ ప్రపంచ వ్యాపార అనువర్తనాల్లో గణనీయమైన విశ్వసనీయత అడ్డంకులను ఎదుర్కొన్న తర్వాత సేల్స్‌ఫోర్స్ అధికారికంగా లార్జ్ లాంగ్వేజ్ మోడల్స్ (LLMలు) పై దాని లోతైన ఆధారపడటాన్ని తిరిగి మూల్యాంకనం చేస్తోంది. 

కంపెనీ కార్యనిర్వాహకుల ప్రకారం, గత సంవత్సరం వ్యాపారాలు ఓపెన్-ఎండ్ మోడల్‌లు తరచుగా ఎంటర్‌ప్రైజ్ పనులకు అవసరమైన ఖచ్చితత్వాన్ని అందుకోవడంలో విఫలమవుతాయని కనుగొన్నందున, జనరేటివ్ AI పై పరిశ్రమ వ్యాప్తంగా నమ్మకం గణనీయంగా తగ్గింది. 

ఈ అవగాహన సాఫ్ట్‌వేర్ దిగ్గజంలో వారి AI సాధనాలు కార్పొరేట్ క్లయింట్‌లకు ఉపయోగకరంగా మరియు విశ్వసనీయంగా ఉండేలా చూసుకోవడానికి ఒక వ్యూహాత్మక పివోట్‌ను ప్రేరేపించింది.

ఈ ఆందోళనలకు ప్రతిస్పందనగా, సేల్స్‌ఫోర్స్ దాని ప్రధాన AI ఉత్పత్తి ఏజెంట్‌ఫోర్స్ దృష్టిని "నిర్ణయాత్మక" ఆటోమేషన్ వైపు మళ్లిస్తోంది. 

అనూహ్యమైన ఉత్పాదక AI వలె కాకుండా, స్థిరమైన ఫలితాలను నిర్ధారించడానికి నిర్ణయాత్మక వ్యవస్థలు కఠినమైన, నియమ-ఆధారిత తర్కాన్ని అనుసరిస్తాయి. 

 పూర్తిగా LLM-ఆధారిత ప్రక్రియల కంటే ఈ ఊహించదగిన వర్క్‌ఫ్లోలకు ప్రాధాన్యత ఇవ్వడం ద్వారా, సేల్స్‌ఫోర్స్ అధిక-స్టేక్స్ వ్యాపార తర్కం లేదా సంక్లిష్ట సూచనలతో AIని పనిలో ఉంచినప్పుడు తలెత్తే "భ్రాంతులు" మరియు లోపాలను తొలగించడం లక్ష్యంగా పెట్టుకుంది.

సేల్స్‌ఫోర్స్‌లో గణనీయమైన శ్రామిక శక్తి తగ్గింపు తర్వాత ప్రస్తుత AI నమూనాల పరిమితులు స్పష్టమయ్యాయి.

AI ఏజెంట్లను నియమించిన తర్వాత కంపెనీ తన సహాయక సిబ్బందిని 9,000 నుండి 5,000 మంది ఉద్యోగులకు తగ్గించిందని CEO మార్క్ బెనియోఫ్ ఇటీవల వెల్లడించారు. 

అయితే, ఈ వ్యవస్థలను స్కేల్‌లో ఉపయోగించినందున, మోడల్‌లు తరచుగా బహుళ-దశల ఆదేశాలతో ఇబ్బంది పడుతున్నాయని మరియు మానవ పర్యవేక్షణను పూర్తిగా భర్తీ చేయడానికి అవసరమైన సూక్ష్మ అవగాహన లేకపోవడాన్ని ఎగ్జిక్యూటివ్‌లు కనుగొన్నారు, ఇది 100% ఖచ్చితత్వం అవసరమయ్యే ఎంటర్‌ప్రైజ్ కస్టమర్‌లకు ఖరీదైన అంతరాన్ని హైలైట్ చేస్తుంది.

గృహ భద్రతా సంస్థ వివింట్ అనుభవించిన నిర్దిష్ట సాంకేతిక వైఫల్యాలు హైబ్రిడ్ ఆటోమేషన్ వైపు ఈ మార్పును వేగవంతం చేశాయి.

వివింట్ కస్టమర్ మద్దతు కోసం ఏజెంట్‌ఫోర్స్‌ను ఉపయోగించుకుంది, కానీ స్పష్టమైన సూచనలు ఉన్నప్పటికీ AI అస్థిరంగా అవసరమైన సంతృప్తి సర్వేలను పంపుతోందని కనుగొన్నారు. 

 దీన్ని పరిష్కరించడానికి, సేల్స్‌ఫోర్స్ ఒక పని ఎప్పుడు పూర్తయిందో నిర్ణయించడానికి AIని విశ్వసించడం కంటే "నిర్ణయాత్మక ట్రిగ్గర్‌లను" అమలు చేయాల్సి వచ్చింది - ప్రతిసారీ ఒక నిర్దిష్ట చర్యను నిర్వహించడానికి సిస్టమ్‌ను బలవంతం చేసే మాన్యువల్ కోడ్ ఓవర్‌రైడ్‌లు.

నిర్దిష్ట పని వైఫల్యాలకు మించి, సేల్స్‌ఫోర్స్ AI "డ్రిఫ్ట్" అని పిలువబడే దృగ్విషయంతో కూడా పోరాడుతోంది. 

చాట్‌బాట్‌లు దృష్టిని కోల్పోయినప్పుడు లేదా సంబంధం లేని వినియోగదారు ప్రశ్నల ద్వారా పక్కదారి పట్టినప్పుడు, కస్టమర్ ఫారమ్‌ను పూరించడానికి సహాయం చేయడం వంటి వారి ప్రాథమిక లక్ష్యాన్ని పూర్తి చేయడంలో విఫలమైనప్పుడు ఇది జరుగుతుంది. 

 సేల్స్‌ఫోర్స్ తన AI వ్యూహాన్ని మెరుగుపరుస్తూనే ఉన్నందున, CRM రంగంలో అగ్రగామిగా తన స్థానాన్ని నిలబెట్టుకోవడానికి సాంప్రదాయ ఆటోమేషన్ యొక్క ఉత్కృష్ట విశ్వసనీయతతో ఉత్పాదక నమూనాల సృజనాత్మక సామర్థ్యాన్ని సమతుల్యం చేయడంపై దృష్టి కొనసాగుతోంది.