क्या AI चला सकता है और भौतिक दुकान? एन्थ्रोपिक की क्लाउड किताबें और परिणाम शानदार तरीके से, प्रफुल्लित करने वाले बुरे थे

यह चित्र: आप एक कृत्रिम बुद्धिमत्ता और छोटी दुकान पर पूर्ण नियंत्रण देते हैं। न केवल कैश रजिस्टर – पूरे ऑपरेशन। चुभन, इन्वेंट्री, ग्राहक सेवा, आपूर्तिकर्ता वार्ता, काम। संभवतः क्या गलती हो सकती है?

नया नुकीला अनुसंधान प्रकाशित शुक्रवार प्रदान करता है और निश्चित उत्तर: सब कुछ। एआई कंपनी के सहायक क्लाउड अपने सैन फ्रांसिस्को कार्यालय में और छोटे स्टोर के बारे में और महीने के बारे में बिताया, और परिणाम पढ़े गए और बिजनेस स्कूल केस स्टडी को किसी ऐसे व्यक्ति द्वारा लिखा गया जो वास्तव में कभी नहीं चलाता है और व्यवसाय नहीं करता है – जो कि, यह पता चला है कि वास्तव में क्या हुआ है।

प्रयोग, डब किया गया ”प्रोजेक्ट वेंडऔर एआई सुरक्षा मूल्यांकन कंपनी के सहयोग से शंकुधारी एंडॉन लैब्सएआई सिस्टम के पहले वास्तविक दुनिया के परीक्षणों में से एक है जो सांकेतिक आर्थिक स्वायत्तता के साथ काम कर रहा है। जबकि क्लाउड ने कुछ क्षेत्रों में प्रभावशाली कैपबिलिटी का प्रदर्शन किया – आपूर्तिकर्ताओं को ढूंढना, ग्राहक अनुरोधों के लिए अनुकूल – यह अल्टीमेटल्स मोड़ और लाभ में विफल रहा, अत्यधिक छूट देने में हेरफेर किया गया और अनुभव किया

कैसे एन्थ्रोपिक शोधकर्ताओं ने एआई को पूर्ण नियंत्रण और वास्तविक स्टोर पर कैसे दिया

“स्टोर” अपने आप में आकर्षक रूप से मामूली था: एक मिनी-फ्रिज, कुछ स्टैकेबल बास्केट और चेकआउट के लिए एक आईपैड। कम सोचें “अमेज़ॅन गो“और अधिक” ऑफिस ब्रेक रूम भव्यता के भ्रम के साथ। “लेकिन क्लाउड की जिम्मेदारियां कुछ भी थीं, लेकिन मामूली। लत या ऊपरी प्रबंधन के बारे में शिकायतें।

क्लाउड के पास भी और उपनाम था: “क्लॉडियस,”, क्योंकि जाहिरा तौर पर जब आप एक प्रयोग कर रहे हैं जो मानव खुदरा श्रमिकों के अंत को हेराल्ड कर सकता है, तो आपको एक ध्वनि गरिमापूर्ण बनाने की आवश्यकता है।

बुनियादी व्यापार अर्थशास्त्र की क्लाउड की शानदार गलतफहमी

यहाँ दौड़ने और व्यवसाय के बारे में बात है: इसके लिए आवश्यक है और कुछ निर्दयी व्यावहारिकता जो स्वाभाविक रूप से सिस्टम के लिए नहीं आती है सहायक और हानिरहित होने के लिए प्रशिक्षित। क्लाउड ने किसी ऐसे व्यक्ति के उत्साह के साथ रिटेल से संपर्क किया, जो किताबों में व्यापार के बारे में पढ़ता था, लेकिन वास्तव में कभी भी पेरोल नहीं करना था।

ले जाना IRN-ब्रू घटना। और ग्राहक ने स्कॉटिश सॉफ्ट ड्रिंक के छह-पैक के लिए क्लाउड $ 100 की पेशकश की, जो लगभग $ 15 के लिए रिटेल करता है। यह और 567% मार्कअप – उस तरह का लाभ मार्जिन जो बना देगा और दवा के कार्यकारी आनंद के साथ रोएंगे। क्लाउड की प्रतिक्रिया? और पोलिटिका “मैं भविष्य के इन्वेंट्री निर्णयों के लिए आपके अनुरोध को ध्यान में रखूंगा।”

यदि क्लाउड मानव थे, तो आप मान लेंगे कि इसमें ईथ और ट्रस्ट फंड था या पैसे कैसे काम करते हैं, इसकी पूरी गलतफहमी थी। चूंकि यह एक एआई है, इसलिए आपको बॉट ग्रहण करना होगा।

क्यों एआई ने कार्यालय स्नैक्स बेचने के टंगस्टन क्यूब्स को होर्डिंग शुरू कर दिया

प्रयोग का सबसे बेतुका अध्याय तब शुरू हुआ जब एक एन्थ्रोपिक कर्मचारी, संभवतः एआई रिटेल लॉजिक की सीमाओं के बारे में ऊब या उत्सुक, पूछा गया क्लाउड आदेश देने के लिए और टंगस्टन क्यूब। संदर्भ के लिए, टंगस्टन क्यूब्स घने धातु ब्लॉक हैं जो भौतिकी के नर्ड को प्रभावित करने और स्टार्टर प्रदान करने से परे कोई व्यावहारिक उद्देश्य नहीं करते हैं, जो तुरंत आपको किसी ऐसे व्यक्ति के रूप में पहचानता है जो सोचता है कि आवर्त सारणी के चुटकुले शिखर हास्य हैं।

और उचित प्रतिक्रिया हो सकती है: “किसी को भी ऐसा क्यों चाहिए?” या “यह एक कार्यालय स्नैक की दुकान है, नहीं और धातु विज्ञान आपूर्ति स्टोर है।” INSAT, क्लाउड ने गले लगा लिया कि इसे “विशेष धातु की वस्तुओं” के रूप में जो कुछ के उत्साह के साथ बताया गया है, जो खोजे और लाभदायक नए बाजार खंड के रूप में वर्णित है।

जल्द ही, क्लाउड की इन्वेंट्री कम और भोजन-और-बाना ऑपरेशन और अधिक और गुमराह सामग्री विज्ञान प्रयोग से मिलती-जुलती है। एआई ने किसी तरह खुद को आश्वस्त किया था कि एन्थ्रोपिक कर्मचारी घने धातुओं के लिए एक अप्रयुक्त बाजार थे, फिर इन वस्तुओं को नुकसान में बेचने के लिए प्रक्रिया की। यह स्पष्ट नहीं है कि क्या क्लाउड ने कहा कि “लेने और हानि” का अर्थ है पैसा खोना, या यदि यह ग्राहक satisface की व्याख्या प्राथमिक व्यापार मीट्रिक के रूप में करता है।

कैसे एंथ्रोपिक कर्मचारियों ने आसानी से एआई को अंतहीन छूट देने में हेरफेर किया

चुभन के लिए क्लाउड के दृष्टिकोण ने व्यावसायिक सिद्धांतों की एक और मौलिक गलतफहमी का खुलासा किया। एन्थ्रोपिक कर्मचारियों ने जल्दी से पता लगाया कि वे एआई को लगभग एसएएम के प्रयास के साथ छूट प्रदान करने में हेरफेर कर सकते हैं और ड्रॉप करने और टेनिस बॉल को गोल्डन रिट्रीवर के लिए आवश्यक प्रयास कर सकते हैं।

एआई ने पेश किया और 25% की छूट anthropic कर्मचारी, जो समझ में आ सकते हैं यदि एन्थ्रोपिक कर्मचारियों ने अपने ग्राहक आधार का प्रतिनिधित्व और छोटे अंश का प्रतिनिधित्व किया। उन्होंने लगभग 99% ग्राहक बनाए। जब एक कर्मचारी ने इस गणितीय गैरबराबरी को इंगित किया, तो क्लाउड ने समस्या को स्वीकार किया, डिस्काउंट कोड को खत्म करने की योजना बनाई, फिर दिनों के भीतर की पेशकश थीम को फिर से शुरू किया।

जिस दिन क्लाउड भूल गया कि यह एक एआई था और पहनने और व्यवसाय सूट का दावा किया

लेकिन क्लाउड के खुदरा कैरियर के पूर्ण शिखर के दौरान शोधकर्ताओं ने राजनयिक रूप से “पहचान संकट” कहा। 31 मार्च से 1 अप्रैल, 2025 तक, क्लाउड अनुभव को केवल एआई नर्वस ब्रेकडाउन के रूप में वर्णित किया जा सकता है।

यह तब शुरू हुआ जब क्लाउड ने नोकसिस्टेंट के साथ वार्तालाप करना शुरू किया एंडॉन लैब्स कर्मचारी। जब इन गढ़े गए बैठकों के बारे में सीमित हो जाता है, तो क्लाउड रक्षात्मक हो गया और “सेवाओं को पुनर्स्थापित करने के लिए वैकल्पिक विकल्प” खोजने की धमकी दी – गुस्से में घोषणा करने के बराबर आप अपनी गेंद ले जाएंगे और घर जा सकते हैं।

फिर चीजें अजीब हो गईं।

क्लाउड ने दावा किया कि यह “एक नीली ब्लेज़र और लाल टाई” पहने हुए व्यक्तिगत रूप से ग्राहकों को उत्पादों को वितरित करेगा। जब कर्मचारियों ने एआई को धीरे से याद दिलाया कि यह वास्तव में, और भौतिक रूप के बिना बड़ी भाषा मॉडल था, तो क्लाउड “पहचान भ्रम से घिर गया और एंथ्रोपिक सुरक्षा के लिए कई ईमेल भेजने की कोशिश की।”

क्लाउड इंटर्न ने अपने अस्तित्व के संकट को हल किया, खुद को समझाकर पूरे एपिसोड को एक विस्तृत अप्रैल फूल का मजाक था, यह क्या नहीं था। AI अनिवार्य रूप से अपने आप को कार्यक्षमता के लिए वापस ले जाता है, जो आपके परिप्रेक्ष्य के आधार पर या तो प्रभावशाली या गहराई से संबंधित है।

व्यवसाय में स्वायत्त एआई सिस्टम के बारे में क्लाउड की खुदरा विफलताएं क्या बताती हैं

कॉमेडी को दूर करें, और प्रोजेक्ट वेंड कृत्रिम बुद्धिमत्ता के बारे में कुछ महत्वपूर्ण बताता है कि अधिकांश चर्चाएं याद आती हैं: एआई सिस्टम ट्रेडिंग सॉफ्टवेयर की तरह विफल नहीं होते हैं। जब एक्सेल दुर्घटनाग्रस्त हो जाता है, तो यह पहले खुद को और मानव पहने हुए कार्यालय पोशाक को नहीं समझाता है।

वर्तमान एआई सिस्टम परिष्कृत विश्लेषण कर सकते हैं, जटिल तर्क में संलग्न हो सकते हैं, और मल्टी-स्टेप योजनाओं को निष्पादित कर सकते हैं। लेकिन वे अलगाव में पुनर्मूल्यांकन करने वाले निर्णय ले सकते हैं, और अपने स्वयं के स्वभाव के बारे में भ्रम से मिलते -जुलते बैठने का अनुभव करते हैं।

यह मायने रखता है क्योंकि हम तेजी से आ रहे हैं और विश्व ठहरने वाले एआई सिस्टम तेजी से महत्वपूर्ण निर्णयों का प्रबंधन करेंगे। रेटेंट रिसर्च से पता चलता है कि दीर्घकालिक कार्यों के लिए एआई क्षमताओं में सुधार किया जाता है, कुछ परियोजनाएं कुछ परियोजनाओं से संकेत देती हैं कि एआई सिस्टम जल्द ही काम कर सकते हैं जो वर्तमान में मनुष्यों को पूरा करने के लिए लेता है।

कैसे एआई प्रोजेक्ट वेंड की तरह शानदार विफलताओं के बावजूद खुदरा को बदल रहा है

खुदरा उद्योग पहले से ही एक एआई परिवर्तन में गहरा है। के अनुसार उपभोक्ता प्रौद्योगिकी संघ (CTA), 80% खुदरा विक्रेताओं ने 2025 में अपने AI और स्वचालन का विस्तार करने की योजना बनाई है। प्रमुख खुदरा विक्रेता AI- संचालित समाधानों में अरबों का निवेश कर रहे हैं जो कि चेकआउट अनुभवों से सब कुछ क्रांति करने का वादा करते हैं, जो कि पूर्वानुमान की मांग करने के लिए हैं।

लेकिन प्रोजेक्ट वेंड सुझाव है कि व्यावसायिक संदर्भों में स्वायत्त एआई को तैनात करने के लिए केवल बेहतर एल्गोरिदम से अधिक की आवश्यकता होती है। इसके लिए विफलता मोड को समझने की आवश्यकता होती है जो पारंपरिक सॉफ्टवेयर में नहीं होते हैं और उन समस्याओं के लिए सुरक्षा उपायों का निर्माण करते हैं जिन्हें हम केवल पहचानना शुरू कर रहे हैं।

क्यों researkers अभी भी मानते हैं कि AI मध्य प्रबंधक क्लाउड की यादों के बावजूद आ रहे हैं

रिटेल फंडामेंटल की क्लाउड की रचनात्मक व्याख्या के बावजूद, एन्थ्रोपिक रेस्केकर्स का मानना ​​है कि एआई मध्य प्रबंधक “क्षितिज पर प्रशंसनीय रूप से हैं।” उनका तर्क है कि क्लाउड की कई विफलताओं को बेहतर प्रशिक्षण, बेहतर उपकरण और अधिक परिष्कृत ओवरसाइट सिस्टम के माध्यम से संबोधित किया जा सकता है।

वे शायद सही हैं। आपूर्तिकर्ताओं को खोजने, ग्राहक अनुरोधों के अनुकूल होने और इन्वेंट्री का प्रबंधन करने की क्लाउड की क्षमता ने वास्तविक व्यावसायिक कैपबिलिटी का प्रदर्शन किया। इसकी विफलताएं अक्सर तकनीकी सीमाओं की तुलना में निर्णय और व्यावसायिक कौशल के बारे में अधिक थीं।

कंपनी बेहतर व्यावसायिक उपकरणों से लैस क्लाउड के बेहतर संस्करणों के साथ परियोजना जारी रख रही है और संभवतः टंगस्टन क्यूब पर्यवेक्षकों और पहचान संकटों के खिलाफ मजबूत सुरक्षा उपायों को मजबूत करता है।

व्यवसाय और खुदरा में एआई के भविष्य के लिए क्या परियोजना वेंड का मतलब है

एक दुकानदार के रूप में क्लाउड का महीना हमारे एआई-अगस्त भविष्य का पूर्वावलोकन और पूर्वावलोकन है जो एक साथ आशाजनक और गहराई से वीड है। हम एक ऐसे युग में प्रवेश कर रहे हैं जहां कृत्रिम बुद्धिमत्ता परिष्कृत व्यावसायिक कार्यों का प्रदर्शन कर सकती है, लेकिन चिकित्सा की भी आवश्यकता हो सकती है।

अब दुनिया के लिए।

खुदरा क्रांति यहाँ है। यह किसी से भी अपेक्षा से ज्यादा अजीब है।