‘एआई मतिभ्रम पूरी तरह से हटाने के लिए कठिन हैं’: नवीन राव, एआई के वीपी, डेटाब्रिक्स

THB: AI गोद लेना पूरे जोरों पर है, यहां तक ​​कि मतिभ्रम के रूप में भी। यह एक केस क्यों है?

नवीन राव: कुछ कारण हैं। हम इस बात पर अधिक परिपक्व हो गए हैं कि हमारे आवेदन क्षेत्र एआई के लिए क्या हैं। मूल रूप से, हमने उपयोग के मामलों का पता लगाया है जहां हम कुछ त्रुटि को सहन कर सकते हैं। प्रारंभ में, लोगों ने उन्हें उन सभी प्रकार के क्षेत्रों में लागू करने की कोशिश की, जहां सटीकता की आवश्यकता थी जो एक गलती थी। दूसरे, हम इन क्षेत्रों में मूल्य जोड़ रहे हैं ताकि मॉडल वास्तव में बेहतर हो गए हैं। जब आप जानकारी को या तो पुनर्प्राप्ति के माध्यम से संदर्भ में डालते हैं या केवल सभी आवश्यक संदर्भ को संकेत में दर्ज करते हैं, तो हम कम मतिभ्रम देखते हैं। मॉडल उच्च निष्ठा के साथ संकेतों में जानकारी का पालन करते हैं। समय के साथ, हम मतिभ्रम को नीचे चलाने में काम करना जारी रखेंगे। एक और मॉडल जज होने जैसे अन्य चेक और बैलेंस हो सकते हैं कि क्या आउटपुट अच्छा है। यह हमें उच्च परिशुद्धता देता है – यह 100% नहीं है, लेकिन कई मामलों में यह 90 – 95% सटीकता के उत्तर में आ रहा है। लेकिन मतिभ्रम इन एआई मॉडल के लिए आंतरिक हैं क्योंकि LLMS संभाव्य हैं, है ना? यह एक ऑटो प्रतिगामी है, अगला टोकन भविष्यवाणी है। तो, पूरी तरह से हटाना बहुत कठिन है।

THB: डेटाब्रिक्स हाल ही में $ 100 मिलियन की साझेदारी की घोषणा की एन्थ्रोपिक के साथ। यह एजेंट एआई बाजार में कैसे खेलेंगे?

नवीन: हमारे पास कंपनियों में एआई एजेंट नहीं हो सकते क्योंकि त्रुटियां हैं, खासकर जब वे मल्टी-स्टेप कार्य कर रहे हैं। मुझे लगता है कि एआई एजेंट निश्चित रूप से सम्मोहित हैं। एआई एजेंट की परिभाषा कथा को फिट करने के लिए स्थानांतरित हो गई है। शब्द का मूल इरादा एक इकाई का वर्णन करना था, जिसका अर्थ है कि यह पूरी तरह से अपने दम पर कार्य कर सकता है। अब, यह मल्टी-पार्ट सिस्टम में विकसित हुआ है, जहां कई एलएलएम एक ऐसे कार्य को हल करने के लिए एक साथ काम करते हैं जो आमतौर पर मनुष्यों को तेज या अधिक कुशल बनाता है।

यहां तक ​​कि अगर एआई एजेंटों का पूरी तरह से व्यवहार किया गया था, तो हम ऐसा कुछ नहीं चाहते हैं जो बिना किसी शासन के पूरी तरह से अपने दम पर कार्य कर सके। हमने इसे Genai में विस्तारित डेटा के लिए डेटाब्रिक्स की शासन परत में बनाया है। इसलिए, जब भी कोई एजेंट बनाया जाता है, तो उसके पास कुछ पहुंच अधिकार और एंटाइटेलमेंट होते हैं और यह हर जगह विली-निली नहीं जा सकता है। आने वाले वर्षों में, जैसा कि हम इन समस्याओं को हल करना शुरू करते हैं, चीजें विश्वसनीय और सटीक हो जाएंगी।

THB: क्या हम LLM अग्रिमों के वर्तमान स्तर के साथ AGI प्राप्त कर सकते हैं?

नवीन: मेरा मतलब है, यह AGI का मार्ग है या नहीं प्रौद्योगिकी में ही देखा जाएगा। मुझे व्यक्तिगत रूप से नहीं लगता कि यह है। मुझे नहीं लगता कि ऑटोरेसिव लॉस कुछ ऐसा करने का सही तरीका है जो वास्तव में एक सिस्टम में कार्य -कारण को समझ सकता है। मनुष्य एक अलग तरीके से सीखते हैं। हम एक यंत्रवत समझ के साथ आकर सीखते हैं कि हम किसी कार्य को कैसे हल कर सकते हैं। तो, एक बात दूसरी चीज की ओर ले जाती है तो दूसरी। जब मैं फिर से उसी कार्य को हल करना चाहता हूं, तो मुझे उन इनपुट की भावना होती है जो अगले राज्य में कारण का कारण बनते हैं। LLMS ऐसा नहीं करते हैं। शायद हम वहां पहुंचेंगे, लेकिन असंरचित डेटा के एक विशाल कॉर्पस पर बहुत बड़े पूर्व-प्रशिक्षण का वर्तमान प्रतिमान और फिर अपने व्यवहार को संशोधित करने के लिए कुछ प्रकार के सुदृढीकरण सीखने के लिए कुछ ऐसा नहीं है जो कुछ ऐसा करेगी जो वास्तव में अपने दम पर कार्य कर सकती है।

THB: तो, आपको विश्वास नहीं है कि AGI सिर्फ कोने के आसपास है?

नवीन: नहीं, मुझे लगता है कि यह बहुत कठिन समस्या है, क्योंकि बहुत से लोग इसे क्रेडिट देना चाहते हैं और हम एक ऐसे बिंदु पर नहीं हैं जहां हम करीब हैं। हां, हमने स्वायत्त प्रणालियों की दिशा में भारी प्रगति की है जो प्राकृतिक भाषा को समझ सकते हैं। LLM ने प्राकृतिक भाषा को हल किया है, जो एक बड़ी बात है। मैं क्या किया है या उनके आर्थिक प्रभाव को कम नहीं करना चाहता – एलएलएम बहुत उपयोगी उपकरण हैं।

THB: आप उपभोक्ता AI बाजार के खिलाफ एंटरप्राइज़ AI की तुलना कैसे करते हैं? क्या आपको नेविगेट करना आसान लगता है?

नवीन: उद्यमों को अपनाने के लिए धीमा हो जाता है। वे आम तौर पर बहुत तर्कसंगत अभिनेता होते हैं, जबकि उपभोक्ता कुछ तर्कहीन होते हैं। इससे उपभोक्ता के बाद जाना कठिन हो जाता है, क्योंकि यह समझना मुश्किल है कि वे क्यों खरीदने जा रहे हैं। समय के साथ एंटरप्राइज मार्केट उपभोक्ता बाजार से बड़ा होगा, मुझे विश्वास है। वास्तव में केवल कुछ अलग उत्पाद सतह हैं। खोज उपकरण उपभोक्ता खंड में एक बड़ा है, जैसे कि पेरप्लेक्सिटी या चैट। छवि पीढ़ी और अन्य वास्तव में ज्यादातर मज़े के लिए हैं। लेकिन मुझे नहीं पता कि लोग मज़े के लिए कितना भुगतान करते हैं। आमतौर पर, नवीनता तब तक पहनती है जब तक कि वे व्यावसायिक उद्देश्यों के लिए उपयोग नहीं करते हैं। जबकि उद्यमों में हम देखते हैं कि कंपनियां वास्तव में आरओआई की तलाश करने की कोशिश कर रही हैं ताकि वे बहुत निवेश करने के लिए तैयार हों क्योंकि इसका मतलब कंपनी बनाम उनके प्रतिद्वंद्वियों के बारे में कुछ है।

THB: अब AI का हत्यारा ऐप क्या है?

नवीन: अभी, यह कोडिंग है। जब वे संरचित होते हैं या उनके आउटपुट को आसानी से मापा जाता है, तो एआई उपकरण प्रभावी होते हैं। लेखन कोड के साथ, आप बता सकते हैं कि क्या कोड का अनुपालन बहुत आसानी से होता है। हालांकि कोडिंग एजेंट बहुत अधिक मतिभ्रम करते हैं, लेकिन इसमें से अधिकांश अभी भी उपयोगी है।

THB: आप इस दृष्टिकोण के बारे में क्या सोचते हैं कि छात्रों को सॉफ्टवेयर इंजीनियरिंग का अध्ययन करना बंद कर देना चाहिए?

नवीन: मैं इससे सहमत नहीं हूं – किसी को यह समझना होगा कि ये सिस्टम कैसे काम करते हैं। यहां तक ​​कि अगर कोड जनरेशन स्वचालित है, तो इसका मतलब यह नहीं है कि लेखन सॉफ्टवेयर की भौतिकी दूर हो जाती है। कोई व्यक्ति अभी भी कोड के साथ काम करना होगा और इसकी जाँच करें। हमें मूल बातें समझनी होगी। मुझे लगता है कि यह कहना बहुत खराब सलाह है कि हमें कंप्यूटर विज्ञान का पूरी तरह से अध्ययन करना बंद कर देना चाहिए।