Neuralwatt की ऊर्जा-आधारित बिलिंग के साथ GLM5.2 का उपयोग करना
नमस्ते, मैं मुनो (Munou) हूँ।
हाल ही में मैं GLM 5.2 का उपयोग करना चाहता था, लेकिन मैं काफी उलझन में था, इसलिए मैं इसके बारे में लिख रहा हूँ।
जाँच
सबसे पहले, मैंने उन जगहों की जाँच की जहाँ इसे मुफ्त में उपयोग किया जा सकता है।
Cloudflare Workers AI में एक मुफ्त टियर उपलब्ध है, इसलिए मैंने इसे आज़माया। यह बहुत ही धीमा है।
ऐसा लगता है कि यह अपेक्षित ही था, लेकिन शायद मुफ्त टियर के कारण प्रतिक्रिया की गति (response speed) बहुत खराब है।
https://openrouter.ai/z-ai/glm-5.2
वर्तमान में, अकेले API रिस्पॉन्स में 43 सेकंड लगते हैं, इसलिए यह काम का नहीं है। यहाँ तक कि जब मैंने Z.ai की आधिकारिक साइट को आज़माया, जिसे मैं टेस्ट कर रहा था, तो कोई रिस्पॉन्स ही नहीं आया, जो कि काफी बुरा है।
ऐसा लगता है कि यह Open Code के सब्सक्रिप्शन प्लान में भी उपलब्ध है, लेकिन Reddit उपयोगकर्ताओं की समीक्षाएं बहुत अच्छी नहीं हैं; टोकन की खपत बहुत अधिक है, इसलिए यह जल्दी ही सीमा तक पहुँच जाता है, जिससे इसे प्रबंधित करना कठिन हो जाता है।
इसके अलावा, यदि क्वांटिज़ेशन (quantization) द्वारा संकुचित होने पर मॉडल कम बुद्धिमान हो जाता है, तो पैसे देने के बाद भी अगर वह काम का न रहे, तो उसका कोई मतलब नहीं है। इसलिए मैंने इंटरनेट की समीक्षाओं और दिलचस्प जानकारी के आधार पर खोजना शुरू किया। मैंने कुछ चीनी प्रदाताओं के साथ भी पंजीकरण किया, लेकिन मैंने छोड़ दिया क्योंकि उपयोग किए जा रहे मॉडल के बारे में जानकारी स्पष्ट नहीं थी।
अंत में, Hacker News के उपयोगकर्ता भी Neuralwatt नामक एक जगह की सिफारिश कर रहे थे, इसलिए मैंने इसकी जाँच की और पाया कि उनका ऊर्जा-आधारित बिलिंग (energy-based billing) का एक दिलचस्प मूल्य निर्धारण मॉडल है।
उपयोग के आधार पर यह बिजली के अनुसार परिवर्तनशील है, और आप इसे आधिकारिक पेज पर इस प्रकार देख सकते हैं।
https://portal.neuralwatt.com/pricing
ऊर्जा स्थिति के रूप में, आप यह भी देख सकते हैं कि वर्तमान में एक अनुरोध (request) में कितनी बिजली की खपत हुई है।
https://portal.neuralwatt.com/energy-pricing
Codex के साथ तुलना
मेरे अनुभव में, GLM-5.2 (short, fast) की रिस्पॉन्स स्पीड मेरे द्वारा मुख्य रूप से उपयोग किए जाने वाले Codex के समान स्तर की है, लेकिन इस मामले में कॉन्टेक्स्ट (Context) 200K है।
चूंकि Codex में उपयोग किए जाने वाले GPT 5.5 Medium में तर्क (reasoning) शामिल है, इसलिए शायद इनपुट/आउटपुट मिलाकर अधिकतम कॉन्टेक्स्ट लंबाई 256k है। यदि इसे व्यावहारिक रूप से समकक्ष माना जाए, तो यह GLM-5.2 (short) होगा। कारण यह है कि Fast मॉडल में तर्क (reasoning) नहीं होता है, इसलिए सावधान रहें।
OpenAI GPT 5.5 :
https://help.openai.com/ja-jp/articles/11909943-gpt-55-in-chatgpt
Neuralwatt GLM-5.2 (short, fast) :
https://portal.neuralwatt.com/models/glm-5.2-short-fast
Neuralwatt GLM-5.2 (short) :
मैं मूल रूप से Gemini CLI की धीमी प्रतिक्रिया के कारण Codex पर स्विच कर गया था और इससे प्रभावित होकर मैंने सब्सक्रिप्शन ले लिया, लेकिन व्यक्तिगत अनुभव के रूप में GLM-5.2 (short) की गति Codex 5.5 Medium के लगभग समान है, इसलिए यह काफी व्यावहारिक है।
यदि आपको तर्क (reasoning) की भी आवश्यकता नहीं है, तो आसानी से मॉडल स्विच करने में सक्षम होना Open Code का उपयोग करने का एक लाभ है। बग जाँच आदि के संबंध में, कुछ बग जो Codex GPT 5.5 xhigh में उसी प्रॉम्प्ट के साथ नहीं मिले थे, वे GLM 5.2 के 1048K कॉन्टेक्स्ट लंबाई वाले मॉडल में मिल गए। इस संबंध में, मैं प्रशिक्षण मॉडल के रूप में थोड़ा अंतर महसूस करता हूँ, लेकिन अधिकांशतः दोनों लगभग बराबर ही हैं।
यदि दोनों लगभग बराबर हैं, तो क्या पे-एज़-यू-गो (pay-as-you-go) प्रणाली अधिक किफायती नहीं होगी जहाँ कम पैसे खर्च होते हैं? लेकिन ChatGPT सब्सक्रिप्शन के साथ उपलब्ध Codex कोटा की लागत-प्रभावशीलता (cost-performance) को छोड़ना मुश्किल है, इसलिए कुछ कहना कठिन है।
हालाँकि, यदि Codex अस्थायी रूप से अनुपलब्ध है, या आपने कोटा समाप्त कर लिया है और अधिक सब्सक्रिप्शन नहीं जोड़ना चाहते हैं, या यदि Codex कोटा की खपत तेज हो जाती है, तो मेरा मानना है कि यह बैकअप LLM के रूप में एक बहुत ही मजबूत उम्मीदवार है।
गैर-कार्य घंटों के दौरान GLM 5.2 अधिकतम कॉन्टेक्स्ट 1048K का उचित उपयोग करने के बाद, 24 घंटों में $11 के चार्ज में से $8.09 शेष हैं, इसलिए लगभग $3 खर्च हुए।
यह देखते हुए कि आप उन दृष्टिकोणों से बग जाँच और सुधार कर सकते हैं जो GPT 5.5 में नहीं मिलते हैं, मुझे लगता है कि यह उन Codex उपयोगकर्ताओं के लिए एक अच्छा विकल्प है जो Claude (जिसके लिए सब्सक्रिप्शन की आवश्यकता होती है और कोई मुफ्त टियर नहीं है) का उपयोग नहीं करना चाहते हैं।
अन्य मॉडल
मुझे लगता है कि Xiaomi का MiMo 2.5 वास्तव में काफी उपयोगी है, लेकिन अभी भी बहुत कम जानकारी उपलब्ध है, इसलिए मैं इसकी पूरी तरह से जांच नहीं कर पाया हूँ।
https://mimo.xiaomi.com/mimo-v2-5/
Open Code Go पर इसे मुफ्त में इस्तेमाल किया जा सकता है और ऐसा लगता है कि इसे लगातार चलाने पर भी कोई सीमा नहीं है, इसलिए इसे व्यावहारिक रूप से असीमित रूप से उपयोग करना काफी अच्छा है, लेकिन मैं निश्चित रूप से कुछ नहीं कह सकता क्योंकि मुझे MiMo 2.5 Free के मॉडल विवरण के बारे में पता नहीं है। यह इतना उत्कृष्ट है कि मुझे लगता है कि इसे इस्तेमाल करने के लिए थोड़ा भुगतान करना उचित है। विशेष रूप से, भले ही यह डेटा से सीखता हो, अगर इसे कुछ समय के लिए छोड़ दिया जाए तो यह उचित सुधार और ऐप निर्माण कर सकता है, इसलिए मुझे लगता है कि डिस्पोजेबल स्क्रिप्ट बनाने जैसे कार्य इसे सौंपे जा सकते हैं।