在 Neuralwatt 的能源計費中使用 GLM5.2

你好，我是無能。

最近想用 GLM 5.2，但一直摸不著頭緒，所以先記錄下來。

調查

首先調查了可以免費使用的地方。

Cloudflare Workers AI 基本上有免費額度可以使用，所以試了一下。天啊，太慢了。

雖然感覺也是理所當然，但不知是否因為有免費額度的關係，回應速度變得非常糟糕。

https://openrouter.ai/z-ai/glm-5.2

目前光是 API 回應就要花 43 秒，根本沒辦法用。甚至連測試過的 Z.ai 官方網站在嘗試時也完全沒有回應，情況非常慘烈。

Open Code 的訂閱方案似乎也有提供，但 Reddit 網友的評價不太好，而且 Token 消耗量很大，很快就會達到上限，運作起來似乎很困難。

此外，如果因為量化壓縮導致模型變笨，那花了錢卻沒辦法用就沒意義了，所以我決定根據網路評價和趣味性來尋找。我也註冊了幾家中國的供應商，但因為使用的模型資訊不透明，所以就放棄了。

最後，Hacker News 的用戶也推薦了 Neuralwatt，查了一下發現他們採用了一種名為「能源計費」的有趣收費模式。

使用時會根據電力而變動，可以在官方頁面上確認，如下所示。

https://portal.neuralwatt.com/pricing

作為能源狀態，也可以確認目前單次請求消耗了多少電力。

https://portal.neuralwatt.com/energy-pricing

與 Codex 的比較

實際使用的感覺是，GLM-5.2 (short, fast) 的回應速度與我主要使用的 Codex 相當，但在這種情況下，上下文長度（Context）為 200K。

Codex 使用的 GPT 5.5 Medium 包含推理功能，因此最大上下文長度可能在輸入/輸出合計為 256k 左右。如果要視為實質同等，應該會是 GLM-5.2 (short)。原因是 Fast 模型沒有推理功能，這點需要注意。

OpenAI GPT 5.5 :

https://help.openai.com/ja-jp/articles/11909943-gpt-55-in-chatgpt

Neuralwatt GLM-5.2 (short, fast) :

https://portal.neuralwatt.com/models/glm-5.2-short-fast

Neuralwatt GLM-5.2 (short) :

我原本是因為 Gemini CLI 的回應太慢，用了 Codex 感到驚艷才簽約的，但就體感而言，GLM-5.2 (short) 的速度與 Codex 5.5 Medium 幾乎在同一水準，非常實用。

我認為使用 Open Code 的好處是，如果根本不需要推理，可以輕鬆切換模型。在除錯調查等方面，有些在 Codex GPT 5.5 xhigh 用相同提示詞找不到的錯誤，在 GLM 5.2 的 1048K 上下文模型中被發現了，所以在這方面我感覺到學習模型之間有些微差異，但大部分情況下兩者不相上下。

既然兩者不相上下，我甚至在想，採用按量計費且不太花錢的方式是不是更經濟實惠呢？但實際上，透過 ChatGPT 付費使用的 Codex 額度性價比極高，難以割捨，所以很難說。

不過，我的直覺是，如果 Codex 暫時無法使用，或者額度用完但不想增加訂閱，又或者 Codex 額度的消耗速度加快，那麼作為備用 LLM，它是一個非常有力的候選者。

在非工作時段相當程度地使用了 GLM 5.2 最大上下文 1048K，24 小時內從儲值的 11 美元剩下 $8.09，所以大約花了 3 美元。

考慮到它可以進行 GPT 5.5 找不到的觀點修正和除錯調查，能以這種程度使用，對於不想使用必須專門訂閱（且沒有免費額度）的 Claude 的 Codex 用戶來說，應該是個不錯的選擇。

其他模型

雖然我覺得 Xiaomi 的 MiMo 2.5 意外地相當好用，但目前資訊還太少，還沒辦法深入研究。

https://mimo.xiaomi.com/mimo-v2-5/

在 Open Code Go 可以免費使用，而且即使一直執行似乎也沒有限制，實質上可以無限使用這點相當不錯，但因為不知道 MiMo 2.5 Free 本身的模型細節，所以很難下定論。它的優秀程度甚至讓我覺得付費嘗試一下也是可以的。特別是，雖然資料還是會被拿去學習，但只要稍微放著，它就能進行一定程度的修正或開發應用程式，因此我覺得把編寫拋棄式腳本之類的任務交給它也無妨。