GLM 5.2

GLM의 차이점은 토큰당 비용이 1/10 수준이고 사용 제한도 훨씬 높다는 것입니다.“The difference is glm is 1/10th of the cost per token and has way higher usage limit”

256GB Mac Studio나 충분한 VRAM + RAM을 갖춘 시스템처럼 하드웨어만 충분하다면 GLM-5.2도 로컬에서 실행할 수 있다는 점을 잊으셨네요. Unsloth는 원래 모델 정확도의 82%를 유지하면서도 로컬 배포를 훨씬 쉽게 만들어주는 2-bit quantized 버전을 제공합니다.“You forgot to mention that GLM-5.2 can also run locally if you have enough hardware like 256GB Mac Studio or a system with sufficient VRAM + RAM. Unsloth also provides a 2-bit quantized version that reportedly retains 82% of the original model accuracy, making local deployment much more accessible.”

이거 진짜 미쳤네요. 2026년에 GLM 5.2랑 Claude 중에 뭘 써야 할까요? 진짜 더 이상 못 고르겠어요 ㅋㅋ 😭😭“This was ABSOLUTELY INSANE. Are you choosing GLM 5.2 or Claude to use in 2026? I genuinely can't decide anymore lol 😭😭”

Z.ai 설립자의 발표: “GLM-5.2는 완전히 오픈되었습니다. 프런티어 지능은 오늘날 모든 사람의 것입니다. 비기술적인 이유로 특정 프런티어 모델의 접근이 갑자기 제한되는 현 시점은 매우 유감스럽습니다. 우리는 한 가지를 더욱 확신합니다. 과학은 세계적이어야 합니다. AGI(인공 일반 지능)로 가는 길은 결코 높은 벽에 갇혀서는 안 됩니다. 우리는 AGI가 소수에게 독점되는 것이 아니라, 인류 전체가 지능의 한계를 탐구하고 복잡한 문제를 해결하기 위한 초석이 되어야 한다고 믿어왔습니다...“Announcement from the founder of Z.ai: “ GLM-5.2 is Fully Open, Frontier Intelligence Belongs to Everyone Today, the sudden restriction of certain frontier models is deeply regrettable. At a time when access to frontier models is abruptly cut off for non-technical reasons, we are even more convinced of one thing: science should be global. The path to AGI (Artificial General Intelligence) must never be enclosed by high walls. We have always believed that AGI should be the cornerstone for all of humanity to collaboratively explore the boundaries of intelligence and solve complex challenges, rather than a privilege monopolized by a few rules and subject to revocation at any moment. In the face of external blockades and restrictions, our attitude is one of radical openness. Frontier intelligence must remain open-source, accessible, and buildable, serving every dedicated developer. GLM-5.2 is Zhipu's most capable open-source model to date. It not only supports a truly usable 1M context window but also maintains a continuous lead in the independent completion of long-horizon tasks, providing solid foundational support for building complex agent applications. It also continues to be our main engine for creating the strongest domestic coding model. Tonight at 5:21—at this special moment—GLM-5.2 will officially be available to all GLM Coding Plan users (including Lite / Pro / Max). The API will also go live next week. A step closer to frontier intelligence for everyone. The future of AI is open, and it is for the people. ModelKey: GLM-5.2” https://x.com/jietang/status/2065784751345287314”

누구도 distillation만으로는 새로운 AI 모델을 만들 수 없습니다. 누구도요. 사실 제가 아는 모든 모델이 훈련/검증 과정에서 기존 모델을 distillation해서 사용합니다! 그러니 누군가 distillation을 했다고 비난하는 것은 최소한 기만적이거나, 아니면 엄청나게 위선적인 짓입니다.“NOBODY can make a new AI model by distillation alone, NOBODY. in fact, every model i know of distilled from existing models during the training/verification process! so accusing anyone of doing distillation is at very least disingenuous, if not extremely hypocritical.”

저는 Q4_K_XL을 돌리고 있습니다. llama.cpp -cmoe를 사용해 초당 약 6토큰(6tk/sec)을 얻으려면 512GB RAM과 3090 GPU 2개면 충분합니다. 제 DDR4 2400mhz는 좀 구리지만, 3200mhz로 바꾸면 속도가 9tk/sec까지 올라갈 겁니다. CPU는 적당한 32코어 epyc인데, 더 좋은 64코어를 쓰면 11tk/sec 정도 나올 거예요. 하드웨어 가격이 미치기 전에 가성비로 맞췄는데 매일 후회 중입니다. 그럼에도 집에서 이 모델을 돌릴 수 있다는 건 환상적입니다. 계획을 세우거나, 계획과 컨텍스트가 준비된 상태에서 원샷 프롬프팅을 하기에 아주 좋습니다. 이 하드웨어 전체를 구축할 때 2400달러 들었습니다. 자원을 들일 용의가 있다면...“I run Q4_K_XL. All it takes to run to get about 6tk/sec is 512gb of ram and 2 3090 GPUs with llama.cpp -cmoe. I also have crappy DDR4, 2400mhz, 3200mhz will bring that speed up to about 9tk/sec. I also have ok 32core epyc CPU, a better 64core would bring it up to about 11tk/sec. I did a budget build before the crazy hardware cost and I regret it everyday. Nevertheless, it's fantastic being able to run this model at home. It's great for planning, one shot prompting once you have a plan or all the context you need. This entire hardware cost $2400 when it was built. If you're willing to be resourceful, you can find ways to run these models at home. I often get the silly question of why, and suggestions about how much I can save using cloud API, but the Fable drama has opened up eyes on why it's good for us to be independent. Thanks team unsloth, Q4_K_XL is solid, if you are going to grab a quant, make sure to get the K_XL variant if it can fit.”

이번 주말 Fable과 GPT 5.6 소동 이후 이 오픈 모델들을 다시 살펴봤는데... GLM-5.2는 일상적인 프로그래밍에 정말 훌륭한 워크호스(workhorse) 모델입니다. 저는 스스로를 LLM 헤비 유저이자 노련한 개발자라고 생각합니다. 보통 GPT와 세션을 진행하면 100달러 넘게 깨지는데... 이번 주말에 암호화 기능이 있는 매트릭스 봇과 몇 가지 도구를 갖춘 Rust 에이전트를 프로그래밍했습니다. OpenClaw는 제가 원하는 느낌이 아니었거든요. 이틀 뒤에 20달러만 쓰고 제 홈랩에 접근할 수 있는 Rust 기반 멀티모달 에이전트를 완성했습니다. 전혀 어색함이 없었고...“I have taken another look on these open models after the fiasco of Fable and GPT 5.6 this weekend and... GLM-5.2 truly is a good workhorse model for daily programming. I consider myself a heavy user of LLMs and a seasoned developer. A typical session for me with GPT is usually over a hundred dollars... This weekend I programmed a matrix bot with encryption and a Rust agent with some tools. Because I need one and OpenClaw just felt... not what I wanted. Two days later and 20 dollars poorer I have what I need: a multimodal agent written in rust that has access to my homelab. Nothing felt off with GLM. It did what I wanted, was fast, had a decent not very annoying personality and was much cheaper than Opus or GPT. I used it unquantized through Fireworks, but there are multiple other providers too.”

중국인들은 오픈 소스로 책임감 있는 인류의 모습을 보여주는 반면, 미국의 과두 정치 세력은 AI가 결국 우리 모두를 죽이게 되더라도 그저 돈을 더 벌려고만 하네요...“The Chinese are being responsible humans with open source while the oligarchy Americans are just trying to make more money even if AI ends up killing us all…”

>걱정 마세요, 오픈 소스 복음주의자들이 3년 안에 당신의 휴대폰에서 이게 돌아갈 거라고 말해줄 테니까요. 비꼬시는 건지 모르겠지만, 저는 16GB M1 맥북 프로에서 2023년의 GPT-4를 가볍게 이기는 Gemma나 Qwen 양자화 버전을 돌리고 있습니다. 3년 뒤에 표준 소비자용 하드웨어(예: 32GB/64GB M7 Pro)에서 Opus 4.5나 GLM-5.2만큼 강력한 모델을 돌릴 수 있게 되어도 놀랍지 않을 것 같네요. 또한 그로부터 3년 뒤에는 하드웨어 가격 하락과 모델 효율성 개선 덕분에 로컬 모델과 상용 모델의 격차가 훨씬 더 줄어들어도 이상하지 않을 겁니다.“>Don't worry though, open source evangelists will tell you that these will be running on your phone in the next 3 years. Not sure if you're being sarcastic, but I can run a quantised version of Gemma or Qwen on my 16GB M1 Macbook Pro that beats GPT-4 from 2023 hands-down. I wouldn't be surprised if, in another 3 years, you'd be able to run something as powerful as Opus 4.5 or GLM-5.2 on standard consumer hardware - say a 32GB/64GB M7 Pro. I also wouldn't be surprised if, 3 years after that, cheaper hardware and improved model efficiency means that there's a much smaller gap between what you can run on a consumer CPU (which, with memory prices coming down, could look like a 256GB M9 or M10 Pro) and $100k GPU cluster.”

GLM 5.2는 정말 장관이네요 😮“Glm5.2 es espectacular 😮”

빨아먹을 새로운 젖소가 도착했군요 🥹“A new cow to milk has arrived🥹”

GLM 5.2는 여전히 저렴하지 않습니다. Opus 4.8 API 토큰 가격의 1/5 수준이라 해도 여전히 부담스럽습니다. 우리에게 정말 필요한 것은 Fable 5 수준의 성능을 내면서 비용은 V4와 비슷하고, 캐시 히트율과 캐시 히트 가격이 합리적인 차세대 Deepseek 모델입니다... 그것이야말로 진정한 게임 체인저가 될 것이며, 오픈 소스 모델을 금지하거나 접근을 어렵게 만들려는 Anthropic과 OpenAI의 사악한 시도를 완전히 잠재울 것입니다!!!“GLM5.2 is still not cheap, at 1/5th the price of Opus 4.8 API token pricing, it is still hefty. What we really need is the next Deepseek model to come in at Fable 5 level of performance and cost same as V4 and with similar cache hit levels and cache hit pricing.....now that will be the real game changer and once and for all shut down the evil efforts from Anthropic and OpenAI to get Open Source models banned or made difficult to access !!!”

전체 GLM-5.2는 1.4테라바이트의 데이터를 가집니다. 양자화해서 크기를 2배나 4배로 줄인다고 해도, 라즈베리 파이 5는 SSD에서 가중치를 읽어오는 방식이 아니면 돌릴 수 없습니다. 그렇게 하더라도 라즈베리 파이 5가 SSD 읽기 속도만큼 거대 모델의 추론을 빠르게 수행할 수 있을 것 같지 않습니다. 반면, PCIe 5.0 SSD와 PCIe 4.0 SSD를 모두 갖춘 많은 Intel이나 AMD CPU 기반 미니 PC들은 이들을 병렬로 읽어 최대 20 Gbyte/s의 읽기 처리량을 낼 수 있습니다. 그런 미니 PC들은 충분히 빠른 CPU를 가지고 있어서...“The full GLM-5.2 has 1.4 terabytes of data. Even in quantized form, reducing that size by 2 times or 4 times, a Raspberry Pi 5 could not run it otherwise than by reading the weights from an SSD. Even thus, I do not believe that a Raspberry Pi 5 would be fast enough to be able to run inference on such a big model at the speed at which it can read from the SSD. On the other hand, there are many mini-PCs with Intel or AMD CPUs that have both a PCIe 5.0 SSD and a PCIe 4.0 SSD, which may be read in parallel, achieving thus a reading throughput of up to 20 Gbyte/s. Such miniPCs have fast enough CPUs/GPUs, so that they might be able to reach the inference speed limited by a 20 Gbyte/s weight reading throughput, which for a so big model like GLM-5.2 would be of one output token every few seconds (only a fraction of the weights must be read for one output token). The ratio between output tokens per second and the weight reading throughput can be improved by various methods, like multi-token prediction or batching multiple tasks. Optimizing inference speed in such conditions is an active research subject, due to the high current memory prices.”

동의합니다. 직장에서 사용해봤는데 제가 본 것 중 최악의 GUI 테스트 케이스들을 만들어내더군요. 테스트 대상이 전혀 말이 안 되는 경우가 많고, 사용자 이벤트를 사용한 전체 애플리케이션 테스트는 만들지 않으면서 내부 로직에 대해서만 완전히 불가능한 엣지 케이스를 테스트합니다. 그리고 테스트 케이스의 어떤 부분은 정말 터무니없습니다. 클래스의 인스턴스를 생성하는 대신 실제 클래스의 일부 동작을 재구현한 빈껍데기 가짜 객체를 설정하고, 강제 캐스팅 같은 방식으로 TypeScript 에러를 무시합니다. 그러고는 출력에 test id를 대충 붙이고, 컴포넌트를 스텁(stub) 처리하고...“I agree. And at work it has been producing some of the worst GUI test cases I have ever seen. What is tested often makes no sense at all, completely implausible edge cases are tested on internals, while it doesn't create tests for the overall application using user events. And some things in these test cases are downright ridiculous: instead of instantiating your classes, it sets up some barebones fake objects reimplementing some of the behavior of your actual class, then ignores the TypeScript errors via force cast or similar. Then it proceeds to slap some test ids on the output, stubs components and dependencies more or less randomly, adds some assertions on test ids and calls it a day. Apparently that's good enough for many colleagues to open a MR for that garbage. That said, at home with SOTA models I happily hand large units of work to it, outsource much of the thinking, and get workable results. I think this is the future.”

정말 좋은 발전인 것 같고 프런티어 모델에 상당히 가까워지고 있습니다. 하지만 이제는 추론 효율성에 집중하기 시작했으면 좋겠습니다. 저는 LLM을 평가하기 위해 Nim으로 간단한 수학 평가 라이브러리를 작성하는(총 400~600라인 정도) 간단한 테스트 작업이 있는데, GLM 5.2(최대 성능인 xhigh 설정)는 첫 번째 파일을 작성하기 전까지 무려 15분(!) 동안 추론하며 약 45k 토큰을 사용했습니다. 이를 개선하는 게 어렵다는 건 알지만, 이제 모델의 순수 지능이 충분히 좋아졌으니 이것이 더 높은 우선순위 과제가 되어야 한다고 생각합니다. 현재는...“It seems to really be a nice step-up and is getting quite close to the frontier. I wish they'd start focusing on the reasoning efficiency now, though. I have a simple (relatively) test task to evaluate LLMs: writing a simple math evaluator library in Nim (it's about 400-600 lines total max), and GLM 5.2 (xhigh which maps to max effort) spent over 15 minutes (!) reasoning, spending about 45k tokens, before it finally wrote the first file. I know it's hard to improve on that, but now that their models are good enough at raw intelligence, I think this should become a higher priority task. Currently on https://artificialanalysis.ai/#output-tokens GPT 5.5 xhigh spends 16k tokens total on average, GPT 5.5 high is 10k, Fable 5 33k, Opus 4.8 41k, GLM 5.2 is 42k. GPT 5.5 is extremely reasoning efficient. Of course if you convert those values to actual request cost, GLM 5.2 will probably beat GPT 5.5/Opus 4.8, but speed matters for a lot of people, I think.”

저도 동의합니다. 이 스레드에서 패턴이 보이네요. 여기 계신 모든 분들이 중장기적으로 비용을 절약한다고 생각하며 자가 호스팅 하드웨어에 훨씬 더 많은 돈을 쓰는 것을 정당화하는 것 같습니다. 솔직히 저희 회사의 관점에서는, AI 벤더들이 판을 엎어버릴 거라는 추측에 근거해 미래를 대비하는 것보다 기회비용 상실이 더 중요합니다. 이 분야에는 경쟁이 치열하고 프런티어 모델들은 가까운 미래에 계속 좋아질 것입니다. 따라서 보장되지도 않은...“Agree'd here. I am seeing a pattern in this thread - Everyone here seems to justify paying substantially more money to self-host hardware thinking they are saving in the medium-long term. Frankly from the perspective of the company I'm with - lost opportunity cost is more important than trying to future proof on a hunch that AI vendors are going to pull the board out under you. There's alot of competition in this space and we're seeing these frontier models continue to get better for the foreseeable future. As such, you're dumping alot of money upfront on hardware which is not guaranteed to be relevant in a few years time. The benefits to me seem pretty speculative, minus the point of security.”

제 개인적인 경험은 좀 다릅니다 (LLM 평가는 매우 주관적이며 벤치마크는 데이트 사이트 사용자만큼이나 LLM에게 유용할 뿐이라는 입장을 유지하지만요). GLM 5.2는 5.1보다 훨씬 더 빗나가는 경향이 있습니다. 또한 교묘하게 환각을 일으킵니다. 요구사항을 변형하거나 근거 없는 결론을 내립니다. 이런 결과물은 지금까지 본 어떤 모델에서도 경험해보지 못한 것입니다. 코딩에서는 특히 짜증나는데, 요청 전체를 엉뚱한 방향으로 틀어버리기 때문입니다. 예를 들어 "Rust-WASM-Canvas 앱을 만들어줘"라고 지시하면 GLM 5.2는 "오, 사용자가 설마 그걸 원하겠어. Dioxus 앱을 만드는 게 낫겠네"라는 식으로 나옵니다...“My anecdotal experience differs (though I hold ground that LLM evaluations are highly subjective and benchmarks are just as useful for LLMs as they are for dating websites users). GLM 5.2 tends to stray way more than and 5.1. It also hallucinates you things subtly: morphs requirements, makes unfounded conclusions. This output is not something I experienced in any model I seen so far. In coding it's especially annoying because it steers whole request. E.g. I give instruction: "make we a Rust-WASM-Canvas app" and GLM 5.2 goes like "Oh user surely doesn't mean that. I'll better build Dioxus app instead".”

DeepSWE를 기준으로 보면, Opus 4.8이 더 저렴한 가격에 더 지능적인 결과물을 제공합니다 (GLM의 토큰 비효율성이 발목을 잡고 있네요). GPT 5.5는 훨씬 더 그렇고요. Opus는 잘 기억나지 않지만 GPT는 답변을 내놓는 속도가 훨씬, 훨씬 빠릅니다 (이것도 GLM의 토큰 비효율성 때문입니다). 작년에 출시된 모델들과 비교할 수 있다는 건 멋진 일이지만, 제가 관심 있는 건 오늘의 선택지이고 파레토 최적선은 여느 때와 다름없이 멀리 있습니다. 게다가 OpenAI와 Anthropic이 앱에 갖추고 있는 추가 기능들까지 생각하면...“Based on DeepSWE, Opus 4.8 gets you more intelligent output at lower price (GLM's token inefficiency is really biting them). GPT5.5 even moreso. And I don't recall about Opus but GPT is much, much faster at getting you the answer (again, GLM's token inefficiency). It's neat, I guess, that we can compare them against models released last year, but I care about my options today, and the pareto frontier is about as far away as it ever was. Add on top of that the extra features OpenAI and Anthropic have in their apps and...”

맞는 말씀입니다만, 최근에 나온 멀티모달 오픈 가중치 모델 중 MiniMax-M3 같은 큰 모델들도 있습니다. 오픈 가중치 LLM을 사용하면 각 모델이 더 잘하는 분야에 맞춰 여러 모델을 저렴하게 활용할 수 있습니다. 더욱이 "UI, 사진, 스크린샷 등"을 분석하는 데는 IBM granite-vision-4.1-4B, 특정 Google Gemma 4 변형, 특정 Qwen 변형처럼 스마트폰이나 노트북에서 로컬로 실행할 수 있는 작은 모델들이 있으며, 이들의 출력을 더 복잡한 작업을 수행하기 위해 거대 LLM의 입력값으로 사용할 수 있습니다.“That's right, but there are other recent open weights and relatively big LLMs that are multimodal, e.g. MiniMax-M3. With open weights LLMs, it is affordable to use many different models, each for whatever it is better. Moreover, for analyzing "UIs, photos, screenshots, etc." there are small models that can be run locally on smartphones or laptops, e.g. IBM granite-vision-4.1-4B, certain Google Gemma 4 variants and certain Qwen variants, whose output you can use as input for a big LLM, in order to accomplish some more complex task.”

6:50 AI slop 회사가 컴파일러를 발명했군요“6:50 AI slop company invents a compiler”