流式输出:打字机效应背后的秘密与 Go 实战

流式输出:打字机效应背后的秘密与 Go 实战 大家好,我是极客老墨。 你有没有注意到,ChatGPT 的回答从来不是"啪"地一下全部出现,而是一个字、一个词地慢慢冒出来? ...

2026-07-03 · 6 分钟 · 2801 字 · 老墨

大模型如何"记住"你说过的话:多轮对话机制与 Go 实操

大模型如何"记住"你说过的话:多轮对话机制与 Go 实操 大家好,我是极客老墨。 我刚开始做 AI 应用的时候,有个直觉假设:“模型后台应该有个数据库,记住了我的聊天记录。“后来才发现完全不是这么回事。 ...

2026-06-27 · 9 分钟 · 4251 字 · 老墨

开发者如何接管大模型:API 调用逻辑深度拆解

开发者如何接管大模型:API 调用逻辑深度拆解 大家好,我是极客老墨。 做大模型开发,最爽的一点就在于:你不需要懂怎么训练模型,你只需要懂怎么把它”接管”进你的业务系统。 ...

2026-06-24 · 8 分钟 · 3900 字 · 老墨

大模型 API 核心参数:调对了事半功倍,调错了钱打水漂

大模型 API 核心参数:调对了事半功倍,调错了钱打水漂 大家好,我是极客老墨。 我刚开始接大模型 API 时,最容易犯的毛病就是把所有问题都往 prompt 上推。输出不稳定,先改 prompt;JSON 解析失败,继续改 prompt;账单涨了,还想着是不是 prompt 不够精简。改到最后,prompt 越写越长,接口却还是像没装仪表盘的车,能跑,但不知道哪里在烧钱、哪里在抖。 ...

2026-06-17 · 22 分钟 · 11006 字 · 老墨

Token 是什么:大模型计费和上下文管理的底层逻辑

Token是怎么来的:大模型计费和上下文管理的底层逻辑 大家好,我是极客老墨。 上一篇讲大模型工作原理时,Token 出现了很多次。这一篇专门把它讲透——不是因为概念难,而是因为它的每一个细节都直接影响你的 API 账单和代码行为。 ...

2026-06-13 · 10 分钟 · 4591 字 · 老墨

2026马年春节,我用AI帮我写了一个嘴替小程序

春节回家,最怕的是什么?不是堵车,不是抢票,而是亲戚的灵魂拷问。 “工资多少啊?” “有对象了吗?” “什么时候买房?” ...

2026-02-20 · 8 分钟 · 3821 字 · 老墨

EP00 - DeepSeek R1 本地部署实战 (Mac篇)

EP00 - DeepSeek R1 本地部署实战 (Mac篇) 摘要: 别被几万块的显卡劝退。你的 MacBook Pro (Apple Silicon) 就是跑 DeepSeek R1 的神器。本文手把手教你用 Ollama 在本地跑起“满血版”推理模型,不仅免费,而且隐私绝对安全。 ...

2026-02-03 · 5 分钟 · 2485 字 · 老墨