今天是2026年9月4日,星期五。早上整理这期AI资讯早报的时候,我特意翻了一下这一周社区、开源圈和几个技术社群里讨论最密集的话题,发现大家的关注点正在悄悄发生变化。去年这时候,几乎所有人都在追模型参数、刷榜单,争论哪个大模型又“屠榜”了;而这一周我看到的明显信号是——AI Agent的工程化、模型部署的性价比、AI编程工具的深度使用,以及产品经理和测试工程师这些角色怎么适应AI协作,成了真正被反复拿出来讨论的事情。

这其实是个好事。说明这个领域正在从“看热闹”过渡到“做实事”的阶段。今天这期早报,我不打算给你堆一堆耸人听闻的标题,而是把这一周值得关注的方向、我自己的实测感受,以及踩过的坑、总结出的方法,尽量说人话地整理给你。无论你是做开发、做产品、做设计,还是单纯想用AI工具提效,应该都能从里面找到点有用的东西。

1. 今日简报:五条值得花三分钟看的AI要闻

先说结论。这一周如果只让你记五件事,我觉得是下面这五件。

第一,AI Agent的热度还在涨,但讨论重心已经从“Agent能做什么”彻底转向了“Agent怎么稳定落地”。社区里大量帖子都在聊工具调用失败、上下文越搞越乱、多步任务跑到一半就“失忆”这类问题。说白了,Agent的demo人人都能写,但真到了生产环境,工程化难度比想象中大不少。

第二,AI编程工具进入“深水区”。单说补全代码、写单元测试已经没人觉得新鲜了,这周值得关注的是,AI编程开始向代码审查、重构建议、跨文件修改、自动修复CI报错这些环节渗透。很多团队已经在把AI编程助手当成“结对程序员”,而不只是“高级自动补全”。

第三,模型部署和AI基础设施(Infra)成了新的瓶颈。社区里越来越多人在问:模型选型容易,但GPU成本怎么控制?推理延迟怎么降?量化之后效果损失多少?甚至有人开玩笑说,“炼丹”已经不难了,难的是把炉子烧得便宜又稳定。

第四,AI视频和AI短剧的制作流程已经跑通了一条相对完整的链路,但商业化依然在早期。分镜脚本、文生视频、数字人配音、自动剪辑,这套流程已经能出“能看”的东西,可一旦要稳定产出“好看”的内容,还是绕不开人工反复调优。想做这个方向的朋友,要有心理准备。

第五,提示词工程正在从“写咒语”变成“写规范”。这周我看到的几个高赞分享,基本都不再是玄学式的“魔法提示词”,而是结构化模板、Few-shot示例、输出格式约束、评估指标这套工程化方法。提示词本身还是很值钱的,但值钱的方式变了。

这五条是我从几十个信息源里筛出来,觉得对大多数人最有参考价值的。下面几节,我挑其中几条展开说说。

2. Agent不是概念,是工程问题

这一周我看过的关于AI Agent最扎心的一句话,是一位做AI Infra的朋友说的:“Agent的demo是AI写的,Agent的生产代码是人写的。”话虽然极端,但确实点出了现在的真实状态。

2.1 大家都在聊的Agent,到底卡在哪

如果你自己写过Agent,一定会遇到这几个让人头大的问题。

第一个是工具调用的可靠性。模型知道要调用工具,也知道该传什么参数,但十次里总有一两次传错、漏传、或者在一个无关紧要的参数上反复纠结。尤其是多工具场景,模型像极了第一次进厨房的新手,明明菜谱写得很清楚,还是会把盐和糖搞混。

第二个是记忆管理。上下文窗口再大,也架不住多轮任务里塞进一堆中间结果。我见过最典型的场景是:Agent执行一个五步任务,到第三步的时候已经忘了第一步的约束条件,于是后面的动作全跑偏了。有人靠把关键信息“回写”到固定的摘要里来解决,有人干脆每步都把关键状态重新塞进上下文,但成本又上去了。

第三个是成本失控。一个看起来简单的任务,模型内部可能要多轮“思考”,每轮都要传一次历史上下文,Token消耗翻好几倍。这一周我看到好几个帖子在晒账单:一个Agent任务跑完,花了普通对话几十倍的钱,效果还不一定更好。

所以我的判断是:Agent真正的难点不在“让模型理解任务”,而在“让模型稳定地完成一连串任务”。前者是模型能力问题,后者是工程问题。

2.2 我看到几个值得借鉴的工程实践

针对上面这些卡点,这周社区里讨论最多的几个解法,我觉得很靠谱。

第一个做法是 把任务拆小 。不要指望一个Agent干完所有事,而是拆成一连串小的、单一职责的子任务,每个子任务由独立的Agent或独立的Prompt负责。就像工厂流水线,每个工位只做一个动作,出错概率自然低。

第二个做法是 把决策写死,而不是交给模型自由发挥 。很多场景根本不需要模型“聪明地”决定下一步做什么,而是用代码把流程定死:如果这一步的返回结果长这样,就走分支A;如果调用失败,就重试最多三次;如果三次都失败,就直接上报人类处理。模型只负责流程中“理解和生成”的部分,决策交给确定的代码逻辑。这个思路这周被反复提起,我实测下来确实能大幅提升稳定性。

第三个做法是 把观测做全 。生产环境里的Agent,如果不记录每一步的输入输出、工具调用结果、Token消耗、耗时,那出了问题就只能抓瞎。这周有位朋友分享的排查经历让我印象很深:他们的Agent在半夜跑批任务时偶发报错,查了好久,最后发现是工具接口在某个时间点返回了一个超长字段,把上下文挤爆了。如果没有完善的日志和追踪,这种问题几乎没法定位。

2.3 实操建议:自己搭一个最小Agent

说再多理论,不如自己动手做个最小的Agent。我建议你从“单任务+单工具”开始,先把链路跑通。

比如,做一个“查天气并生成穿衣建议”的Agent。流程很简单:用户输入城市,Agent调用天气API拿到数据,再把数据拼进一个固定的模板里生成建议。看起来很简单,但你可以在这个小项目里练习几个关键工程点:

  • 给Agent设定严格的输出格式(JSON),方便代码解析。
  • 在调用工具前后都记录日志。
  • 给工具调用加上超时和重试机制。
  • 把“用户说错城市名”这类边缘情况处理掉。

等你把这个小项目跑稳了,再往上叠加多工具、多步骤,会顺手很多。这周好几个刚入门Agent开发的朋友来问我建议,我都是让他们先做这样一个最小闭环。

3. 大模型部署与AI基础设施:真正拉开差距的地方

这周另一个明显趋势是,讨论模型部署和AI Infra的帖子密度明显上升。原因也很直白:模型开源得越来越多,能力差距在缩小,谁都能在Hugging Face上拉下来一个不错的模型;但怎么把它低成本、低延迟地跑起来,服务好真实业务,就成了拉开差距的地方。

3.1 为什么说“炼丹不如部署”

可能有人会觉得,模型部署不就是拉个镜像、起个服务吗?真不是。

举几个实际会遇到的问题。模型参数量一大,推理时的显存占用就不是闹着玩的。一个70B级别的模型,即使用FP16,推理一次也要上百GB显存,单张卡根本放不下。于是你得考虑模型并行、张量并行,或者做量化把精度降到INT8甚至INT4。

量化听着简单,但模型量化之后,生成质量会受损。有些场景能接受,有些场景一测就露馅。这就像把一张高清照片压缩成JPG,肉眼看着还行,但你要拿去做印刷,细节就崩了。

推理延迟也是个坎。跑一个Agent任务,模型可能要连续推理五六次,单次如果就要两三秒,整个任务就是几十秒起步,用户根本等不起。所以很多人开始研究KV Cache、前缀缓存、投机采样这些优化手段。说白了,你需要的不是一台更快的车,而是让车少跑几趟、跑得更顺的调度方案。

3.2 中小团队怎么选部署方案

这一周不少中小团队的朋友在纠结:到底用云API,还是自己部署开源模型?我把自己看到的、聊到的经验整理成了下面这张表,供参考。

维度 云API 私有化部署
上手成本 低,注册就能用 高,需要懂推理框架和运维
单次调用成本 按量付费,高频时成本高 前期投入大,跑满后边际成本低
数据安全 依赖服务商承诺 数据不出内网,合规可控
可控性 受限于服务商限流、版本更新 模型版本、参数、推理策略完全可控
适合场景 快速验证、低频调用 高频调用、数据敏感、深度定制

我的建议是:如果你的业务刚起步,用量还不稳定,老老实实用云API,把时间花在业务上,别一上来就折腾部署。等调用量真的上来了,成本账算不过来了,再考虑私有化或者混合方案。这周我看到不止一个团队,因为“觉得部署很酷”就自建推理服务,结果运维成本比API费用还高。

3.3 我踩过的部署坑

既然说到了部署,我把自己踩过的几个坑也分享一下,免得你再走一遍。

第一个坑是 并发没测就上线 。我用一个开源模型搭了个内部工具,单测的时候响应很快,结果上线后三个人同时用就开始超时。后来才发现,推理框架默认的并发配置很低,而我又没提前压测。现在我的习惯是,任何模型服务上线前,至少做一轮简单的并发脚本测试。

第二个坑是 显存碎片导致的不稳定 。有一次服务跑着跑着突然报OOM(显存溢出),重启就好,但过一阵又犯。排查很久发现是请求长度变化太剧烈,导致显存碎片化严重。后来用了一些显存池化的手段,才稳定下来。

第三个坑是 监控没做全 。推理服务的监控不应该只看CPU和内存,更要看请求延迟分布、Token吞吐量、排队长度。有些问题在平均延迟里根本看不出来,比如P99(99分位延迟)已经飙到用户无法忍受的程度,但平均延迟看着还挺正常。

4. AI创作工具:绘画、视频、短剧的现状复盘

早报当然不能只聊开发和部署,也要聊聊创作者们在关心什么。这周我关注到“AI漫剧制作教程”“AI短剧制作全过程”这类话题的热度一直居高不下,正好也把AI绘画、视频、短剧这三块放在一起做个复盘。

4.1 AI绘画从出图到工作流

大概两年前,大家玩AI绘画还在比谁的提示词写得更花哨;这周我看到的趋势是,单张出图的讨论已经很少了,大家都在聊工作流、批量生产、风格一致性。

什么意思呢?比如你想给一篇连载漫画配图,难点不是生成一张好看的图,而是让所有角色的脸、服装、场景风格保持统一。这就需要用一些固定的角色参考图加上图生图、局部重绘、ControlNet之类的控制手段,把“随机的创造力”摁在“固定的设计框架”里。

这周有位做漫剧的朋友分享了他的流程:先用大模型产出分镜脚本,再为每个主要角色生成固定的参考形象,然后逐镜生成素材,最后人工筛选和微调。一套下来,生产效率比纯人工高了不止一倍,但他说了一句很实在的话:“AI负责把上限抬高,下限还得靠人来兜底。”

4.2 AI视频和短剧,到底做到什么程度了

AI视频这一两年的进步确实快,这周看几个演示视频,生成画面的连贯性已经比以前好很多了。但如果要说用AI做一部完整的短剧,我的判断是:流程已经能跑通,质量还不稳定。

所谓流程能跑通,是指从剧本、分镜、文生视频、数字人配音、背景音乐、剪辑,这一整条链路上都有对应的AI工具能顶上去。我见过有人用AI工具链,几天时间就做出了一条五分钟的短剧样片,单看某个镜头效果很不错。

但质量不稳定是什么意思呢?就是同样的提示词,这次生成出来的画面可能是80分,下次就可能跌到60分。于是做短剧的团队不得不生成大量素材,然后人工挑选。相当于AI画了一百张草图,人类设计师从中挑十张精修。效率有提升,但没有有些人吹的那么神。

如果你打算入局AI短剧,我给你的建议是:别一开始就想做长篇,先试着做一个一分钟以内的小样片,把角色一致性、镜头衔接、配音口型这三个最容易露怯的地方跑通,再考虑扩大规模。

4.3 提示词工程依然是核心竞争力

无论是绘画、视频还是短剧,这周所有高质量分享背后,都绕不开“提示词工程”这四个字。但现在的提示词工程,跟很多人理解的“玄学咒语”已经不是一回事了。

我看到比较靠谱的玩法,都是把一个复杂的创作需求拆成若干可控的小需求,然后用结构化模板去描述。比如:

  • 先定角色:性别、年龄、发型、服装、情绪基调。
  • 再定场景:环境、光线、视角、氛围。
  • 接着定美术风格:写实、二次元、水墨、赛博朋克。
  • 最后定画面控制:构图、镜头运动、关键元素位置。

除此之外,负面提示词也很重要。比如生成人像时,常常会遇到手指畸变、多余肢体这类问题,你会发现在负面提示词里把这些“不想要的东西”明明白白写清楚,比在正面提示词里强调十遍“手要正常”管用得多。

这一周的观察让我越来越确信:提示词工程本质上是一种“用自然语言做产品设计”的能力。你能不能用清晰、准确、无歧义的语言,把你想要的东西传达给一个“极其聪明但缺乏常识”的模型,这就是核心技能。

5. AI职业变化:产品经理和测试工程师正在被迫进化

早报的最后一个观察类话题,聊聊人。这周我在各个社群里看到“AI产品经理”和“AI测试工程师”这两个词的讨论热度都很高。很多人担心被AI取代,但结合我这一周的观察,与其说取代,不如说这些岗位的活儿正在被重新定义。

5.1 产品经理的新工作

以前的产品经理可能要花大量时间写PRD、画原型、排优先级。但有了AI之后,产品经理一个新任务变得非常重要:定义Agent的行为边界。

什么意思呢?比如你做一个智能客服,以前你只需要说清楚“用户问退货怎么办,就引导到退货流程”。现在呢,你需要跟模型或Agent说清楚:哪些问题它可以直接回答,哪些问题必须转人工,遇到用户情绪激动时该用什么语气,如果用户故意诱导它“越狱”该怎么防守。这些东西已经不太像传统的需求文档,而更像一份“行为规范说明书”。

这周我遇到一个做AI产品的朋友,他说自己现在最常干的事,不是画原型,而是“调教” Agent的提示词和测试集。他还说了一句让我印象很深的话:“以前我们定义功能,现在我们定义规则。”

5.2 测试工程师的新挑战

AI项目的测试,比传统软件测试麻烦得多。传统测试讲究确定性:输入什么,预期输出什么,一一比对就行。但AI模型的输出天生带随机性,同一个问题问两遍,答案可能不一样,而且没有唯一正确的答案。

所以AI测试工程师的重点,慢慢变成了搭 评估集 和 回归测试 。比如,你要上线一个智能问答机器人,你得先准备几百个覆盖各种场景的测试问题,然后定好评估标准:准确率多少算达标?语气是否符合预期?有没有潜在的偏见或违规内容?

这周有个帖子分享了一个惨痛教训:他们的AI功能上线前没做足够的回归测试,结果一次模型升级之后,老用户问同样的问题,竟然给出了和以前完全相反的答案,被用户投诉了一大堆。测试集的重要性,怎么强调都不过分。

5.3 普通人的应对思路

说了这么多岗位的变化,落到我们每个人身上,我觉得有三件事现在就可以开始做。

第一,把AI当成你的“初级同事”。别指望它一次就交给你完美结果,而是学会给它布置任务、检查结果、反馈修改。这个协作过程,本身就是一种新技能。

第二,保持对底层原理的基本理解。不一定要会手写Transformer,但至少得明白Token是什么、上下文窗口是什么、为什么模型会胡说八道。否则你连它出错的原因都猜不到。

第三,建立一个属于自己的“AI工具箱”。每周花点时间试试新工具,记录哪些好用、哪些是噱头。长期积累下来,这份清单就是你个人的竞争力。

6. 我的资讯追踪方法:把碎片信息变成自己的体系

谈到“每日AI资讯早报”,最后跟你分享一下我自己是怎么整理每天的AI信息的。因为做这期早报的时候,也收到不少朋友问:“你每天哪来那么多时间看这些?”

其实我花的时间不算多,关键是方法。

6.1 少看热榜,多看项目

我发现很多人在刷AI资讯时有个误区:喜欢盯热搜榜、热点新闻,今天哪个模型发布了、明天哪个公司融资了,看得热血沸腾,但一周后什么都记不住。

我的习惯是,新闻可以快速扫一眼,但真正值得花时间的,是那些 有代码、有文档、有案例的项目 。同样是看一个Agent框架的消息,看十篇转述的文章,不如自己把官方文档翻一遍、把示例代码跑一遍,哪怕只是跑通一个小例子,收获都比刷帖大得多。

6.2 我的每日信息处理流程

我每天处理信息流的动作基本是固定的,大概三步。

第一步是 筛选 。我订阅的信息源分几类:官方文档和博客、开源社区热门项目、几个高质量技术社群、少量行业媒体。每天抽出半小时,把这几个来源扫一遍。

第二步是 沉淀 。光看不记录等于白看。我会把看到的有价值的东西,用一两句话记到自己的笔记里,附上链接。别小看这一两句话,积累几个月之后,这会成为你判断趋势走向的珍贵素材。

第三步是 输出 。每周我会挑一两个最值得聊的话题,写成深度内容或者做个小分享。这个“输出”的动作,逼迫我把碎片信息重新组织成有逻辑的知识,这是最好的内化方式。

6.3 推荐关注的几个观察维度

最后给你几个我在追踪资讯时常用的“观察维度”,比单纯追热点更有用。

  • 工程实践 :不只看模型本身,多看别人怎么把模型用到真实业务里,踩过什么坑,总结过什么经验。
  • 工具链演进 :关注AI开发工具、部署工具、测试工具的变化。工具链的成熟度,往往比单个模型的能力更能说明行业处在什么阶段。
  • 角色变化 :关注产品、测试、运维这些岗位在AI影响下工作方式的变化,这背后反映的是AI落地的真实深度。
  • 成本曲线 :多留意推理成本、训练成本的变化趋势。很多应用的爆发,不是因为模型变聪明了,而是因为变便宜了。

如果你也能试着从这几个维度去看资讯,你会发现自己的判断力和信息筛选能力会提升不少。

最后再分享一个小技巧。做资讯整理的时候,我习惯在每个月底回头翻一下月初记的那些内容,看看哪些判断应验了,哪些事情一个月后已经没人提了。这个“复盘”的动词很轻,但做下来收获很大,它会不断修正你对这个行业的感觉。今天的早报就到这里,希望对你这一天的决策有点帮助。

Logo

聚焦RDK与具身智能,汇集机器人开发教程、开源案例和技术交流

更多推荐