最近看了 Cory Doctorow 聊 AI 与 enshittification 时代的讨论我最大的感受不是“AI 太危险”而是“大量技术工具正在被用到最省事、最不负责的地方”。enshittification 这个词是他提出的直白说就是平台或内容生态一步步变差先讨好用户再讨好商家最后收割所有人。放到 AI 时代这个问题没有减弱反而被内容生产成本的断崖式下降放大了。这篇不是纯观点文。我想从内容生产和工程落地的角度把三件事拆开AI 到底为什么会加速劣质化普通用户怎么识别劣质 AI 内容以及做 AI 工具、做产品、写博客的人怎么避免自己也变成投毒者。先说结论模型本身不坏坏的是使用链路里的目标函数和人工审核缺位。你用它来降低创作门槛还是用它来批量生产模板文章结果完全不同。1. 先搞懂 enshittification平台不是突然变烂的是系统性一步步变烂的1.1 平台劣化的经典路径Cory Doctorow 的 enshittification 描述的是一个常见过程平台早期为了吸引用户和内容创作者会给出补贴、流量、好用的工具用户变多之后平台开始讨好商业客户比如广告主、商家、付费开发者等两边都离不开平台时平台就开始提高抽成、压制长尾内容、把推荐坑位卖给竞价最高的人。这个过程不是阴谋而是商业模式的自然演化。平台要对股东负责要维持增长要找新的收入来源最终都会在“用户体验”和“商业变现”之间选择短期收入。放到内容生态里你会看到这些现象搜索结果里前几页越来越多是重复、空泛的文章。推荐系统不再推荐“对你有用但冷门”的内容只推荐“容易让你点进去停留更久”的内容。客服入口越来越深人工客服越来越难找AI 客服先是拦截再转接最后问题仍然没解决。这些现象单独看都不致命但叠加起来用户会发现整个网络变得越来越难用。1.2 AI 时代为什么会被加速AI 模型不直接导致平台变烂但它把“制造劣质内容”的成本压到了近乎为零。以前批量写低质文章需要养写手、付稿费、做伪原创现在用大模型接口就能批量生成。以前做一张假图需要设计能力现在输入提示词就能出图。以前做一段营销话术需要文案策划现在生成器一晚上能产出几百版。我自己的感受是2022 年之前在搜索引擎里找技术帖子前几条大概率能解决大部分问题。到 2024 年之后很多搜索词下出现了大量结构性相似的页面。正文格式高度一致、开头有一段空泛概述、中间堆几个小标题、结尾来一句“总之……”。这类内容不能说完全错误但它没有信息增量。更麻烦的是这些内容会被搜索引擎索引会被推荐系统抓取会被其他 AI 工具当成训练语料。于是生成内容进入语料库语料库又喂给下一代模型下一代模型继续生成更模板化的内容。这是一个正反馈循环方向是反的。1.3 真正值得担心的不是模型能力而是激励结构我认为做 AI 应用开发、产品经理、内容运营的人应该把注意力从“模型强不强”转回“激励结构对不对”。一个客服机器人如果只考核“用户等了多久才转人工”它就会把用户困在自动回复里。一个 AI 写作工具如果只考核“每天能生成多少篇文章”它就会鼓励用户批量刷稿。一个推荐系统如果只考核“点击率和停留时长”它就会拼命推送情绪化、标题党的内容。模型不是问题考核指标才是问题。这个问题在 AI 时代不是技术问题而是工程和产品决策问题。2. 三个最容易“AI 劣化”的场景搜索、推荐、客服2.1 搜索场景信息获取从“找答案”变成“排除噪声”搜索引擎是最容易被 AI 生成内容污染的环节。原因是搜索本身就是流量分配器。AI 生成的页面如果覆盖了热门长尾词就可能排在真实答案前面。实际体验经常是这样搜一个问题第一条结果是某个 AI 工具生成的聚合摘要看起来很完整但没有任何来源。点进去之后发现正文里只是换了几种说法重复同样的话。真实项目经验、具体报错信息、版本差异全都没有。判断一个搜索结果是否有信息增量我一般看三点有没有具体的操作系统、软件版本、运行环境。有没有作者实测的过程包括失败记录和调整参数。有没有明确的出处或数据来源。如果三样都没有它大概率是 AI 堆出来的模板内容。哪怕它语法通顺、结构清晰信息价值也很低。2.2 推荐场景长尾内容正在消失推荐系统的逻辑是预测点击概率。AI 模型可以把点击率预测做得越来越准但代价是内容越来越同质化。视频平台、内容平台、电商平台都有这个趋势一个题材火了马上出现大量模仿内容。系统发现这类内容互动率高就会进一步加大推荐。冷门但优质的长尾内容因为初始数据少很少有机会进入推荐池。我遇到过好几次类似情况想找一个相对冷门的技术方案搜索结果全是入门级教程想找某个特殊业务场景的实战经验翻了很多页都找不到最后只能去 GitHub issue 或者国外论坛手动翻。这不是 AI 本身的问题是“以点击率为中心”的内容分发机制的问题。做 AI 产品的人如果只盯着数据指标最终会把整个内容生态推向“高点击但低信息量”的螺旋。2.3 客服场景AI 没有提升体验反而增加了沟通成本AI 客服是典型的“看起来效率提升实际操作变差”的案例。企业上线智能客服后确实减少了人工坐席压力但用户体验经常是AI 答非所问转人工入口隐藏很深人工接入后还要重新描述一遍问题。原因在于很多 AI 客服只接了一个知识库和一套话术没有处理复杂问题的能力也没有“什么时候该主动转人工”的判断机制。它优化的目标是“降低成本”而不是“解决问题”。正确做法是设计一条清晰升级链路简单问题AI 直接答给出可验证的答案。普通问题AI 给出操作步骤并确认用户是否解决。复杂问题AI 无法确认时直接转人工并带上前文摘要。这个升级链路看起来简单但实际很多产品没做。原因是转人工需要成本企业不愿意设阈值。结果就是 AI 客服变成了用户和人工客服之间的屏障。3. 工程视角AI 功能是怎么被“做烂”的3.1 目标函数错位是根因做 AI 产品时最容易犯的错误是只定义“优化目标”却没有定义“约束条件”。举例来说一个 AI 写作助手优化目标是“生成速度”和“文字通顺度”约束条件应该是“事实正确性”和“信息增量”。但实际工程里事实正确性很难自动评估于是团队往往只做可衡量的部分。最后交付的产品是速度快、通顺、但经常说空话。做 AI 内容审核也有类似问题。如果审核目标是“分类准确率”模型会倾向于把模棱两可的内容分到高频类别里因为这样损失函数最小。至于那条内容是否真的合适模型不知道也不负责。所以在设计 AI 功能时我建议把目标拆成两半优化目标 失败约束。宁可功能保守一点也不能让错误输出直接流向用户。3.2 反馈循环AI 内容正在污染下一代训练数据工程上还有一个容易被忽视的问题AI 生成内容会回流到训练语料里。你不用刻意去爬只要把公开网页作为训练语料里面一定已经有大量 AI 生成文本。2023 年之后上线的很多内容型网站大部分长文都是工具辅助生成的。这些内容会被下一轮训练的模型学习于是模型会越来越倾向于输出“看起来正确但缺少实质”的文本。这个循环一旦启动很难停止。个体只能尽量避免自己成为污染源平台需要做数据清洗判断内容是否包含真实来源模型团队需要保留原始人工语料的快照。实际做的时候我见过比较有效的方法是对爬取语料做“来源分级”只优先使用自带数据、技术文档、学术论文和经过审核的百科内容。3.3 护栏缺失生成管线跑通了但没人检查输出很多 AI Agent 项目跑起来之后问题不是模型不会答而是没有人检查它答完的结果。我见过这样的调用链用户输入问题Agent 拆解任务调用多个 API汇总答案最终直接展示给用户。如果中间任何一步拿到了错误信息最终答案也跟着错。出错时没有日志没有溯源没有人工标记。用户反馈错误后产品人员也不知道是模型问题、Prompt 问题、API 参数问题还是知识库问题。要避免这种情况工程上至少要加这几层护栏输出溯源每条关键输出都要关联来源或依据。日志记录记录 Prompt、模型版本、参数、耗时、结果摘要。人审兜底高风险场景必须有人工审核环节。版本回退新模型上线后如果指标下降能快速回退旧版本。这些不复杂但很容易被省略。省掉的后果是功能可以上线但出错时你完全不知道哪里出了问题。时间久了用户对产品的信任也会被透支。4. 负责任地使用 AI从单条任务到批量生产都应该有质量门禁4.1 个人使用AI 写作、AI 绘画、AI 编程都要保留人工确认环节我自己用 AI 工具的经验是可以把 AI 当成高效的初稿生成器但不能把 AI 当作最终审核人。写作场景我会先用 AI 生成大纲和初稿然后逐段修改补充真实经历、具体参数和可复现步骤。因为我清楚AI 不太可能知道我踩过的坑也不可能自动获得我的项目背景。它只能把语言组织得通顺价值部分必须我来补。绘画和视频生成场景我会先做小尺寸样例检查文字是否正确、人物比例是否正常、内容是否合适。不要一上来就生成多张高分辨率图片既浪费资源也容易在批量生成后才发现风格不一致。AI 编程场景也是一样。AI 补全的代码直接跑很容易出现看似合理但逻辑错误的情况。我会先看生成的函数是否被调用边界条件是否处理是否有安全风险然后再放进项目里。尤其是涉及权限、支付、数据删除的代码不能盲目相信自动生成。保留人工确认环节不是效率低下而是对输出质量负责。4.2 团队协作建立内容质量门禁而不是只考核产量如果团队要做内容生产系统建议把流程拆成五段选题规划明确内容主题、目标读者、预期信息增量。生成阶段AI 负责产出初稿或素材可重复迭代。审核阶段人工检查事实、来源、逻辑、风格。发布阶段确认标题、标签、摘要是否与正文一致。反馈阶段看用户评论、阅读时长、搜索来源回填到选题库。很多团队只做了第一、二、四步跳过了审核阶段。短期看产量上去了长期看账号的信任度会下降。搜索引擎会降权用户会养成“看到这个站点就跳过”的习惯。质量门禁具体怎么做可以用一个简单检查表文章来源是否标注了作者或机构。事实来源关键数据、引用是否需要外部佐证。时间信息内容是否有明确日期或版本。信息增量与搜索结果前三页相比有没有新的角度或细节。格式检查标题、代码块、图片是否完整。检查表不一定要全过但至少要让审核人有一个统一的判断标准而不是凭感觉。4.3 工程系统批量任务要设计失败重试、日志和人工审核队列做 AI 批量任务时很多人只考虑“能不能跑完”不考虑“结果如何被消费”。这会埋雷。批量生成内容如果直接跑 1000 条而不看前 100 条的质量最后很可能是 1000 条废稿。正确顺序是先用 5 到 10 条小样本验证参数。检查输出格式、语义、长度、质量分布。再扩大到 100 条左右重点观察失败率和异常类型。最后才跑全量并保留日志和中间产物。批量任务还需要考虑输出命名和断点续跑。如果中断了能不能从上次位置继续如果某条失败是跳过还是重试任务结束后人工该去哪个目录抽查结果这些问题看起来琐碎但真正影响系统是否可用。我自己踩过的坑是批量生成了大量文件没有唯一标识最后无法把错误数据和原始输入对应上。后来改成每条任务都带任务 ID并且输出文件名包含输入源和时间戳问题才解决。注意批量生产类任务永远不要只做“成功/失败”统计。要看成功样本里的质量分布。即便 99% 任务不报错也可能有大量低质量输出混在里面。5. 识别 AI 垃圾内容一套可复用的排查链路5.1 文本内容的特征AI 生成的文本虽然越来越像真人但某些特征还是可以通过人工快速识别大量使用“首先、其次、最后、总之”一类连接词。每个小节字数均匀像填充出来的。缺少具体的版本号、报错信息、时间节点、真实场景。关键结论没有来源也没有上下文限制。同一关键词反复出现句式高度模板化。这些特征单独出现时可能只是写作习惯但多数同时出现时内容大概率是 AI 直接生成的。5.2 图片和视频内容的特征AI 生成的图片通常会在细节上露出破绽比如文字边缘模糊、手指数量不对、物品结构不合理。视频的问题更隐蔽常见的是画面过度平滑、人物动作不自然、口型和语音不同步。但要注意AI 生成工具在快速进步靠肉眼识别越来越不可靠。所以在内容平台判断一张图或一段视频是否可信我更建议看上下文是否有明确作者和拍摄/制作时间。是否标注了 AI 生成或合成。内容本身是否涉及关键事实比如新闻事件、产品发布、技术演示。是否有交叉验证的信息来源。如果是关键事实信息哪怕画面很真实也应该找第二来源确认。5.3 作为用户我应该按什么顺序排查一条内容的可信度我自己会按这个顺序来看先看时间内容有没有日期是否已经过时。再看来源是官方网站、原文链接还是个人博客转载。然后看作者有没有真实署名是否有相关背景。接着看细节有没有具体的版本号、代码、配置、实验数据。最后看结论是否给出条件和边界而不是把话说死。如果一条内容经过这五步仍然站得住那它对我就有价值。如果第一二步就不过关我基本上会直接忽略。5.4 作为创作者怎么避免被误伤为“AI 垃圾内容”现在很多平台和搜索引擎都在做 AI 内容识别。如果你认真写内容却被系统误判为批量生成体验是很差的。我的建议是在正文里保留必要的上下文包括你的使用场景、环境版本、遇到的问题。不刻意消除写作痕迹。有些口语化表达、短句、个人判断反而是可信度信号。注明参考来源尤其是使用 AI 辅助生成时可以补充说明哪些部分由 AI 生成哪些经过人工验证。避免把同一个文章模板套用到多个主题保持每篇的差异化。注意不要为了“反 AI 检测”去刻意打乱句式或者插入无关符号。真正值得做的是让内容更具信息增量而不是通过奇怪的排版骗过机器。6. 我更愿意怎么看待“AI 与 enshittification 时代”聊到这里很多人可能会觉得那是不是意味着 AI 不值得用我的看法不是这样。AI 是一个可以把个体能力放大很多倍的工具但它没有改变一个基本道理你要对最终交付的东西负责。写代码你要对运行结果负责写文章你要对读者影响负责做产品你要对用户长期价值负责。如果你把 AI 的输出直接当作最终结果那你其实是在用工具逃避责任。我做内容、做 AI 应用项目的经验是凡是把“人工审核”和“质量约束”前置到流程里的最后结果普遍稳定。这包括 AI 客服的转人工策略、AI 写作辅助工具中的来源核对、AI Agent 里的日志和降级链路。功能可以简单但责任链不能断。所以面对这个时代的正确姿势不是站在旁边批评 AI 生成内容太多而是先把自己手头的事情做干净。写博客的人多写真实经历少堆模板话做工具的人在设计流程时就把审核和溯源放进去用 AI 提效的人把省下来的时间花在复查和质量提升上。环境变烂不是问题问题是有没有人在关键环节守住底线。技术会继续进化但内容是否有价值、产品是否对用户负责始终要靠人来做决定。