最近看了 Cory Doctorow 聊 AI 與 enshittification 時代的討論我最大的感受不是“AI 太危險”而是“大量技術工具正在被用到最省事、最不負責的地方”。enshittification 這個詞是他提出的直白說就是平臺或內容生態一步步變差先討好用戶再討好商家最后收割所有人。放到 AI 時代這個問題沒有減弱反而被內容生產成本的斷崖式下降放大了。這篇不是純觀點文。我想從內容生產和工程落地的角度把三件事拆開AI 到底為什么會加速劣質化普通用戶怎么識別劣質 AI 內容以及做 AI 工具、做產品、寫博客的人怎么避免自己也變成投毒者。先說結論模型本身不壞壞的是使用鏈路里的目標函數和人工審核缺位。你用它來降低創作門檻還是用它來批量生產模板文章結果完全不同。1. 先搞懂 enshittification平臺不是突然變爛的是系統性一步步變爛的1.1 平臺劣化的經典路徑Cory Doctorow 的 enshittification 描述的是一個常見過程平臺早期為了吸引用戶和內容創作者會給出補貼、流量、好用的工具用戶變多之后平臺開始討好商業客戶比如廣告主、商家、付費開發者等兩邊都離不開平臺時平臺就開始提高抽成、壓制長尾內容、把推薦坑位賣給競價最高的人。這個過程不是陰謀而是商業模式的自然演化。平臺要對股東負責要維持增長要找新的收入來源最終都會在“用戶體驗”和“商業變現”之間選擇短期收入。放到內容生態里你會看到這些現象搜索結果里前幾頁越來越多是重復、空泛的文章。推薦系統不再推薦“對你有用但冷門”的內容只推薦“容易讓你點進去停留更久”的內容。客服入口越來越深人工客服越來越難找AI 客服先是攔截再轉接最后問題仍然沒解決。這些現象單獨看都不致命但疊加起來用戶會發現整個網絡變得越來越難用。1.2 AI 時代為什么會被加速AI 模型不直接導致平臺變爛但它把“制造劣質內容”的成本壓到了近乎為零。以前批量寫低質文章需要養寫手、付稿費、做偽原創現在用大模型接口就能批量生成。以前做一張假圖需要設計能力現在輸入提示詞就能出圖。以前做一段營銷話術需要文案策劃現在生成器一晚上能產出幾百版。我自己的感受是2022 年之前在搜索引擎里找技術帖子前幾條大概率能解決大部分問題。到 2024 年之后很多搜索詞下出現了大量結構性相似的頁面。正文格式高度一致、開頭有一段空泛概述、中間堆幾個小標題、結尾來一句“總之……”。這類內容不能說完全錯誤但它沒有信息增量。更麻煩的是這些內容會被搜索引擎索引會被推薦系統抓取會被其他 AI 工具當成訓練語料。于是生成內容進入語料庫語料庫又喂給下一代模型下一代模型繼續生成更模板化的內容。這是一個正反饋循環方向是反的。1.3 真正值得擔心的不是模型能力而是激勵結構我認為做 AI 應用開發、產品經理、內容運營的人應該把注意力從“模型強不強”轉回“激勵結構對不對”。一個客服機器人如果只考核“用戶等了多久才轉人工”它就會把用戶困在自動回復里。一個 AI 寫作工具如果只考核“每天能生成多少篇文章”它就會鼓勵用戶批量刷稿。一個推薦系統如果只考核“點擊率和停留時長”它就會拼命推送情緒化、標題黨的內容。模型不是問題考核指標才是問題。這個問題在 AI 時代不是技術問題而是工程和產品決策問題。2. 三個最容易“AI 劣化”的場景搜索、推薦、客服2.1 搜索場景信息獲取從“找答案”變成“排除噪聲”搜索引擎是最容易被 AI 生成內容污染的環節。原因是搜索本身就是流量分配器。AI 生成的頁面如果覆蓋了熱門長尾詞就可能排在真實答案前面。實際體驗經常是這樣搜一個問題第一條結果是某個 AI 工具生成的聚合摘要看起來很完整但沒有任何來源。點進去之后發現正文里只是換了幾種說法重復同樣的話。真實項目經驗、具體報錯信息、版本差異全都沒有。判斷一個搜索結果是否有信息增量我一般看三點有沒有具體的操作系統、軟件版本、運行環境。有沒有作者實測的過程包括失敗記錄和調整參數。有沒有明確的出處或數據來源。如果三樣都沒有它大概率是 AI 堆出來的模板內容。哪怕它語法通順、結構清晰信息價值也很低。2.2 推薦場景長尾內容正在消失推薦系統的邏輯是預測點擊概率。AI 模型可以把點擊率預測做得越來越準但代價是內容越來越同質化。視頻平臺、內容平臺、電商平臺都有這個趨勢一個題材火了馬上出現大量模仿內容。系統發現這類內容互動率高就會進一步加大推薦。冷門但優質的長尾內容因為初始數據少很少有機會進入推薦池。我遇到過好幾次類似情況想找一個相對冷門的技術方案搜索結果全是入門級教程想找某個特殊業務場景的實戰經驗翻了很多頁都找不到最后只能去 GitHub issue 或者國外論壇手動翻。這不是 AI 本身的問題是“以點擊率為中心”的內容分發機制的問題。做 AI 產品的人如果只盯著數據指標最終會把整個內容生態推向“高點擊但低信息量”的螺旋。2.3 客服場景AI 沒有提升體驗反而增加了溝通成本AI 客服是典型的“看起來效率提升實際操作變差”的案例。企業上線智能客服后確實減少了人工坐席壓力但用戶體驗經常是AI 答非所問轉人工入口隱藏很深人工接入后還要重新描述一遍問題。原因在于很多 AI 客服只接了一個知識庫和一套話術沒有處理復雜問題的能力也沒有“什么時候該主動轉人工”的判斷機制。它優化的目標是“降低成本”而不是“解決問題”。正確做法是設計一條清晰升級鏈路簡單問題AI 直接答給出可驗證的答案。普通問題AI 給出操作步驟并確認用戶是否解決。復雜問題AI 無法確認時直接轉人工并帶上前文摘要。這個升級鏈路看起來簡單但實際很多產品沒做。原因是轉人工需要成本企業不愿意設閾值。結果就是 AI 客服變成了用戶和人工客服之間的屏障。3. 工程視角AI 功能是怎么被“做爛”的3.1 目標函數錯位是根因做 AI 產品時最容易犯的錯誤是只定義“優化目標”卻沒有定義“約束條件”。舉例來說一個 AI 寫作助手優化目標是“生成速度”和“文字通順度”約束條件應該是“事實正確性”和“信息增量”。但實際工程里事實正確性很難自動評估于是團隊往往只做可衡量的部分。最后交付的產品是速度快、通順、但經常說空話。做 AI 內容審核也有類似問題。如果審核目標是“分類準確率”模型會傾向于把模棱兩可的內容分到高頻類別里因為這樣損失函數最小。至于那條內容是否真的合適模型不知道也不負責。所以在設計 AI 功能時我建議把目標拆成兩半優化目標 失敗約束。寧可功能保守一點也不能讓錯誤輸出直接流向用戶。3.2 反饋循環AI 內容正在污染下一代訓練數據工程上還有一個容易被忽視的問題AI 生成內容會回流到訓練語料里。你不用刻意去爬只要把公開網頁作為訓練語料里面一定已經有大量 AI 生成文本。2023 年之后上線的很多內容型網站大部分長文都是工具輔助生成的。這些內容會被下一輪訓練的模型學習于是模型會越來越傾向于輸出“看起來正確但缺少實質”的文本。這個循環一旦啟動很難停止。個體只能盡量避免自己成為污染源平臺需要做數據清洗判斷內容是否包含真實來源模型團隊需要保留原始人工語料的快照。實際做的時候我見過比較有效的方法是對爬取語料做“來源分級”只優先使用自帶數據、技術文檔、學術論文和經過審核的百科內容。3.3 護欄缺失生成管線跑通了但沒人檢查輸出很多 AI Agent 項目跑起來之后問題不是模型不會答而是沒有人檢查它答完的結果。我見過這樣的調用鏈用戶輸入問題Agent 拆解任務調用多個 API匯總答案最終直接展示給用戶。如果中間任何一步拿到了錯誤信息最終答案也跟著錯。出錯時沒有日志沒有溯源沒有人工標記。用戶反饋錯誤后產品人員也不知道是模型問題、Prompt 問題、API 參數問題還是知識庫問題。要避免這種情況工程上至少要加這幾層護欄輸出溯源每條關鍵輸出都要關聯來源或依據。日志記錄記錄 Prompt、模型版本、參數、耗時、結果摘要。人審兜底高風險場景必須有人工審核環節。版本回退新模型上線后如果指標下降能快速回退舊版本。這些不復雜但很容易被省略。省掉的后果是功能可以上線但出錯時你完全不知道哪里出了問題。時間久了用戶對產品的信任也會被透支。4. 負責任地使用 AI從單條任務到批量生產都應該有質量門禁4.1 個人使用AI 寫作、AI 繪畫、AI 編程都要保留人工確認環節我自己用 AI 工具的經驗是可以把 AI 當成高效的初稿生成器但不能把 AI 當作最終審核人。寫作場景我會先用 AI 生成大綱和初稿然后逐段修改補充真實經歷、具體參數和可復現步驟。因為我清楚AI 不太可能知道我踩過的坑也不可能自動獲得我的項目背景。它只能把語言組織得通順價值部分必須我來補。繪畫和視頻生成場景我會先做小尺寸樣例檢查文字是否正確、人物比例是否正常、內容是否合適。不要一上來就生成多張高分辨率圖片既浪費資源也容易在批量生成后才發現風格不一致。AI 編程場景也是一樣。AI 補全的代碼直接跑很容易出現看似合理但邏輯錯誤的情況。我會先看生成的函數是否被調用邊界條件是否處理是否有安全風險然后再放進項目里。尤其是涉及權限、支付、數據刪除的代碼不能盲目相信自動生成。保留人工確認環節不是效率低下而是對輸出質量負責。4.2 團隊協作建立內容質量門禁而不是只考核產量如果團隊要做內容生產系統建議把流程拆成五段選題規劃明確內容主題、目標讀者、預期信息增量。生成階段AI 負責產出初稿或素材可重復迭代。審核階段人工檢查事實、來源、邏輯、風格。發布階段確認標題、標簽、摘要是否與正文一致。反饋階段看用戶評論、閱讀時長、搜索來源回填到選題庫。很多團隊只做了第一、二、四步跳過了審核階段。短期看產量上去了長期看賬號的信任度會下降。搜索引擎會降權用戶會養成“看到這個站點就跳過”的習慣。質量門禁具體怎么做可以用一個簡單檢查表文章來源是否標注了作者或機構。事實來源關鍵數據、引用是否需要外部佐證。時間信息內容是否有明確日期或版本。信息增量與搜索結果前三頁相比有沒有新的角度或細節。格式檢查標題、代碼塊、圖片是否完整。檢查表不一定要全過但至少要讓審核人有一個統一的判斷標準而不是憑感覺。4.3 工程系統批量任務要設計失敗重試、日志和人工審核隊列做 AI 批量任務時很多人只考慮“能不能跑完”不考慮“結果如何被消費”。這會埋雷。批量生成內容如果直接跑 1000 條而不看前 100 條的質量最后很可能是 1000 條廢稿。正確順序是先用 5 到 10 條小樣本驗證參數。檢查輸出格式、語義、長度、質量分布。再擴大到 100 條左右重點觀察失敗率和異常類型。最后才跑全量并保留日志和中間產物。批量任務還需要考慮輸出命名和斷點續跑。如果中斷了能不能從上次位置繼續如果某條失敗是跳過還是重試任務結束后人工該去哪個目錄抽查結果這些問題看起來瑣碎但真正影響系統是否可用。我自己踩過的坑是批量生成了大量文件沒有唯一標識最后無法把錯誤數據和原始輸入對應上。后來改成每條任務都帶任務 ID并且輸出文件名包含輸入源和時間戳問題才解決。注意批量生產類任務永遠不要只做“成功/失敗”統計。要看成功樣本里的質量分布。即便 99% 任務不報錯也可能有大量低質量輸出混在里面。5. 識別 AI 垃圾內容一套可復用的排查鏈路5.1 文本內容的特征AI 生成的文本雖然越來越像真人但某些特征還是可以通過人工快速識別大量使用“首先、其次、最后、總之”一類連接詞。每個小節字數均勻像填充出來的。缺少具體的版本號、報錯信息、時間節點、真實場景。關鍵結論沒有來源也沒有上下文限制。同一關鍵詞反復出現句式高度模板化。這些特征單獨出現時可能只是寫作習慣但多數同時出現時內容大概率是 AI 直接生成的。5.2 圖片和視頻內容的特征AI 生成的圖片通常會在細節上露出破綻比如文字邊緣模糊、手指數量不對、物品結構不合理。視頻的問題更隱蔽常見的是畫面過度平滑、人物動作不自然、口型和語音不同步。但要注意AI 生成工具在快速進步靠肉眼識別越來越不可靠。所以在內容平臺判斷一張圖或一段視頻是否可信我更建議看上下文是否有明確作者和拍攝/制作時間。是否標注了 AI 生成或合成。內容本身是否涉及關鍵事實比如新聞事件、產品發布、技術演示。是否有交叉驗證的信息來源。如果是關鍵事實信息哪怕畫面很真實也應該找第二來源確認。5.3 作為用戶我應該按什么順序排查一條內容的可信度我自己會按這個順序來看先看時間內容有沒有日期是否已經過時。再看來源是官方網站、原文鏈接還是個人博客轉載。然后看作者有沒有真實署名是否有相關背景。接著看細節有沒有具體的版本號、代碼、配置、實驗數據。最后看結論是否給出條件和邊界而不是把話說死。如果一條內容經過這五步仍然站得住那它對我就有價值。如果第一二步就不過關我基本上會直接忽略。5.4 作為創作者怎么避免被誤傷為“AI 垃圾內容”現在很多平臺和搜索引擎都在做 AI 內容識別。如果你認真寫內容卻被系統誤判為批量生成體驗是很差的。我的建議是在正文里保留必要的上下文包括你的使用場景、環境版本、遇到的問題。不刻意消除寫作痕跡。有些口語化表達、短句、個人判斷反而是可信度信號。注明參考來源尤其是使用 AI 輔助生成時可以補充說明哪些部分由 AI 生成哪些經過人工驗證。避免把同一個文章模板套用到多個主題保持每篇的差異化。注意不要為了“反 AI 檢測”去刻意打亂句式或者插入無關符號。真正值得做的是讓內容更具信息增量而不是通過奇怪的排版騙過機器。6. 我更愿意怎么看待“AI 與 enshittification 時代”聊到這里很多人可能會覺得那是不是意味著 AI 不值得用我的看法不是這樣。AI 是一個可以把個體能力放大很多倍的工具但它沒有改變一個基本道理你要對最終交付的東西負責。寫代碼你要對運行結果負責寫文章你要對讀者影響負責做產品你要對用戶長期價值負責。如果你把 AI 的輸出直接當作最終結果那你其實是在用工具逃避責任。我做內容、做 AI 應用項目的經驗是凡是把“人工審核”和“質量約束”前置到流程里的最后結果普遍穩定。這包括 AI 客服的轉人工策略、AI 寫作輔助工具中的來源核對、AI Agent 里的日志和降級鏈路。功能可以簡單但責任鏈不能斷。所以面對這個時代的正確姿勢不是站在旁邊批評 AI 生成內容太多而是先把自己手頭的事情做干凈。寫博客的人多寫真實經歷少堆模板話做工具的人在設計流程時就把審核和溯源放進去用 AI 提效的人把省下來的時間花在復查和質量提升上。環境變爛不是問題問題是有沒有人在關鍵環節守住底線。技術會繼續進化但內容是否有價值、產品是否對用戶負責始終要靠人來做決定。