最近和幾個做AI應用的朋友聊天發現一個挺有意思的現象大家討論的焦點已經從“這個模型能做什么”變成了“我們到底該怎么用它”。是讓它全自動跑還是讓它輔助人是追求極致的無人化還是先讓人能更好地介入和判斷這背后其實是一個更根本的問題我們開發AI最終是為了替代人還是為了增強人斯坦福大學李飛飛教授近期關于“AI應增強人類能動性”的討論恰好點中了這個核心。她強調AI的目標不應是取代人類而應是增強人類的能力、創造力和能動性。這個觀點聽起來很“正確”甚至有些老生常談但在當前AI能力快速迭代、各種“一鍵生成”、“全自動代理”滿天飛的背景下重新審視它卻有著非常現實的工程意義。它提醒我們在追逐技術指標和自動化率的同時不能丟掉對“人”在系統中核心位置的思考。1. 從“自動化”到“增強化”一個被忽視的工程范式轉變當我們談論AI工程實踐時無論是模型部署、應用開發還是Agent設計一個默認的潛臺詞往往是“自動化”。我們追求更快的推理速度、更高的準確率、更長的上下文窗口最終目的似乎都是為了減少人的干預讓機器能“自己跑起來”。這當然沒錯效率提升是技術發展的核心驅動力。但問題在于當我們將“自動化”作為唯一或最高目標時很容易陷入幾個工程陷阱黑盒依賴與失控風險系統越自動化內部決策邏輯就越不透明。當出現一個意料之外的錯誤輸出時比如AI生成了一段不合規的內容開發者很難快速定位是提示詞的問題、模型本身的問題還是數據流的問題。系統成了一個“黑盒”人的調試和干預能力被削弱了。責任歸屬模糊在一個全自動的AI工作流中如果最終結果出了問題責任在誰是提示詞工程師、模型提供方、數據清洗人員還是部署運維增強人類能動性的設計會天然地在關鍵決策點引入人的確認或選擇從而明確責任鏈條。創造力與判斷力的旁路很多創造性或高價值判斷的工作其過程本身比結果更重要。比如產品設計、戰略分析、復雜代碼審查。全自動化的AI可能給出一個“看起來不錯”的方案但卻跳過了人類在思考過程中產生的洞察、權衡和靈感火花。這實際上削弱了人類最核心的能力。李飛飛教授提出的“增強人類能動性”在工程上可以理解為一種范式轉變從追求“取代人的操作”轉向設計“放大人的能力”的系統。這意味著我們的架構設計、交互界面、工作流編排都需要重新思考如何讓人保持在“駕駛位”讓AI扮演一個強大的“副駕駛”或“工具集”提供信息、建議、執行重復勞動但把最終的感知、決策和創造權留給人。2. 增強能動性的三大工程實踐錨點那么在具體的AI項目開發中如何落地“增強能動性”這個理念它不能停留在口號上必須轉化為可設計、可編碼、可測試的工程原則。我認為有三個關鍵的錨點。2.1 設計可解釋與可干預的交互界面一個增強人的系統首先必須是“可讀”和“可寫”的。這直接體現在用戶與AI的交互界面上。過程透明而非只給結果不要只展示AI生成的最終答案。對于重要的任務應該同時提供推理鏈Chain-of-Thought、置信度分數、參考的來源片段如RAG中的引用。例如一個AI輔助法律條文檢索的工具不能只給結論而應該高亮出得出該結論所依據的具體法律條款原文并說明這些條款與當前案例的相關性。這讓人能夠評估AI判斷的合理性。提供“控制桿”和“選擇權”將AI的能力參數化、模塊化暴露給用戶控制。比如在AI繪畫中除了輸入提示詞還應提供風格強度、構圖權重、隨機種子等調節選項在AI代碼生成中可以提供“更保守/更創新”、“更簡潔/更詳細”等模式選擇。這相當于把AI從一個黑箱生成器變成了一個可由人精細調校的樂器。支持漸進式細化與迭代交互應該支持“對話式”或“草稿式”的協作。用戶可以先讓AI生成一個初稿、一個大綱或幾個選項然后在此基礎上提出修改意見“更正式一些”、“第三個方案不錯但把第二部分和第一部分對調”AI再據此迭代。這模仿了人類團隊協作的模式人始終是方向的把控者。工程落地示例在設計一個基于大模型的文檔分析Agent時不要設計成“上傳文檔 - 等待 - 輸出一份分析報告”。更好的方式是AI先輸出一個報告框架目錄。用戶可以選擇深入查看某個章節的詳細分析。AI對每個觀點都附上原文中的證據引用。用戶可以對某個分析點提出質疑或要求補充AI進行針對性重分析。最終報告生成前提供一個所有關鍵結論和引用的確認頁面。2.2 構建人機協同的混合工作流“增強”意味著人和AI各司其職在同一個工作流中協同。我們需要識別出流程中哪些環節適合AI高效處理哪些環節必須由人類主導。AI擅長模式匹配、信息檢索、內容生成、重復性任務執行。例如從海量日志中定位異常模式、從知識庫中快速找到相關案例、根據模板生成代碼草稿、批量處理圖片格式轉換。人類必須主導價值判斷、倫理權衡、創造性構思、復雜問題定義、責任承擔。例如決定商業策略的最終方向、審核AI生成內容是否符合法規與公序良俗、提出全新的產品創意、在模糊情境下做出決策。一個增強能動性的工作流會像接力賽一樣設計交接棒。例如一個智能客服工單處理系統AI第一棒自動分類工單技術問題/賬單咨詢/投訴、提取關鍵實體訂單號、錯誤代碼、從知識庫中檢索標準解決方案草稿。人類交接與決策客服人員收到的是經過AI預處理的工單附帶了分類建議、關鍵信息和解決方案草稿。人員快速審核AI的預處理是否正確并基于草稿進行個性化修改或判斷是否需要升級處理。AI輔助執行人員確認回復方案后AI可以自動填充回復模板或根據人員選擇的語氣正式/親切潤色語言。人類最終發送人員在發送前做最終確認。在這個流程中AI極大地提升了客服人員處理單一工單的效率信息聚合、草稿生成但所有的價值判斷、情感溝通和最終責任仍然牢牢掌握在人類手中。2.3 將評估與調試能力賦予開發者增強能動性不僅針對最終用戶也針對我們這些AI系統的開發者。一個“增強型”的AI開發工具鏈應該讓開發者能更輕松地理解、評估和調試AI組件的行為。超越準確率的評估體系對于生成式AI不能只看BLEU、ROUGE分數。需要建立一套更能反映“是否對人有用”的評估指標例如事實一致性、無害性、指令遵循程度、輸出多樣性等。同時要設計方便的人工評估流程將人的反饋如評分、排序、修正快速納入迭代循環。可觀測性與診斷工具系統需要提供詳細的日志和追蹤Trace功能記錄AI模型在每個步驟的輸入、輸出、中間結果以及調用的工具。當出現問題時開發者能像調試傳統軟件一樣通過追蹤鏈定位是哪個環節的提示詞、數據或模型邏輯出了問題。一些開源項目如LangSmith、Phoenix正在這個方向努力。“提示詞即代碼”的工程實踐將驅動AI的提示詞Prompt視為需要版本管理、測試、評審的代碼。建立提示詞的單元測試驗證給定輸入是否產生期望的輸出或格式、集成測試驗證多步工作流的正確性。這能讓提示詞的迭代更可控減少“玄學調參”。3. 當前熱門AI實踐中的能動性審視結合輸入材料中提及的一些熱點方向我們可以具體分析一下其中“增強能動性”的體現或缺失。AI Agent智能體這是能動性問題的前沿陣地。一個設計良好的Agent應該明確自己的邊界在遇到不確定性高或超出預設范圍的任務時主動向人類尋求指導“請示”而不是自行其是導致潛在風險。它的目標應是高效完成人類指派的具體、明確的任務而不是追求完全自主的“通用智能”。AI編程Cursor, GitHub Copilot這類工具是“增強開發者能動性”的典范。它們不會直接寫完整應用而是在開發者寫下一行注釋或半個函數名時提供代碼補全建議。開發者擁有完全的接受、修改或拒絕的權利。最佳實踐是將其用作“超級聯想工具”和“細節實現助手”而由開發者掌控整體架構和核心邏輯。AI繪畫/視頻/短劇制作在這里能動性體現在“創意引導”而非“創意替代”。AI應該是一個強大的素材生成器和風格化工具幫助創作者將腦海中的畫面快速可視化進行風格探索和迭代。但故事的靈魂、分鏡的構思、情感的傳遞這些核心創作活動必須由人主導。工具應該降低技術門檻而不是降低創意門檻。“無限制”AI聊天與生圖這是一個需要警惕的方向。對“違禁詞”的突破往往伴隨著對內容安全、倫理邊界的挑戰。增強能動性不等于賦予AI無限制的自由而是讓人在合理的、安全的框架內更有效地利用AI的能力。一個負責任的系統應該在增強創造力的同時內置必要的安全護欄和倫理考量這本身也是對用戶和社會的一種保護。模型部署與工程實踐在追求低延遲、高并發的模型服務部署時同樣要考慮能動性。例如在API設計上除了返回生成結果是否可以可選地返回生成過程的token概率分布或注意力權重在流式輸出時是否允許用戶在中途打斷并提供新的指引這些設計都能讓上游應用更好地實現人機協同。4. 從理念到項目一個增強型AI系統的構建清單如果你正在啟動或重構一個AI項目并希望將“增強人類能動性”作為核心原則可以參考以下清單進行設計和評審目標澄清本項目首要目標是提升人的效率、創造力、決策質量還是完全取代某個人工環節項目中哪些環節必須保留人類的最終判斷權、審核權或創意發起權交互設計用戶能否看到AI得出結論的關鍵依據或推理過程用戶是否能在關鍵參數上進行調節以影響AI的輸出風格或傾向工作流是否支持“人類-AI-人類”的多輪交互與迭代而不是一次性輸入輸出工作流設計是否清晰劃分了AI自動化處理的環節和需要人工介入的環節在交接點上是否為人類提供了足夠清晰、結構化的信息AI的初步成果、置信度、備選方案以支持快速決策當AI遇到高不確定性或超出能力范圍的情況時是否有明確的“向上匯報”Escalation機制評估與調試除了傳統準確率指標是否建立了包含有用性、安全性、可控性等維度的評估體系開發者是否擁有足夠的工具來追蹤和診斷AI組件在整個工作流中的行為是否建立了收集和處理人類反饋正面/負面的閉環流程用于持續優化系統倫理與安全系統設計是否考慮了可能的誤用或有害輸出是否有機制防止AI在未經明確指令的情況下自主做出具有重大影響的決策用戶是否清楚了解AI能力的邊界以及自身需要承擔的責任李飛飛教授的觀點之所以在當下尤為重要是因為它為我們狂熱的技術演進提供了一個至關重要的“校準器”。AI的終極價值不在于建造一個能獨立運行的“硅基生命”而在于打造一面更亮的鏡子、一把更快的錘子、一位更博學的伙伴——一切旨在映照、延伸和激發我們自身獨有的智慧、情感與創造力。作為構建者我們的任務不是編寫取代自己的代碼而是設計能夠讓我們飛得更高的翅膀。下一次當你設計AI系統的架構或交互時不妨先問一句這個設計是讓我更接近問題的核心還是讓我更遠離了掌控力