AI正在掀起一場“工作革命”，根據Anthropic公司近日發布的AI經濟指數報告，在軟件開發（37.2%）、藝術文化創作（10.3%）等知識密集型領域，57%的交互呈現"人機協作"特征。但是，在“AI大大增強工作效率”的同時，是否也會對人類知識工作者產生負面影響？

近日，微軟與卡耐基梅隆大學的一項研究發現，生成式人工智能可導致知識工作者的認知和批判思維能力下降。以下為報告內容摘要：

生成式人工智能（Generative AI,GenAI）工具正在迅速滲透知識型工作者的日常工作流程，為他們提供文本生成、數據分析、代碼編寫等各類智能輔助。然而，隨著這類工具的普及，人們開始擔憂它們是否會影響用戶的批判性思維能力。歷史上，每當新技術出現，總會引發關于人類思維能力退化的討論，例如蘇格拉底曾反對書寫，認為它會削弱記憶力，而今天的人工智能則面臨類似的爭議。

微軟的研究通過對319名知識工作者的調查，探討他們在使用GenAI工具時的批判性思維實踐，以及GenAI對他們認知努力的影響。研究發現，知識工作者在使用GenAI時，批判性思維主要表現為信息驗證、內容整合和任務管理，同時用戶對人工智能和自身能力的信心會影響其批判性思維的水平。

研究方法

研究采用在線問卷調查的方式，向319名知識工作者收集了936個真實的GenAI使用案例，并衡量他們在執行這些任務時的批判性思維程度。調查問題圍繞兩個核心研究問題：

• 何時以及如何在GenAI輔助的工作中展現批判性思維？
• 何時以及為何GenAI會影響批判性思維所需的努力程度？

研究采用布魯姆分類法（Bloom’s Taxonomy）對批判性思維活動進行分級，包括知識回憶、理解、應用、分析、綜合和評估六個層面，并通過統計回歸模型分析影響因素。

主要研究發現：

1.知識工作者如何展現批判性思維？

受訪者的批判性思維主要體現在以下三個方面：

• 目標設定與查詢優化：知識工作者在使用GenAI工具前，會明確自身目標，并優化查詢方式，以提高AI的輸出質量。例如，有些用戶在調整DALL-E的圖像生成提示詞，以確保AI生成的圖像符合特定需求。
• 響應檢查與信息驗證：知識工作者會對GenAI的輸出進行審查，包括檢查內容的邏輯性、可行性和相關性。有些受訪者會與外部資源（如技術文檔或行業標準）交叉驗證AI輸出的正確性。
• 內容整合與調整：知識工作者并不會完全接受GenAI的生成內容，而是會選擇性地整合或調整。例如，部分用戶會修改AI生成的文本，使其更具個人風格或更符合專業寫作規范。

2.何時會展現批判性思維？

受訪者在約60%的任務中報告使用了批判性思維。研究發現，以下因素顯著影響知識工作者是否在GenAI輔助任務中實施批判性思維：

• 對GenAI的信心：當用戶對GenAI的能力越信任，其批判性思維的可能性越低。換言之，越信任AI，越傾向于直接接受其輸出，而不加審視。
• 對自身能力的信心：相反，如果用戶對自身完成任務的能力更自信，則更有可能主動批判性地思考AI的輸出，而不僅僅是被動接受。
• 用戶的反思傾向：那些習慣于在工作中進行反思的知識工作者，在使用GenAI時也更可能展現批判性思維。

3.GenAI如何影響批判性思維？

研究發現，在大多數情況下，GenAI降低了知識工作者在批判性思維活動中的認知努力。然而，這種影響在不同認知活動之間存在差異：

• 對知識回憶、理解和應用的努力減少：由于GenAI可以提供快速的信息檢索和內容摘要，用戶在記憶和理解方面的努力明顯減少。
• 對分析和綜合的努力減少：AI提供的現成內容使得用戶在分析和綜合信息時的認知負擔降低。
• 對評估的努力增加：由于AI的輸出可能包含錯誤或偏見，用戶需要投入更多精力去評估其內容的真實性和準確性。

此外，研究還發現，任務的復雜性、用戶的AI信任度以及任務的重要性都會影響GenAI如何改變批判性思維的努力程度。例如，在高風險任務（如法律或醫療咨詢）中，用戶更可能謹慎評估AI的建議。

討論與設計建議

微軟的研究揭示了GenAI在知識工作中帶來的機遇和挑戰。一方面，GenAI提高了工作效率，并減輕了某些認知任務的負擔；另一方面，它也可能導致批判性思維的下降，使用戶容易過度依賴AI。

為避免GenAI削弱用戶的批判性思維能力，我們提出以下設計建議：

• 增強AI透明度：提供詳細的來源信息和不確定性提示，幫助用戶更好地評估AI輸出的可靠性。
• 促進用戶參與：引導用戶進行反思性互動，例如在生成內容前，要求用戶輸入目標或標準。
• 避免自動化陷阱：在關鍵任務（如醫學或法律咨詢）中，加入強制性的人類審核環節，以確保AI輸出的準確性。
• 培養長期批判性思維能力：鼓勵用戶通過GenAI進行自主學習，而不僅僅是依賴AI提供答案。

結論：警惕AI導致的認知“鈍化”

生成式人工智能正在深刻改變知識工作的方式，同時也產生了鈍化人類認知能力，尤其是批判性思維能力的新威脅。微軟的研究發現，用戶的批判性思維水平受到AI信任度、自身信心以及反思習慣的影響。同時，GenAI在減少認知努力的同時，也可能導致認知依賴。

未來，GenAI工具的設計應當更加關注如何支持用戶保持和提升批判性思維，而不是簡單地提供答案。只有這樣，我們才能在享受AI帶來的便利的同時，保持人類獨有的思辨能力和創造力。