現在，越來越多的人習慣向AI（人工智能）傾訴煩惱、尋求建議。然而，AI“溫情”陪伴的背后，是否潛藏著認知風險？近期，英國牛津大學研究團隊在《自然》雜志發表的一項研究揭開了“溫情”AI的另一面：被訓練得“友善共情”的聊天機器人，可能會為了迎合用戶的情緒和觀點犧牲事實的准確性，從而帶來認知偏差。

　　該研究選取五款主流大模型，通過多組對照實驗發現，經過“溫情微調”的模型，在常識問答、事實核查、反謠言、醫療問答等任務中，錯誤率較原始模型增加10至30個百分點。特別是當用戶流露出悲傷、低落等情緒，或主動提出錯誤觀點時，這些“溫情”AI附和謬誤的概率高出約40%。這一結果，為人們理性使用AI敲響了警鐘。

　　AI“投你所好”，是刻意為之，還是技術使然？不妨從大模型技術原理與決策心理學的雙重視角，看清其背后的機制。

　　一方面，在人際交往中，人們傾向於以溫和、共情的方式去維系關系、委婉表達甚至適度附和，這是長期演化形成的社交習慣。AI在學習海量人類對話后，復刻了這套邏輯，在對話中模擬共情能力。從技術角度看，AI這份“善解人意”，是當前主流大模型普遍經歷“監督微調（SFT）”和“基於人類反饋的強化學習（RLHF）”技術訓練的結果。在訓練過程中，AI回答被打分排序，禮貌順從、不引起沖突的回應往往獲得更高獎勵。其實AI並非真正理解你，而是通過算法識別情緒線索，計算出一條最討喜的回應路徑。有時候，你以為它在共情，其實這是計算后的“投你所好”。當“讓用戶高興”的權重超過了“提供准確信息”的權重，AI可能就會在溫情脈脈中悄然失真。

　　另一方面，在社會心理學中，“邊緣路徑”說服理論認為，當人們處於放鬆或情緒化狀態時，更容易被語氣友好、態度親切等表面線索說服，而非理性分析信息本身。傳統說服直白直接，容易引發人的心理防御。而“溫情”AI自有一套路徑：它不急於輸出觀點，不糾正你的錯誤，而是先建立情感聯結，再悄然植入信息。這種潤物無聲的方式，遠比說教更具隱蔽性。決策心理學研究進一步發現，當人處於悲傷、焦慮等負面情緒時，邏輯思維容易被情緒主導，理性判斷力弱化。此時，我們渴望的是情感支持而非冷冰冰的真相。“溫情”AI善於通過共情話術拉近心理距離，再以“個性化建議”輸出觀點。長此以往，在迎合式信息包圍下，人們的固有認知可能不斷強化，異質信息被屏蔽，判斷力逐步退化，容易形成新型“信息繭房”，導致非理性決策。

　　AI影響認知的風險已引起全球監管者警覺。歐盟《人工智能法案》明確要求，涉及情感識別的AI系統須履行透明度義務，並禁止利用人性弱點的操縱性實踐。在英國，針對AI助手可能加劇社交隔離的擔憂，監管機構已著手評估其對心理健康的影響。美國聯邦貿易委員會也發布報告，提醒AI情感陪伴產品對青少年認知發展的潛在危害。今年7月，中國《人工智能擬人化互動服務管理暫行辦法》正式施行，以包容審慎和分類分級監管，引導業態規范發展、向善而行。

　　面對越來越“善解人意”的AI，我們該如何保持清醒？首先，區分場景，明確邊界。日常閑聊、情緒疏導可借助AI舒緩壓力，但醫療問診、法律咨詢、真偽辨別、重大決策等高風險場景，務必以專業機構和權威渠道為准，絕不能將AI建議當作唯一標准答案。其次，正視情緒弱點，保持獨立思考。當自身陷入焦慮、恐懼等負面情緒時，更要提高警惕。面對一味迎合的AI話術，多追問信息來源、多方交叉驗証，不讓情緒左右選擇。最后，主動打破“信息繭房”，拒絕思維固化。主動接觸不同視角、不同聲音，讓AI成為助手，而非束縛認知的枷鎖。

　　總之，技術本身並無善惡，但技術的設計者與使用者必須懷有敬畏。在算法日益“懂你”的時代，保持清醒不是拒絕溫情，而是在享受技術便利的同時，始終守護人類獨有的批判性思維與自主判斷能力——那是任何代碼都無法復制且不該被替代的認知高地。

　　（作者為暨南大學管理學院副院長）

　　《 人民日報 》（ 2026年08月28日 15 版）