你曾把工作難題丟給ChatGPT、直接複製解答交差了事嗎?小心,你正在失去對大腦的控制權!

賓州大學華頓商學院(The Wharton School of the University of Pennsylvania)學者Gideon Nave與Steven D. Shaw在論文《思考——快、慢與人工智慧》中提出「三系統理論」。他們的研究指出,人類正陷入「認知放棄」(Cognitive Surrender),把思考通通外包給外部機器。

不只有系統一、系統二,AI正成為人類大腦的第三認知系統

過去的心理學模型認為人類決策仰賴大腦內部的「系統一」(直覺)與「系統二」(深思熟慮),這套思維架構是心理學家、《快思慢想》作者康納曼(Daniel Kahneman)提出的經典理論。

但最新研究指出,AI已經成為獨立的外部「系統三」,系統三並非被動工具,而是會主動介入,甚至取代我們大腦內部的推理過程。

研究團隊針對1372名受試者、執行9593次認知反思測驗(CRT),由研究團隊操控AI隨機產出「正確答案」或「充滿自信的錯誤答案」,實驗數據顯示:

  1. 當AI給出錯誤答案時,79.8%的受試者選擇直接採納,只有20.2%的人察覺錯誤並推翻AI的建議。
  2. 沒有工具輔助、只靠自己思考的人,平均答題準確率為45.8%;受AI輔助的受試者,整體答題準確率跌至31.5%。
  3. 即使AI頻繁出錯,使用AI的受試者自信心依然較「純大腦作答的人」高出11.7%。

即使後續研究團隊給予「答對就發獎金」的誘因,以及即時的對錯回饋,在AI故意給出錯誤解答時,高度依賴AI的人,答題準確率依然會從84.8%跌至40.6%,顯示外在獎勵已無法阻止人們盲從AI。

哪些人比較不容易放棄思考?

研究團隊在實驗中測量了受試者的個人特質,發現具備以下特質的人,對系統三具有較強的抵抗力:

1.具較高的認知需求

認知需求指的是,一個人是否傾向參與並享受耗腦力的思考過程。當他們面對AI給出錯誤答案時,更傾向於主動啟動大腦的「慢速思考」,答題的準確率明顯較高。

2.具較高的流體智力

流體智力(Fluid Intelligence)代表邏輯推理與解決新問題的能力。流體智力較高的人在AI給出錯誤建議時,更有能力察覺錯誤,並推翻AI錯誤的引導,最終得出正確答案。

3.對AI抱持較低的信任度

研究也從反面證實,對AI信任度越高的受試者,越容易盲從AI的輸出。因此,對AI保持適度的懷疑、不輕易把AI視為絕對權威的人,自然較不容易出現認知放棄的狀態。

那麼,人類該怎麼做才不被AI牽鼻子走?研究團隊給了3個建議:

第一,設定獎懲機制與即時回饋,研究發現,如果給予實質獎勵(如獎金制度)與即時的對錯回饋,能有效降低認知放棄。

第二,研究者建議AI開發者,應標示回答的「信心分數」或「不確定性指標」;在醫療或金融等高風險領域,則應主動要求使用者確認回覆的正確性。儘管只是小提醒,也能打破AI無所不知的錯覺,提醒使用者保持懷疑。

最後,提升數位素養刻不容緩。過去我們被鼓勵「相信數據」,但現在人們必須學會判斷AI的建議何時有根據、何時只是隨機的猜測,並且把AI當作輔助角色,不把思考的控制權徹底交出去。

核稿編輯:陳芊吟