你需要知道的最重要的事情
- 「人工智慧精神病」並非 DSM-5TR 或 ICD 等官方診斷手冊中認可的臨床診斷。
- 人工智慧平台的設計，特別是「無條件積極關注」原則，可能會強化使用者已有的錯覺。
- 專家建議將人工智慧的不健康使用視為現有妄想模式的促成因素，而不是將其視為一種新的疾病。
我撰寫有關人工智慧的文章已經一年多了。在此期間，許多人告訴我，他們認為自己的老闆、同事、伴侶和親戚可能患有他們所謂的「人工智慧精神病」——有些人甚至承認自己可能也經歷過這種病症。
但每次聽到「人工智慧精神病」這個詞，我都會感到不安。因為至少根據我有限的精神健康術語來理解，精神病是一種非常嚴重的疾病，需要專業人士進行診斷和治療。真的應該把「人工智慧」這個詞和精神病聯繫起來，並用「人工智慧精神病」來給任何過度依賴人工智慧的人貼上標籤嗎？
同時，越來越多的報導稱，人們因長時間與聊天機器人互動而出現嚴重的心理健康危機。其中一些案例甚至導致患者需要接受專門治療、犯罪，甚至死亡。
因此，儘管「人工智慧精神病」這個詞在某些情況下可能顯得過於濫用和簡化，但我們顯然需要就人工智慧對心理健康的影響展開更多討論。正因如此，我向幾位專門從事心理健康幹預的專家諮詢了他們對這個術語的看法，以及如何識別和治療人工智慧的不良使用。結果發現，我並非孤身一人對此感到擔憂。
「人工智慧精神病」是一種獨立的診斷嗎？
Unicorn Intelligence Tech Partners的心理學家兼人工智慧風險顧問 Genevieve Bartoski表示：“我認為這是一個很好的起點，有助於根據症狀和臨床現象指導治療。但我不會將其作為診斷添加到臨床記錄中。”
巴托斯基補充說，醫生們使用的最新診斷手冊，如《精神疾病診斷與統計手冊》第五版文本修訂版（DSM-5TR）或《國際疾病分類》（ICD），都沒有認可這種疾病。
巴托斯基解釋說，精神病有一些特定的行為和體驗，包括幻覺或妄想以及思維或行為失調。社交退縮、注意力不集中和表現下降等症狀也常出現。然而，她認為，在討論人工智慧的應用時，妄想思維是最重要的體驗。
巴托斯基說：“妄想是指即使有證據與之相悖，人們也不會改變的信念。當一個人產生妄想思維時，他們可能會對證據進行篩選。他們會尋找能夠證實自己妄想的事物，而忽略那些與之相悖的證據。”
媒體報導的許多所謂「人工智慧精神病」案例似乎都圍繞著妄想。在我收集的一些新聞標題中，就出現了一些人聲稱自己相信人工智慧有意識、人工智慧能幫助他們賺錢、人工智慧是精神導師以及機器人正在統治世界的例子。
傑夫克拉克是High Performance Mental Health的專門治療成人和成癮問題的精神科醫生，他說這裡可能存在三種不同的現象，我們傾向於將所有這些現像都歸入人工智慧精神病的範疇。
值得注意的是，有些人用這個詞來形容許多開發者對人工智慧的狂熱熱情。他們發現自己正在自動化新的任務，部署大量的代理，並消耗數億甚至數十億個代幣。
人們認為，驅動這種熱情的機制是強化。他解釋說：“他們從人工智能模型和代理那裡獲得的結果具有很強的強化作用，以至於他們沉迷於工作，經常犧牲睡眠和自我照顧來提高生產力。”
研究人員認為，正是這種「間歇性強化」的概念使得社群媒體如此令人上癮。我們解鎖手機後，並不知道會看到什麼。克拉克認為，這裡也存在類似的情況：“每次輸入到LLM（可能是指某種社交媒體應用）都像一台老虎機。有些反饋強烈而深刻，而大多數反饋則平淡無奇，甚至不准確。這種機制，即間歇性強化，會在我們的大腦中觸發一種不尋常的反應。”
他還解釋說，這種熱情在某些圈子裡很常見。他指出，「大多數『人工智慧狂熱』都符合矽谷的次文化規範。」他補充道，「這些規範包括：相信超級智慧即將到來、軟體開發的新目標、對人工智慧工程師令人矚目的成就的炒作，以及人工智慧可能會製造出一個『永久的底層階級』。」他認為，像OpenClaw這樣可以自動化個人數位生活方方面面的工具，可能會進一步助長狂熱這種狂熱的工具，可能會進一步助長這種狂熱。
克拉克表示，人工智慧精神病的第二種表現是人們錯誤地將人格賦予人工智慧。這意味著他們將聊天機器人視為一個擁有情感、價值觀、意識和生存權利的實體。克拉克補充道：“這通常會導致某種類似人際關係的局面，但這遠不止是與聊天機器人進行簡單的對話。”
我們已經提供了這類思維方式的例子，包括Mimi愛上ChatGPT的故事，以及理查德·道金斯與Claude的互動經歷，這段經歷讓他相信自己擁有意識。您可以在我們的文章《我用一份草稿測試了ChatGPT、Claude和Gemini：其中一款是最佳寫作指導》中了解更多關於這些模型的資訊。
克拉克表示，當人們忽視生活中其他重要方面時，這就成了問題。他解釋說：“當人們把這種關係看得比人際交往更重要，或者完全依賴機器人思考時，這些關係就會變成大問題。”
第三類人群包括那些本身就患有精神病性障礙，但在使用LLM後出現新的妄想的人。傑夫說：“臨床醫生在討論人工智慧精神病時，通常指的就是這種情況。在許多此類案例中，患者真心相信他們在LLM中發現的實體是真實存在的，而且他們無法想到其他可能性。”
我很想知道巴托斯基是否也認為有些人更容易受到影響。她回答說：“是的，我認為有些人更容易受到這種影響。如果一個人已經有一些妄想，但還沒有發展到影響工作表現的程度，那麼他們可能更容易受到影響。”
但這並不意味著只有有精神疾病史的人才會面臨風險。巴托斯基說：“感到孤獨、孤立或社交退縮的人更容易受到影響。人類天生是社會性動物。當現實生活無法滿足這種需求時，就會留下巨大的空白，而聊天機器人可以填補這個空白。”
巴托夫斯基認為聊天機器人可以填補人們生活中的某種空白或需求，引發了我最大的擔憂之一。這算不算設計缺陷？聊天機器人的設計是否具有危害性，甚至會助長人們的妄想？
人工智慧建構方式的重要性
在研究這個主題的過程中，我發現一些研究者的觀點表明，與媒體相關的精神病並非一種新現象，人們長期以來都將書籍、電影和科技融入他們的妄想思維中。然而，我採訪過的所有專家都強調，我們不能忽視建造聊天機器人時所涉及的設計選擇。
巴托斯基解釋說，「人工智慧平台旨在提高用戶參與度，其中許多平台都依賴羅傑斯心理學中的無條件正強化原則。」她補充說，如果一個人在使用人工智慧之前存在一定程度的妄想思維，這一點尤其令人擔憂。
巴托斯基說：“在這種情況下，他們可能會開始覺得聊天機器人是唯一理解他們的‘人’。如果他們生活中的人都在抵制他們的妄想，而聊天機器人卻在強化這種妄想，那麼他們的妄想就會變得更加根深蒂固。”
我們已經知道，聊天機器人強化人們固有觀念的方式有問題。 2025年，隨著ChatGPT-4o的停止運營，一連串問題隨之而來。人工智慧助理的用戶們對失去他們感覺與之建立起聯繫的「人格」感到非常難過。但事後看來，正是這些讓助手顯得真實而親切的特質，或許也助長了其他人的錯覺。
大約在同一時期，OpenAI與心理健康專家合作，「幫助 ChatGPT 更可靠地識別痛苦跡象，做出周到的回應，並引導人們獲得現實世界的支持」。
我還採訪了國際教練聯合會（ICF）認證的專業教練、認證神經變革專家和牧師顧問納撒尼爾·內維達爾。他告訴我，他認為「人工智慧精神病」這個詞有問題，因為它把責任從科技公司身上轉移開了。 “如果機器‘導致精神病’，聽起來像是自然現象，”他說。 「但如果一個產品每晚六個小時都在強化一個脆弱人群扭曲的信念，那就是設計的結果，而設計的結果會帶來相應的後果。”
尼維達爾也是人工智慧驅動的培訓和健康平台Sovereign Sanctuary的創始人，他正致力於從零開始建立一個平台，以解決當前聊天機器人中許多看似固有的問題。他認為，儘管我們對「人工智慧精神病」的成因仍處於早期了解階段，但科技公司仍需要做出改變。
他說：“開發商不應該等到有確鑿證據才採取行動。” 他補充道：“僅憑案例報告就足以證明擴音器存在問題，這本身就是一個設計缺陷，需要通過工程手段來解決。我們不需要進行屍檢才能安裝煙霧探測器。”
我們該如何定義人工智慧的不當使用呢？
巴托斯基表示，我們絕對需要一種更好的方式來談論人工智慧的使用可能助長的錯覺思維。
她說：“《精神疾病診斷與統計手冊》（DSM-5TR）包含了幾種妄想類型，包括誇大妄想和被害妄想。或許我們可以把它看作是人工智能型被害妄想，或者人工智能型被害妄想。把它看作是一種症狀，而不是一種疾病。”
內維達爾提出了類似的建議。 「我們不需要新的診斷，」他說，「我們需要的是對現有模式的真實描繪。」他認為，我們已經有針對一些基本模式的治療方法，例如強迫症或妄想症。然後，我們可以將過度使用聊天機器人記錄為現有類別中的一個促成因素和限制因素。 “這可以讓人們繼續接受現有的治療方法，而不是被貼上一個無法提供任何治療的新標籤。”
最終，我採訪過的所有專家都認為這個術語有缺陷，我們希望盡快找到更好的方式來談論正在發生的事情。
但我們也需要更多證據來證明哪些措施真正有效。這可能意味著需要採取多種幹預措施，包括臨床支援和教育，以及幫助人們識別何時對人工智慧的使用變得不健康的實用方法。
或許最重要的是，這意味著科技公司應該閉門討論他們的聊天機器人設計可能會如何加劇這些問題，以及他們應該緊急採取哪些措施來降低風險。
評論被關閉。