我的朋友得了癌症：她向 ChatGPT 諮詢了醫療意見，這讓我很震驚。

我凌晨三點左右寫下這篇文章，當時我坐在診所大廳裡，朋友正在我身後的房間裡和腫瘤科醫生交談。空氣中瀰漫著濃濃的藥味，氣氛也透著一股揮之不去的陰鬱，讓我恨不得立刻離開。但最讓我難以承受的，卻是強烈的憤怒。

就在一個小時前，我接到24歲朋友的電話，她說她頭痛欲裂，胃也痛。她目前正在接受乳癌治療，過去兩年我一直陪她經歷這一切，所以我趕緊趕到她家，希望情況不嚴重。我沒多問，就找到了最近的醫院，帶她去檢查了。

在去醫院的路上，我問她疼痛是什麼時候開始的，以及她是否有其他令人擔憂的症狀。她的回答讓我震驚不已，我真想搶過她的手機砸個稀巴爛。 「我下班回家後，感覺有點頭暈，胃也不舒服。於是，我問ChatGPT能不能吃點止痛藥，結果吃了幾個小時後，胃痛加劇，還有灼燒感。我還吐了好幾次。”

誰該承擔應有的責任？

她的坦白讓我震驚，而她描述與 ChatGPT 互動時的那種漫不經心的語氣更讓我不安。但這次不幸事件背後牽涉到太多層面，所以我決定禁止我的親人接觸人工智慧，尤其是在健康和保健方面的對話。作為一個對藥物高度敏感且正在接受癌症治療的人，被人工智慧詢問服藥情況，是任何一個理智的人都無法預料的事情。

我不知道誰該為這場危險且可能危及生命的冒險負責。她只是拍了一張止痛藥的照片，上傳到ChatGPT，然後問她能不能同時服用兩片。她的醫生建議她一次只能服用一片，即使疼痛難忍也不要吃。 ChatGPT告訴她，她應該只服用一片止痛藥，服用兩片必須遵醫囑。

當我問她為什麼會求助於人工智慧機器人時，她後來告訴我，ChatGPT「更容易得到答案。我甚至不知道網路上哪些是真哪些是假。」 身為一個高中輟學後靠打零工養家糊口的人，我能理解她的困境。我沒辦法給她上一堂關於數位素養和事實查核的課。那次談話中有很多失誤，我們倆都有責任。

問題就出在這裡。我的朋友不是以印地語為母語的人，當我把她的問題翻譯成印地語時，僅僅因為一個詞，就造成了語法上的災難。她想問的是，她能不能服用圖片中所示的兩顆藥片。但她笨拙的翻譯聽起來像是在問 ChatGPT 能不能服用「兩顆藥片」。

ChatGPT 在這裡又失誤了。圖片顯示的是一顆藥丸，只能看到它的化學成分—雙氯芬酸和塞拉肽酶。藥物名稱只部分可見。儘管如此，這款人工智慧機器人還是準確地將這種止痛藥識別為「類似 Cipzen-D 的東西」。但在此之前，它也提到另一種藥物 Fenak Plus，其化學成分是雙氯芬酸和對乙醯氨基酚，它曾在另一次對話中討論過這種藥物。

雖然這兩種藥物的配方完全不同，但它們都屬於非處方止痛藥，而且（令人擔憂的是）無需處方即可在當地藥局購買。因此，總的來說，我們遇到了一處人為錯誤（翻譯錯誤）和兩處ChatGPT的錯誤，因為他當時也在憑記憶進行翻譯。不過，他給的建議是準確的。

OpenAI 的人工智慧機器人明確警告說，同時服用這兩種藥物並非明智之舉，並補充說這可能導致雙氯芬酸過量。該人工智慧機器人還描述了潛在的副作用，包括胃部灼熱感、潰瘍相關問題、出血以及對腎臟的長期負面影響。

值得注意的是，ChatGPT提供的圖片中只顯示了一種止痛藥。模型建議一次只服用一種，不要同時服用兩種。然而，我的朋友想起醫生之前給她開過這兩種藥（雖然不是同時服用），為了快速緩解疼痛，她就同時服用了這兩種藥，結果很快就出現了嚴重的後果。

當我的朋友告訴醫生她為什麼同時服用兩片藥時，醫生也勃然大怒，這完全可以理解。醫生斥責她沒有諮詢醫療專業人員。隨後，醫生給她注射了一針止痛藥，並開了新的止痛藥處方，這種藥不會對她虛弱的身體造成傷害。

身為一名曾撰文探討人工智慧在敏感領域（尤其是健康與福祉領域）互動風險的科技記者，我感到自己失職了。我覺得自己從未和朋友談過人工智慧機器人的風險，直到那次可怕的事件發生後才提醒她這些危險。

當她承認過去曾多次使用 ChatGPT 尋求醫療建議時，她拿起手機刪除了這款應用程式。更重要的是，她告誡對方不要再使用任何其他人工智慧聊天機器人——例如Gemini或 Claude——尋求醫療建議，甚至不要使用整個網路。唯一正確的方法是諮詢醫生或前往診所。

感知問題

我並不完全責怪她。考慮到 ChatGPT 已經像「無所不知的精靈」一樣深深融入大眾的日常數位習慣，很難責怪她。人們認為它比在谷歌搜尋中找到答案、點擊藍色連結、瀏覽多個網頁要方便得多（也更誠實）。

平心而論，他們的說法不無道理。像 ChatGPT 這樣的 AI 機器人能以自然語言在幾秒鐘內直接給出答案，這遠比在錯綜複雜的 Google 搜尋連結中摸索要方便得多。 Google 也意識到了用戶行為的變化，這解釋了他們為何大力推動搜尋領域的對話式 AI 技術。您或許會對我的經驗感興趣，想了解我用 ChatGPT 取代 Google 搜尋的體驗。

即使在今天，Gemini 的對話式答案在常規搜尋結果中仍然名列前茅。其核心理念很簡單：在用戶深入探索多個標籤頁上的多個來源之前，先從 Google 搜尋的藍色連結來源中提供簡潔明了的答案。欲了解更多信息，您可以閱讀我們對 ChatGPT 和 Gemini 的全面比較。

值得稱讚的是，ChatGPT（或大多數主流人工智慧模型）在用戶尋求健康建議時非常謹慎。在絕大多數情況下，人工智慧機器人會引導使用者諮詢持證照的醫療保健專業人員或聯絡對應的熱線。然而，正是這些聊天機器人以快速可靠的資訊來源身分進入公眾視野，才使得它們如此令人不安。

幾天前，我在一家主流新聞頻道上看到一場激烈的辯論。辯論中，一位參與者挑戰對方，要求他透過向 ChatGPT 提問來驗證事實。當時，我看到 ChatGPT 被討論成現代版的百科全書搜尋工具，而它所在的平台在全球第二大人工智慧聊天機器人市場擁有數百萬用戶。

翻譯損失

美國在人工智慧應用方面領先全球，但同時也對使用人工智慧聊天機器人的風險有著最高的認知水平。相較之下，印度的數位素養（以及人工智慧意識）要低得多，因此潛在風險也高得多。數十萬用戶使用母語印地語的 ChatGPT 和其他人工智慧助手，這進一步加劇了風險。這正是我朋友最近遇到的問題——ChatGPT 語言問題——的主要原因之一。

今年早些時候，麻省理工學院建設性溝通中心發表的一項研究指出，當用戶使用英語以外的語言進行互動時，人工智慧聊天機器人的回應準確率會降低。去年12月發布的SAHARA基準測試也強調了人工智慧聊天機器人在使用者使用英語以外的語言時，其行為會出現類似的差異。《經濟學人》也重點報導了多篇研究論文，這些論文揭示了大型語言模型（LLM）中存在的語言問題。

語言障礙會增加風險。

但翻譯並非唯一的問題。英國公共衛生系統內獨立的消費者和患者權益倡導組織「英格蘭健康觀察」（Healthwatch England）警告稱，醫生和醫療保健專業人員使用人工智慧轉錄工具存在風險。以下是他們報告中令人擔憂的片段：

“在一個令人震驚的案例中，人工智慧工具審查了一份核磁共振掃描摘要，並記錄患者患有脫髓鞘，這是一種與多發性硬化症相關的嚴重神經系統疾病。但掃描結果實際上顯示‘無脫髓鞘’，這意味著根本沒有問題。”

這顯然是主流語言模型需要解決的缺陷，但這裡還有一個更大的問題。人工智慧聊天機器人處理敏感話題時需要表現得更好。像 ChatGPT 這樣的平台已經實現了家長控制功能，並且經常鼓勵用戶尋求協助，同時也提供求助專線和可靠資源。你也會看到類似「ChatGPT 不是醫生」的警告。

但這些警告訊息應該出現在所有此類對話的最上方，而不是埋沒在開頭幾句話下面，因為大多數用戶在那裡就能找到答案，而不會繼續往下讀。最好是在最上方顯示醒目的橫幅，而且這項機制應該整合到人工智慧模型的核心行為中。

其次，我們需要提高公眾意識，而且是高度重視。人工智慧公司正忙於展示他們的大型語言模型（LLM）如何解決複雜的數學問題、在奧運會上超越人類以及助力醫學突破。但這一切都是在專家監督下進行的。對於將 ChatGPT 視為快速資訊和交流平台的普通用戶而言，警告和免責聲明應該放在首位。

OpenAI 或許比較謹慎，但大眾對 ChatGPT 的看法正在以驚人的速度演變。

許多用戶將其視為一種新型知識引擎，其互動方式幾乎與真人無異。然而，人工智慧機器人提供危險且可能有害的健康建議的案例屢見不鮮，即便到了2026年，相關研究仍在不斷揭示它們在敏感話題上的風險行為。我只希望OpenAI以及其他所有人工智慧開發者能夠認真思考這個問題，並採取適當的行動。