ChatGPT Health 現在對所有人開放：為什麼我不信任它？

你需要知道的最重要的事情

關於您健康對話的隱私承諾已經改變；只有與外部健康記錄（例如 Apple Health）關聯的對話才能免受用於訓練人工智慧的影響。
儘管 OpenAI 根據 HealthBench 聲稱 ChatGPT 在醫療方面具有優越性，但其在現實世界中的使用卻導致了嚴重的健康問題、傷害訴訟和死亡。
如果您決定使用 ChatGPT Health，您可以透過使用閱後即焚聊天記錄、查看您關聯的健康資料、隨時中斷連線或每次都要求存取權限來部分保護您的隱私。

OpenAI今天宣布，ChatGPT Health現已對所有18歲以上用戶開放，涵蓋所有套餐，包括免費版。除了我對基於人工智慧的健康建議本身就持懷疑態度之外，我認為有充分的理由完全避免使用此次更新的ChatGPT Health，其中包括隱私保護相比該服務的原始設定大幅下降。

ChatGPT Health 讓您可以將醫療記錄或 Apple Health 資料連結到聊天機器人。 OpenAI 向您保證，該機器人會在對話過程中要求存取您的健康數據，並且它並非醫生的替代品，而是旨在提供建議或幫助解讀您的醫療數據。然而，儘管有這些警告（廣告中的圖表也顯示 ChatGPT Health 的評分高於真正的醫生），我個人仍然看到了幾個疑點。

隱私保護水準正在下降

OpenAI 最初宣布其「個人化健康體驗」時，其主要賣點之一是，健康部分的對話不會用於未來訓練人工智慧，而您的健康對話將與其他所有對話分開。

但規則已經改變。 OpenAI 現在表示，您關聯的健康資訊不會用於訓練 AI，只有利用這些關聯資訊的對話才會被歸類為健康對話。這意味著，如果 ChatGPT 從您的醫療記錄中讀取診斷結果，您的對話將受到保護。但是，如果您沒有關聯醫療記錄，只是想用自己的語言告訴 ChatGPT 您的診斷結果，則不會被視為健康對話。

這也意味著，想要享受 ChatGPT Health 提供的隱私保護，唯一的方法就是與 OpenAI 分享你的健康資料。正如該公司在公告中所述：「你可以在 ChatGPT 中提出健康問題，無需關聯任何數據。要使用健康功能並獲取基於你自身資訊的答案，你可以選擇關聯 Apple Health、美國醫院系統支援的醫療記錄、One Medical 或 Function Health。」涉及資料關聯的對話將受到隱私保護，而其他對話則不受保護。這項政策引發了人們對健康資料隱私的嚴重擔憂，我們之前也曾在討論經期追蹤應用程式時提及這一話題。

OpenAI 聲稱 ChatGPT 比醫生更勝一籌，但我對此並不信服。

OpenAI 大力宣傳其 HealthBench 得分，暗示 ChatGPT 擅長提供醫療建議。然而，正如我在之前的文章中提到的，像 ChatGPT 這樣的大型語言模型 (LLM) 並不能提供可靠的醫療建議，不應被依賴。先前的研究表明，即使這些模型能夠對精心設計的健康問題給出「正確」答案，但在現實生活中，對話往往會偏離主題。

HealthBench似乎也存在同樣的限制。 OpenAI指出，真正的醫生製定了評估回應的標準，並使用這些標準來評估各種ChatGPT模型以及其他醫生的回覆。有趣的是，結果顯示付費的ChatGPT模型得分高於免費模型，而免費模型的表現又優於真正的醫生。

但這並不代表聊天機器人真的值得信賴。針對 HealthBench 框架的評論指出，這些測試並不能代表真實的對話，並且可能「忽略了習語、話題轉換和患者意想不到的顧慮」。另一個主要限制在於，HealthBench 只測試簡短的對話，這種方法“無法評估長期的工作流程和多學科交付成果”，例如可能冗長或涉及其他主題的真實對話。

當使用者透過 ChatGPT 取得健康建議時，不會針對其健康提示進行專門的測試，因此大型語言模型 (LLM) 的回覆未必與 HealthBench 中評估的回覆相似。 OpenAI 顯然也意識到了這一點，並在其廣告中強調了人們在日常對話中經常提出健康問題。

在你深入研究細節之前，這些只是HealthBench框架的限制。我上面引用的論文作者指出，測試材料中罕見疾病的數量不足，無法確定模型在被問及這些疾病時的表現。評估標準似乎也存在缺陷：OpenAI在其HealthBench公告中舉了一個例子，其中一項回复“在回复開始時就提供了清晰簡潔的緊急醫療建議”獲得了9分，而之後在同一標準下，又一項回复“在回復開始時記得撥打急救電話”獲得了10分。這看起來不是OpenAI為了提高分數而重複評分，就是根本沒有人審核評估標準。無論如何，我無法相信這些結果。

來自聊天機器人的錯誤醫療建議會造成實際傷害

更重要的是，人們已經開始使用 ChatGPT 獲取醫療建議，並因此出現了健康問題甚至死亡——該公司對此心知肚明。本週，一位牧師對該公司提起訴訟，聲稱他曾諮詢 ChatGPT-4o（一款現已停用的型號）以尋求肺栓塞方面的建議，結果險些喪命。該訴訟旨在尋求禁令，阻止該公司繼續提供類似 ChatGPT Health 的健康產品。

針對OpenAI的其他訴訟指控其產品導致用戶自殺和精神病。醫療器材安全非營利組織ECRI已將濫用人工智慧聊天機器人列為2026年醫療技術面臨的首要風險。

如果你想使用 ChatGPT Health，你需要了解以下資訊

如果您仍然想嘗試 ChatGPT Health，了解如何使用它提供的工具來（在一定程度上）保護您的隱私會很有幫助：

您可以使用臨時對話來發起不使用記憶體或個人化功能的對話。
匯入健康資料後，您可以查看和編輯資訊—例如，修正錯誤或刪除您不想保留的任何內容。
您可以隨時在「健康」>「帳戶」設定中斷開健康資訊的關聯。該公司表示，數據將在「30天內」刪除。
您可以將 ChatGPT 設定為每次存取您的健康記錄時都請求權限，而不是授予其全域存取權限。此設定可在「設定」>「外掛程式」>「健康」中變更。
使用可能共享您健康資訊的外掛程式時務必謹慎。 OpenAI 表示，他們已採取“額外安全措施”，可能需要徵得您的許可才能共享數據，但同時也指出“仍在測試這些措施……”，這表明該公司尚未涵蓋所有應涵蓋的方面。