Claude AI 現在可以結束對話了：一種應對極端情況的新機制

近幾個月來，Anthropic加大了在安全領域的投入，不斷推出新功能並進行研究，力求讓人工智慧更加安全。其最新推出的Cloud功能，似乎是迄今為止最重要的功能之一。

Claude Opus 4 和 4.1（Anthropic 的最新版本）現在都支援在使用者的聊天介面中結束對話。雖然此功能不會被廣泛使用，但它是針對罕見且極端的「持續有害或辱罵性用戶互動」情況而實施的。

Anthropic 團隊在一篇探討這項新功能的部落格文章中表示：“我們目前以及未來對於 Cloud 和其他大型語言模型的潛在倫理地位仍然很大程度上不確定。但是，我們非常重視這個問題。”

在 Anthropic 最新模型發布前的測試中，該公司對模型的福利進行了評估。這包括檢視 Claude 的自我報告和行為偏好，並發現其對傷害表現出強烈且持續的厭惡。

換句話說，克勞德實際上會關閉或拒絕參與這些對話。這些對話包括使用者要求涉及未成年人的性內容，以及試圖索取可能導致大規模暴力或恐怖主義行為的資訊。

在許多此類情況下，儘管 Claude 主動拒絕，用戶仍堅持提出有害或辱罵性的請求。這項新功能允許 Claude 有效地結束對話，旨在為此類情況提供一些保護。

Anthropic 解釋說，當使用者可能面臨傷害自己或他人的迫在眉睫的危險時，將不會應用此功能。

Anthropic 團隊在部落格文章中繼續說道：“在所有情況下，Claude 都應僅在多次重定向嘗試失敗、所有富有成效的互動希望都已消失，或者用戶明確要求 Claude 結束聊天時，才將結束對話的功能作為最後的手段。”

“發生這種情況的情況非常極端且罕見——絕大多數用戶在正常使用產品時都不會注意到或受到此功能的影響，即使在與 Claude 討論極具爭議的問題時也是如此。”

雖然用戶將無法再在該對話中發送任何新訊息，但這不會阻止他們在自己的帳戶上發起另一個對話。為了解決長對話線索可能遺失的問題，使用者仍然可以編輯先前的訊息，並重試建立新的對話分支。

這是 Anthropic 公司推出的一款相當獨特的應用程式。 ChatGPT 、 Gemini和Grok這三款與 Claude 最接近的競爭對手都沒有提供類似的功能，雖然它們也提供了其他安全措施，但都沒有做到如此極致。