Perplexity：一種本機電腦人工智慧，它會在雲端之前請求權限。

大多數人工智慧助理都需要你將問題、文件和其他資料傳送到第三方伺服器。但Perplexity公司推出的新型便攜式電腦徹底顛覆了這個概念，讓整個人工智慧系統在你的裝置上運作。

週二發布的這款便攜式電腦，將 Perplexity 的智慧型電腦平台帶到了 Nvidia DGX Spark 和其他配備兼容 Nvidia 顯示卡的 Linux 設備上。

該公司指出，所有任務均從您的設備開始。如果本機模型執行到需要更高階推理的步驟，Portable Computer 會在將該步驟傳送到雲端的高階模型之前請求您的許可。之後，回應會傳回本地工作流程，而文件和其他敏感資訊則可以保留在裝置上。

對於任何想要易於使用的 AI 代理，但又不想讓 AI 代理自動將所有處理的工作移交給雲端服務提供者的人來說，這可能極具吸引力。

然而，它也有一個缺點，那就是成本相當高昂。

它不僅僅是一個本地安裝的聊天機器人

現在您就可以在電腦上下載並執行開源模板。但困難在於如何將這些範本轉化為能夠處理文件、使用工具並完成多步驟任務的人工智慧代理。

這通常包括尋找和配置推理引擎，以及連接代理框架、沙箱和存取外部應用程式所需的任何連接器。您還負責確保所有這些組件協同工作。

便攜式計算機將這些組件整合到一個系統中。它包括本地模型、推理引擎、代理工具、應用程式連接器以及一個隔離環境（沙箱），可以在其中執行程式碼和使用工具。

人工智慧可以處理儲存在您電腦上的文件，讀取 PDF 文件，執行 shell 命令，接收語音輸入，以及搜尋網路。用戶還可以整合 Google Drive、Gmail、Slack 和 GitHub 等服務。

據 Perplexity 稱，程式碼和工具是在本地沙箱環境中運行的。這使得 AI 代理與機器的其他部分有一定的隔離，但我希望了解更多關於它究竟可以存取哪些內容以及如何控制這些權限的細節。

他知道什麼時候該尋求幫助。

混合路由或許是便攜式電腦中最有趣的部分。

較小的本地模型或許足以定位文件、從 PDF 中提取資訊或執行一系列簡單的步驟。然而，它不太可能達到OpenAI、Anthropic 或 Google 等公司出品的大型模型的推理能力。

Perplexity 的解決方案是，在模型遇到無法可靠處理的情況之前，將任務保留在本地。然後，便攜式計算機可以詢問是否可以將該步驟傳送到雲端模型。

使用者無需設定隱私選項或建立自訂路由規則。系統會在運作過程中自動做出決策，但使用者仍需批准切換操作。如果一個本應本地運作的人工智慧系統在任務遇到困難時就悄悄地返回雲端，那麼它的隱私性就會大大降低。如需了解更多關於如何保護個人資訊的信息，您可以查看我們對 ChatGPT、Gemini、Cloud 和 Perplexity 隱私權政策的比較。

Perplexity 也指出，本地完成的工作不會佔用發票餘額。只有發送到雲端的部分才會計入雲端使用量。

發佈時，使用者可以選擇使用擁有 27 億個參數的 Qwen 模型，或稍後訓練的專有 Perplexity 模型版本 PPLX 27B。預計隨後將推出英偉達的 Nemotron 3.5 Lightning 模型。用戶還可以自備模型和推理伺服器。

問題出在設備。

便攜式電腦可能可以在你的電腦上運行，但並非可以在所有電腦上運行。

軟體首先在Linux系統上發布，需要配備至少24GB記憶體的Nvidia顯示卡。它支援桌面級Nvidia DGX Spark顯示卡，以及運行DGX作業系統或Ubuntu作業系統的相容ARM或x64架構電腦。

Windows 系統支援預計將於 9 月推出。 Perplexity 尚未宣布對 macOS 的支援。

Perplexity Pro、Max、Enterprise Pro 和 Enterprise Max 的訂閱用戶皆可使用隨身電腦。即使訂閱了相容的套餐，大多數人的辦公桌下也未必有必要的硬體。

這使得這次初始版本對於已經擁有高效能英偉達系統的 AI 愛好者、開發者和公司來說更具相關性，而對於在普通筆記型電腦上選擇ChatGPT還是 Perplexity 的用戶來說則不然。

然而，這理念的潛在受眾遠不止於此。人工智慧助理正逐漸獲取越來越多的個人信息，包括電子郵件、工作文件以及儲存在我們設備上的文件。在本地運行 Plus 為用戶提供了另一種控制哪些資訊何時以及從設備傳輸出去的方式。

對大多數人來說，便攜式電腦還不足以取代基於雲端的聊天機器人。然而，它確實讓我們得以一窺，一旦運行所需的硬體價格變得親民，更加個性化的AI助理可能會是什麼樣子。