我記得他出現的時候 ChatGPT 有史以來第一次，大家脫口而出的第一句話就是：「作家時代結束了。」人們開始猜測新聞網站、部落格以及網路上幾乎所有文字內容都將由人工智慧生成——雖然這些預測在我看來有些極端，但我也被GPT生成的文字所震撼。
當然，我得親自試用這款神奇的新工具，但很快就發現效果並不像看起來那麼驚艷。兩年多過去了，就我的經驗和使用情況而言，情況仍然如此：每次我用 ChatGPT 輔助寫作時，它只會拖慢我的速度，讓我感到沮喪。事實上，我發現使用 ChatGPT 這類工具進行專業寫作往往會導致結果不盡人意，尤其是在準確性和文風潤色方面。
為什麼我的 ChatGPT 無法正常運作？
ChatGPT 確實可以產生優質內容。它可以產生自然、連貫，甚至巧妙且引人入勝的語言。然而，你通常看到的大多數優秀示例都來自非常簡單的提示——比如“用莎士比亞的風格寫一首關於在沃爾瑪購物的詩”，這種提示在 2023 年幾乎人人都在做。但是，當處理複雜任務或特定需求時，ChatGPT 在理解情境和提供準確相關回覆方面常常有其限制。這種缺陷使其在需要深入分析或專業創造力的場景中顯得力不從心。
抱歉，我實在無法對能夠實現這一點的技術抱持懷疑態度。 pic.twitter.com/yjlY72eZ0m
— Thomas H. Ptacek (@tqbf) 2022 年 12 月 2 日
當你提出這樣的要求時，結果之所以令人驚喜，部分原因在於它的出乎意料。你實際上是在期待它給你帶來驚喜，而大多數情況下，它都會成功。
但如果你試著用 ChatGPT 來寫枯燥乏味的傳統文章，那就完全是另一回事了。首先，對於像這樣的文章，它毫無用處。我現在寫的所有內容都基於我自己的經驗和觀點——人工智慧無法替我寫這些。有些人可能會說它可以幫助我規劃、腦力激盪或完善論點——但我本來就不需要這方面的幫助。
我實際嘗試使用 ChatGPT 撰寫的是企業部落格。你肯定知道這種類型的部落格——解釋說明、指南和推薦文章，內容涵蓋公司及其產品相關的主題（當然也包含一些巧妙的自我宣傳）。撰寫這類文章時，通常會有很多要求：語言和語法風格指南、要包含的關鍵字、要引用的來源、要避免的來源，以及包含標題、結構和要點的預先設定的內容大綱。
如果我想要一個可用的版本，就不能簡單地給 GPT 一行提示就放任它自由運行。所以我嘗試了這樣的結構：
- 首先是一個「背景」提示，解釋我要寫的內容以及我要提出的問題類型，並附上一個範例段落來展示我想要的語言風格。
- 後續的索賠申請中，帶有「詳細內容大綱」的索賠申請通常只提供一兩個標題，並附上應涵蓋內容的要點清單。
我絕對不會一次性要求太多，而且由於我不信任他能補充統計數據和來源，所以我打算之後自己來做。
儘管我盡力將工作分解成小部分並給出非常清晰的說明，但我總是遇到同樣的問題：
- ChatGPT 糟糕的 聽從指示。
- 他有個壞習慣，就是做事總是做得太過頭。
- 文案中常會滲入錯誤或無關的訊息。
- 他的「寫作風格」很快就變得重複乏味。
- 當出現上述任何問題時，幾乎不可能讓大型語言模型 (LLM) 成功修改或修正其輸出。
讓我來解釋一下我的意思。
1. ChatGPT 的弱點在於無法理解詳細的指令
要從 ChatGPT 獲得精準的結果，提供清晰詳細的指令至關重要。然而，指令越多，模型似乎就越容易忽略某些指令。例如，除了聊天機器人需要記住會話開始時的樣式指令外，提示可能還包括標題、項目符號、字數統計和格式說明。我嘗試過很多方法來簡化指令，但始終感覺 ChatGPT 無法處理如此多的指令。
尤其讓我頭痛的是，我經常遇到字數統計和項目符號使用方面的問題。大型語言模型（LLM）很少能給出我要求的字數（通常給出的數字遠低於我的要求），而且它也從不理會我是否需要添加項目符號。
有時候這種情況是可以解決的－例如，如果我要求的是200字帶項目符號的文檔，結果收到了300字沒有項目符號的文檔。減少字數並添加一些項目符號相對容易。可惜的是，我總覺得最難改正的錯誤是我遇到的。
當你要求一篇 500 字的無要點文章，結果卻收到一篇 200 字的重點文章時，你實際上需要自己完成大部分工作。這需要大量的重寫和精力，降低了 ChatGPT 在這種情況下的效率。
2. 誇大傾向：ChatGPT 的一個問題
當你要求 ChatGPT 執行特定操作時，例如使用友善的語言或第二人稱代名詞，它往往會執著於這些概念，並且明顯過度使用。這種過度使用是它最顯著的特徵之一。 ChatGPT的缺點.
友善的語言逐漸演變成完整的聊天式語言，表情符號也隨之而來；第二人稱也不知何故變成了過多的提問和對讀者的指稱，力求盡可能多地使用代詞“你”。這是其中之一。 ChatGPT 挑戰 理解上下文。
如果你需要大量的例子或引文，也會遇到問題。如果你只是簡單地要求 GPT 獲取「很多」或「很多」某種東西，它很可能會給出你想要的數量的兩到三倍。如果你給它一個具體的數字，它很可能會完全忽略它，給出一些隨機的東西。換句話說，你幾乎無法控制輸出。這種輸出控制問題被認為是 ChatGPT 的一個弱點 這個問題必須解決。
3. 錯誤或不相關的資訊經常悄悄溜進文中。
我們都知道人工智慧會「產生幻覺」並犯隨機錯誤——這種情況發生的頻率很高，以至於你必須核實它說的每一句話，這既耗時又會減少你使用它所能節省的時間。人工智慧的「幻覺」是將其應用於內容寫作時面臨的最大挑戰之一。
為了應對這種情況，我並沒有主要詢問事實或數據。起初我嘗試過幾次，但事實查核過程本身就很繁瑣，我很快就失去了興趣。
問題在於，無論你是否要求提供事實和數據，GPT 都會在其回覆中隨機拋出不準確的資訊。這意味著你不能只是檢查轉錄文字的流暢度或你是否滿意自己想要表達的觀點——你必須驗證並考慮自己所說的每一句話。這令人非常沮喪。驗證資訊是使用大型語言模型 (LLM) 的基本環節。
既然我在討論bug和幻覺，那我就順便提一下「最糟糕的情況」。有時候，大型語言模型（LLM）會出錯，雖然這種情況並不經常發生，但一旦發生，你就得放棄當前的會話，花點時間把提示貼到一個新的聊天視窗中重新開始。我個人還沒看過ChatGPT出現完全搞笑的故障，但我朋友曾經遇過一個奇葩狀況：
4. ChatGPT的寫作風格：重複且粗俗，語速很快
起初，ChatGPT 的「人聲」聽起來可能很奇怪。但隨著使用次數的增加，你會發現它不僅聽起來像人聲，而且聽起來像一個「正常人」。
OpenAI 的資料集涵蓋了網路的大部分內容——數百萬篇文章和 Reddit 上的個人論壇貼文。遺憾的是，其中許多內容簡直就是垃圾。但由於 ChatGPT 是基於這些內容進行訓練的，因此它捕捉了所有最常見的不良習慣。
因此，當您使用 ChatGPT 創建大量文字時，您會開始注意到一些句式和短語被重複使用。對我來說，最糟糕的兩個例子是以下句式：
- 「從 A 和 B 到 C 和 D，等等。」（例如： 在 TikTok 的世界裡，每個人都能找到屬於自己的一席之地——從 DIY 愛好者和美容專家到寵物愛好者和教育工作者。)
- 「無論你是A或B，等等等等。」（例如： 無論你是剛起步還是想要提升自己，運用巧妙的策略來建立真正的互動都是脫穎而出的關鍵。)
ChatGPT 對這兩種句式結構情有獨鍾，幾乎每次會話都能遇到三、四個。這兩個例子甚至出自他回覆中的同一段。第一個例子中的「在…的世界裡」也是他喜歡用來開頭的方式。這一切都太無聊、太陳腔濫調、太濫用了（當然，這正是 ChatGPT 如此頻繁地使用這些句式的主要原因）。我什至嘗試過明確屏蔽某些短語和句型，但每次請求都以這個小列表開頭：
人們常說，如今幾乎不可能區分人工智慧生成的文本和人類撰寫的文本——但我並不完全認同這種說法。如果你親自嘗試使用這些人工智慧工具，體驗其中的各種問題和不良習慣，你會發現許多蛛絲馬跡。當人們將人工智慧生成的內容與人類撰寫的材料混雜在一起，並對 ChatGPT 的輸出進行大量編輯時，你可以完全掩蓋其真實性。但是，如果內容直接來自語言模型，幾乎原封不動地發布——你就能分辨出來。而且很容易分辨。
5. 難以成功修正或修改大型語言模型（LLM）的輸出。
真正的挑戰在於 ChatGPT 很少能自行解決問題。一旦出現故障，嘗試解釋問題並請求重複審核往往都以失敗告終。
例如，當要求修改字數時，往往得到的字數不變。當要求刪除標點符號時，修改內容會被強調，然後也會加上一個「+」號。當要求修改語氣或風格時，很難全面地實施修改，導致最終呈現的內容風格不統一。
解決方案或許在於反覆發出提示並重新產生 ChatGPT 回复，直到接近理想結果為止。然而，對於寫作者而言，使用 ChatGPT 會迫使他們扮演編輯的角色。
這或許並非人人都會遇到的問題，因為許多作者在創作過程中都會進行一些編輯工作，但這會讓其他人感到困擾。編輯他人的作品或GPT輸出結果的做法是不可取的。
至於出錯的頻率，在每次持續數小時且涉及 30 多項索賠的會話中，總是有可能遇到一些障礙。
結果：我放棄了。
2023年，我花了幾個月的時間嘗試使用ChatGPT，之後兩年它又進行了幾次重大更新，但我的體驗始終沒有改變。我也嘗試過其他大型語言模型（LLM），但即使是那些使用「啟發式」演算法並在回答前進行內部對話的新模型，仍然存在相同的可用性問題。
目前LLM模型 它並沒有加快我的寫作速度——它只會迫使我把時間花在自己討厭的事情上，而不是我喜歡的事情上。如果你討厭寫作，而且永遠不想寫，ChatGPT 或許能幫助你。但如果寫作是你的愛好，或是你的職業，它很可能會讓你抓狂。
最終，我從未發表過任何可以稱之為「人工智慧生成」的內容。每次我嘗試像他們說的那樣「將其融入我的工作流程」時，最終都以碰壁告終，浪費了大量時間，然後當我意識到自己一事無成而截止日期臨近時，我便關閉了程序。
評論被關閉。