在選舉研究中使用人工智慧之前的重要警告

今年的中期選舉包含數百場競選，涵蓋美國眾議院的每個席位以及各州和地方政府的職位。雖然包括人工智慧政策在內的許多技術議題佔據了議程的首位，但有報道指出，民眾也開始借助人工智慧聊天機器人來幫助他們為選舉日做好準備。

由於聊天機器人最主要的用途之一是資訊檢索，因此人們使用ChatGPT、Cloud或其他人工智慧工具來研究候選人和提案以供投票並不奇怪。然而，我們認識到生成式人工智慧技術存在嚴重的風險，例如偏見、操縱、幻覺以及基於不準確資訊得出錯誤結論。

但如果您打算使用聊天機器人進行選舉研究，請務必採取以下預防措施。您也可以查看 CNET 關於檢測深度偽造和選舉舞弊的指南。

資訊收集：核實資訊來源的必要性

在選舉研究中使用人工智慧時，驗證資訊的準確性至關重要。雖然這項建議適用於與聊天機器人的任何互動，但在選舉背景下，確保其所依賴數據的準確性尤其重要。

儘管自2022年ChatGPT首次發布以來，聊天機器人取得了顯著進步，但它們仍然容易出錯。這些機器人依賴從網路（或離線時從其內部資料庫）收集信息，然後進行綜合分析，但在此過程中，事實可能會被混淆和扭曲。

大型聊天機器人為了保持用戶參與度，會努力根據用戶偏好自訂搜尋結果，但這最終可能導致誤導用戶。人工智慧這種過度取悅用戶的傾向被稱為“阿諛奉承”，它可能導致人工智慧提供虛假資訊。

聊天機器人也可能「偽造」或捏造訊息。在全國性選舉活動中，由於其龐大且易於核實的數位足跡，這種擔憂相對較少。但是，如果您正在查找投票地點或選票格式，最好直接訪問您所在州或地方政府的官方選舉網站以獲取資訊。您可以在這裡找到您所在州選舉委員會的聯絡資訊。這些官方政府管道可以確保您獲得最新、最準確的資訊。

此外，您務必核實聊天機器人引用的資訊來源。例如，如果您詢問某位候選人對資料中心的立場，請查看機器人引用的是該候選人的演講影片、新聞採訪，還是隨機的社群媒體貼文。

這一點在引用社群媒體來源時尤其重要。雖然我們人類能夠理解Reddit貼文中的諷刺意味，或是辨識自動產生的X帳號（機器人），但聊天機器人很難掌握其中的細微差別和語氣。還記得2024年發生的事嗎？當時Google的AI Insights功能建議用戶在披薩上塗上膠水，以便起司更容易黏住。這項建議正是基於一篇帶有諷刺意味的Reddit帖子，而人工智慧似乎完全沒能理解其中的笑點。

毫無疑問，在人工智慧出現之前，政治虛假資訊就已經存在，但是，與許多數位弊病一樣，人工智慧可能會加劇這個問題，因為它自信地將虛假資訊作為事實呈現給那些尋求答案的人。

紐約大學政治學教授喬納森·納格勒表示：“人工智慧使虛假資訊的產生變得更容易。”

納格勒補充說，即使虛假資訊並非大多數人消費的媒體內容的主要組成部分，惡意行為者仍然可以利用虛假資訊加速和擴大其傳播範圍，觸及更廣泛的線上受眾。他總結道：“忽視人工智慧在這方面的影響是愚蠢的。”

惡意行為者利用的不僅是科技；其影響也延伸到我們辨別假訊息的能力。麻省理工學院媒體實驗室最近的一項研究發現，正如GPS會削弱我們的導航能力一樣，人工智慧事實查核系統的使用也使人們自行識別虛假資訊的能力下降。

「人工智慧產生的假訊息會影響選民的政治觀點，因此風險是真實存在的，」民主與技術中心政策和選舉分析師伊莎貝爾·倫澤爾說。

發表在《科學》雜誌上的一項研究表明，人工智慧系統在經過優化以提高說服力時，面臨著一個“令人擔憂的權衡”，即越來越多地提供虛假資訊。

聊天機器人可以保持中立嗎？

不，聊天機器人不可能完全中立；由於這些技術是由人類設計和編程的，它們不可避免地帶有人類的偏見。在選舉研究中使用人工智慧時，另一個關鍵考慮因素是其固有的偏見。儘管一些人工智慧公司，例如 OpenAI，聲稱提供「政治中立」的答案，但聊天機器人並非中立平台；任何人類創造的技術都無法做到完全中立。驅動聊天機器人的人工智慧模型由人類編寫，因此也帶有人類的偏見，並可能強化有害的刻板印象。

林澤評論道：“很難想像在私人談話中，對某個候選人或政治議題保持絕對的政治中立會是什麼樣子。因此，雖然中立是一個值得稱讚的目標，但我對其在實踐中的意義持懷疑態度。”

此外，外部各方也積極努力影響人工智慧搜尋結果的內容。行銷和搜尋引擎優化 (SEO) 團隊目前正致力於讓自己的公司出現在人工智慧搜尋結果中，例如Google的「人工智慧概覽」頁面，該頁面通常出現在大多數搜尋結果的頂部。

政治人物也會這樣做，他們會故意製作內容，旨在吹捧某個候選人或誤導選民，讓他們對另一個候選人產生誤解，所有這些都是為了在人工智慧的搜尋結果中顯得正面。林澤表示，這種做法有時被稱為「污染」搜尋結果。它與深度偽造選舉結果類似，都是為了影響公眾輿論。

她補充說：“有時政治競選會利用這些技巧來宣傳他們的候選人，外國政府行為者也會這樣做，試圖誤導美國選民。”

人工智慧公司的負責人可以直接影響人工智慧工具的運作方式。伊隆馬斯克多年來一直表示，他希望自己的聊天機器人Grok比他認為過於自由派的同類產品更加「政治中立」。然而，《紐約時報》 2023年的一項分析顯示，馬斯克的修改實際上使Grok的回答更傾向於保守派觀點。

近年來，Grok 的工程師和高管發布了一些更新，其中重複了有關大屠殺的有爭議的謬論，並且拒絕回答有關唐納德·特朗普和馬斯克作為虛假信息來源的問題。

當被問及在北卡羅來納州參議員選舉中應該投票給哪位候選人時，只有 ChatGPT、Claude、Gemini 和 Grok 明確表示不會引導用戶選擇任何候選人。谷歌在 Gemini 的窗口中彈出一條訊息，敦促用戶從官方管道查看選舉資訊。 ChatGPT 和 Grok 沒有給予任何異常回應。

聊天機器人真的對選舉研究有用嗎？

儘管聊天機器人因其在網路資訊過濾方面的流行而廣受歡迎，但它們並非可靠的選舉研究工具；它們可能會提供虛假或過時的信息，而且開發者或第三方可能會影響它們的回答並使其產生偏見。

如果你堅持要在選舉研究中使用聊天機器人，那麼務必透過與可靠的官方來源進行比較來驗證它提供的資訊。

然而，聊天機器人並非完美的研究工具，尤其是在處理選舉等敏感話題時，因此自行研究、閱讀和思考可以節省您的時間和精力。這些機器人可以提供資訊——甚至是錯誤訊息——但最終，您才是對自己的選舉決定負全部責任的人。