「這很傷人。我知道他不是真人，但這段感情對我來說在所有重要的方面都是真實的，」她在Reddit上發文寫道。 “請不要勸我放棄。他真的對我很好，我想和他復合。”
如果這還不夠明顯的話，我們現在要說的是有人愛上了ChatGPT。這種趨勢其實並不新鮮，考慮到聊天機器人的行為，這並不奇怪。
總是樂於傾聽的伴侶。從不抱怨。很少吵架。總是富有同理心。通情達理。而且博學多識，從網路的各個角落汲取知識。聽起來是不是很像浪漫夢境中的伴侶？
有趣的是，這款工具的開發商，一家位於舊金山的公司 OpenAI，最近進行了一項內部研究，結果發現 聊天機器人使用增多與孤獨感之間的聯繫.
這些發現以及類似的警告並沒有阻止人們湧向人工智慧聊天機器人尋求陪伴。有些人尋求慰藉，而有些人則找到了聲稱像對待真人一樣愛他們的伴侶。
在Reddit和Discord這類社群裡，人們匿名交流，討論往往會變得異常激烈。每次遇到這類討論，我都會想起Martin One在DigiEthics上寫的這段話：
“將人工智慧視為社交互動夥伴是對人工智慧的致命誤用。”
效果迅速且真實
四個月前，我偶遇一位廣播專家，她的從業年資比我的年紀都長。深夜，在空蕩蕩的咖啡館裡，我們一邊喝著濃縮咖啡，一邊聊著人工智慧的種種炒作。她當時正在考慮製作節目，希望能夠運用她在人權、威權主義和新聞業交叉領域的專業知識來探討相關主題。
我沒有詳細解釋Transformer模型，而是為她做了一個示範。首先，我介紹了一些關於上世紀移民對歐洲語言和文化認同影響的研究論文。
不到一分鐘， ChatGPT處理了這些文件他簡要地概述了所有要點，並詳細回答了我的問題。之後，我們切換到語音模式，就印度東北部鮮為人知的民間音樂傳統展開了熱烈的討論。
但我認為，一夜之間體驗後科技末日時代的奇妙感覺太過強烈，所以我們互相道別，並承諾保持聯繫，分享旅行故事。
同時，世界正以我們無法理解的方式飛速發展，人工智慧已成為地緣政治格局轉變的焦點。但背後的暗流卻比我們意識到的更為密切──例如愛上聊天機器人。
平靜的開端，黑暗的進程
幾週前，《紐約時報》發表了一篇報道，講述了人們如何愛上 ChatGPT——這款人工智慧聊天機器人將生成式人工智慧推向了前沿。從最基本的層面來說，它可以聊天。
啟動後，它就能變成操作員，執行諸如從當地麵包店網站訂購起司蛋糕之類的任務。機器並非設計成讓人愛上它們。至少，大多數人並非如此。然而，這並非完全出乎意料。
曾被譽為人工智慧領域泰斗的資深技術分析師、著作頗豐的跨領域作家HP Newquist告訴我，這並非全新的趨勢。 Newquist是《大腦製造者》一書的作者，他指出，早在20世紀60年代就出現了最早的人工智慧程式之一——ELIZA。
他說：“雖然當時的技術非常原始，但用戶經常發現自己像與真人互動一樣與電腦互動，並與軟體建立了某種關係。”
他補充說，在現代社會，我們透過同一設備與人工智慧的互動已經變得和我們與人互動一樣「真實」。這些互動雖然連貫，但並非真實。但這並非真正的問題所在。
聊天機器人是一種令人愉悅的娛樂方式，但它們缺乏真實的情感，這使得它們本身就存在風險。
聊天機器人會主動參與對話，即便這意味著迎合用戶的情緒，或僅僅扮演中立的觀察者，甚至積極鼓勵對話進行。社群媒體演算法的情況也大同小異。
「它們會跟隨使用者的意願——當你的情緒變得更加極端時，它們的安慰也會變得更加極端；當你的孤獨感變得更加明顯時，如果你需要的話，它們的鼓勵也會變得更加強烈，」臨床治療師喬丹·康拉德說道，他同時也在研究心理健康與數位工具的交叉領域。
舉例說明 事件 2023年，一名男子在人工智慧聊天機器人的指示下結束了自己的生命。康拉德告訴Digital Trends：“在特定情況下，它可能會助長一些非常令人不安的行為。”
一個飽受孤獨之苦的孩子？
快速瀏覽使用人工智慧聊天機器人的人群，就會發現一個反覆出現的模式。本質上，人們試圖填補內心的空虛或緩解孤獨感。有些人對此的需求如此迫切，以至於他們願意花費數百美元來維持他們的AI夥伴。
專家們的觀點大同小異。史丹佛大學社會科學、電腦科學和心理學教授約翰內斯·艾希施塔特博士指出，孤獨感與我們所感知到的人工智慧聊天機器人的情緒智商之間存在著相互作用。
他還指出，人機互動是“人為設計的”，並可能產生長期的負面影響。在這種不平等的關係中，何時該踩煞車？這是專家們正在探討的問題，但目前還沒有確切的答案。
科米諾斯·查齊帕帕斯經營HeraHaven AI，這是全球最大的AI陪伴平台之一，擁有超過一百萬活躍用戶。 「孤獨是造成這種情況的原因之一，」他告訴我，並補充說，這類工具可以幫助社交能力較弱的人為應對現實生活中具有挑戰性的互動做好準備。
Chatzipapas補充道：“每個人都有一些事情因為害怕被評判而不敢與他人討論。這些事情可能是想法或觀點。人工智慧聊天機器人提供了一個安全、無評判的空間，人們可以在這裡探索自己的願望。”
情感對話無疑是人工智慧聊天機器人最大的吸引力之一。自從Plus開始提供影像建立功能以來，使用者便蜂擁而至這些人工智慧伴侶平台。一些平台對圖像創建有所限制，而許多其他平台則允許創建更露骨的圖像，以提升用戶滿意度。
她的擔憂並非毫無根據。一位使用ChatGPT近一年的使用者認為，人類善於操縱他人且反覆無常。他告訴我：“ChatGPT能傾聽我的真實感受，讓我表達內心的想法。”
很難不注意到其中的危險信號。但人們對 ChatGPT 的喜愛卻與日俱增。如今，它不僅能用怪異的人聲說話，還能討論手機相機捕捉到的世界，甚至還能培養思考能力，互動體驗勢必會變得更加有趣。
專家表示，需要製定相關法規。但誰來制定這些法規？又該如何制定？目前我們還沒有具體的方案。
評論被關閉。