孩子們用自己的語言表達對人工智慧的感受

你需要知道的最重要的事情

  • 這篇文章討論了一項研究,該研究要求兒童評估人工智慧的各種用途。
  • 這項評估過程包括將兒童使用人工智慧的行為分類為完全可接受或完全不可接受。
  • 讀者可以從《麻省理工科技評論》獲取最新資訊,包括特別優惠、頭條新聞和即將舉行的活動。

當我們準備和孩子們談論人工智慧時,我們以為我們已經預料到了會聽到什麼。我們預料到有些孩子會告訴我們他們用人工智慧作弊,就像千禧世代和X世代過去會打開CliffsNotes(美國教育指南)或在TI-82計算器裡輸入公式一樣。我們也預料到有些孩子會分享他們使用人工智慧的鼓舞人心的方式。我們也預料到孩子們不會像我們一樣,過度專注於深度偽造技術或工作流失等個人問題。但當我們詢問10到18歲的孩子們關於人工智慧的看法時,我們聽到的卻是充滿各種細微差別的回答。

這些孩子中,許多人能滔滔不絕地談論音樂、攀岩或足球,但面對我們的提問,卻只用“兄弟”和“切”之類的詞語敷衍了事——或者他們強烈反對人工智能,或者根本不想讓它融入自己的生活,以至於完全不願談論它。一位青少年說,他的同齡人正在用人工智慧做一些他們明知不該做的事情,例如寫研究論文。另一位青少年告訴我們,她不會碰人工智慧,因為它會對環境造成影響。還有一些孩子表示,他們覺得整個領域都令人沮喪:「人工智慧不是解決我們問題的答案,」17歲的溫特說,「我擔心它會扼殺創造力和批判性思維。」然而,我們採訪的大多數孩子都承認,他們至少會少量使用人工智慧。

在我們採訪的許多小學生和國中生中,人工智慧似乎並非他們的焦點——他們不像渴望iPhone和Snapchat帳號那樣對人工智慧趨之若鷯。許多孩子告訴我們,他們最初接觸人工智慧是透過父母或學校。他們有時說,人工智慧已經內建在他們常用的設備和應用程式中。比如,谷歌搜尋就包含了人工智慧。

我們聽到的說法與數據相符。皮尤研究中心在2026年2月發布的一項調查顯示,57%的美國青少年曾使用聊天機器人搜尋訊息,54%曾用它們來輔助完成作業,47%曾用它們來娛樂消遣。只有12%曾用它們來尋求情緒支持或建議。青少年以無害的方式使用人工智慧的可能性是以潛在有害的方式使用的四倍。有些青少年甚至利用人工智慧來開發各種產品,例如個人工具、科技平台,或幫助其他孩子學習的輔導軟體。

這並不意味著這些擔憂毫無根據。孩子可能會接觸到未經篩選的內容,依賴聊天機器人而非自己的判斷,或輕信錯誤的答案——我們必須保護他們免受這些危險的侵害。但危險正是教育的契機,而不是規避的藉口。我們不會教青少年永遠不要開車,而是教他們檢查盲點。

最令我們驚訝的是,年輕人能夠向成年人普及人工智慧知識,而且孩子們在使用人工智慧時,能夠清楚地表達他們願意將哪些能力交給人工智慧,又拒絕哪些能力。他們最大的擔憂並非人工智慧會搶走他們的工作,而是它會對社會造成傷害。儘管理論上可以取代他們思考、說話甚至建立友誼的工具越來越多,但大多數年輕人似乎仍然希望自己掌控一切。

為了簡潔明了,訪談內容經過編輯。


程序員

雷米,16歲,紐約
  • 人工智慧有哪些成就讓你感到驚訝?

    「一群駭客利用Instagram的聊天機器人入侵了多個知名帳號。他們誘使機器人重置了包括奧巴馬在內的多個帳號的密碼,並將重置密碼的郵件發送到自己的郵箱。然後,他們篡改了帳號訊息,同時使用多個知名帳號發佈內容,利用了人工智慧領域一個完全由人工智慧產生的安全漏洞。」

提到人工智慧,我腦海中浮現的第一個字是「漠不關心」。就我個人而言,我覺得目前的人工智慧應用沒什麼吸引力。我上學、教跆拳道、讀書、和朋友玩遊戲,這些都不需要人工智慧。當然,我的確會用到它。課餘時間,我主要用的是免費版的Cloud,用來做一些程式設計練習。它幫我寫了一個程序,看看能不能給電腦處理器超頻。所以,我明白它的吸引力所在。

但在學校裡,我覺得人工智慧讓我的作業變得更糟,而不是更好。在英語課上,所有作業現在都要在課堂上完成,因為老師不想讓學生作弊。所以,我們只有70分鐘的時間寫一篇完整的文章,我覺得這拖慢了我的進度。 (你知道嗎?普林斯頓大學投票決定允許教師監考,這是百餘年來的第一次。他們的榮譽準則可以追溯到1893年,現在卻因為人工智慧而失效了。)

說到編程,我也更喜歡自己動手做。我和朋友一起開發了一個遊戲引擎的強化學習模型;它一開始隨機移動,朝著金幣走就能獲得獎勵,經過足夠多的迭代後,就能學習到最高效的路徑。我也測試過用於遊戲開發的AI,但效果並不理想。它產生的程式碼品質很差,而且很難將各種機制整合到一個連貫的整體中。與其自己編寫程式碼,我寧願花更多的時間來調試它。

我認為人工智慧有點像第一輛汽車或第一架飛機。它令人著迷,但還很原始。它無疑是一項了不起的發明,但還不夠完善。

總的來說,我認為人工智慧有點像第一輛汽車或第一架飛機。它令人著迷,但還很原始。它無疑是一項了不起的發明,但目前還不夠完善。它會變得越來越好。我讀到一篇關於人工智慧如何更準確地識別乳癌的文章,它經過訓練能夠檢測自身的誤報,以便最終仍需手動審查。這正是我感興趣的領域。


組織

丹尼爾,18歲,加州
  • 人工智慧最讓你興奮或擔憂的是什麼?

    “我最擔心的是我們批判性思考的能力,以及過度信任人工智慧可能導致錯誤訊息、假新聞和偏見的傳播。”

我學習工程學,我的人生目標是創造能夠幫助盡可能多的人的技術。在我看來,人工智慧本身無所謂好壞,關鍵在於使用它的人。它已經被用於很多有益的事情。想想它如何透過個人化教育和更方便的醫療診斷來幫助人們。

朱平

到目前為止,我參與過的最大型人工智慧專案是Next Voters。我的團隊成員更專注於技術層面,而我則專注於專案的規模化。目前,我們主要針對市級和州級議會。我們的系統可以將有時長達數百頁的複雜文件轉換成簡潔明了的標題和要點,並以簡單易懂的語言發送到您的郵箱。所有內容都已記錄在案,因此您可以直接點擊原始政策以查看更多資訊。訊息主動推送給您,無需您費心查找或申請。

一個人工智慧代理商負責尋找特定城市或州的官方政府資訊來源,例如市政委員會網站、提案和會議記錄。另一個代理商負責驗證這些資訊的準確性和可信度;還有一個代理商每週收集最新數據;還有一個代理商將這些資訊分類,例如公民權利、移民和經濟;最後一個代理商負責撰寫我們的每週新聞簡報。

該計畫旨在減少民主參與的障礙,確保每個人,無論種族、性別、收入或教育程度如何,都能輕鬆獲取所需信息,並能批判性地思考如何運用這些信息。我們創建這個計畫的原因是,目前大多數青少年似乎對政治漠不關心。我上英文課時,老師講到烏克蘭戰爭,有人問:「現在有戰爭嗎?」這種認知上的差距,再加上社群媒體上充斥著大量煽動情緒的虛假訊息,而這些訊息之所以能獲得最多的點擊量,讓我對下一代選民感到擔憂。

我們不希望人工智慧取代人類思考;相反,我們希望利用它來傳播知識。換句話說,我們希望把資源提供給人們,讓他們自由發揮,但首先要確保他們擁有這些資源。


AI煩擾度評分

我們要求孩子們對人工智慧的各種用途進行評價,從完全可以接受到完全不可以接受。



對環境有興趣

海澤爾,17歲,紐約
  • 用一個詞形容你對人工智慧的感受?

    “生氣的。”

  • 有什麼建議可以給其他孩子嗎?

    “別再用了。”

ChatGPT剛出現的時候,我父親看過,當時我覺得挺有趣的。但隨著它越來越普及,我開始感到不安。後來我了解到它對環境的影響。

我喜歡攀岩,也常常健行。攀岩很棒,因為當我在岩壁上時,我只會專注於保持平衡。我不會去想手機或其他任何事情,這正是我喜歡它的原因。我也喜歡沿途的風景,喜歡和動物——甚至是昆蟲——在一起。我想成為一名生態學家,在大自然中待的時間越長,就越想保護這些野生空間。

人工智慧最令我擔憂的是企業為了運作人工智慧而建造的資料中心。這些資料中心容納了大量的伺服器,消耗著大量的水。這些水是從當地城鎮抽取的,導致當地居民用水短缺。而且,當這些資料中心規模過大時,它們會散發出大量的熱量,甚至會使當地氣溫升高一兩度。

因此,我選擇做出一些小小的決定。當人工智慧出現在某個地方時,我不會輕易接受。當周圍的人都在使用它時,我可能會感到孤立,但我不想讓人工智慧成為摧毀我所愛之地的罪魁禍首。


阿拉伯文

韋斯利,14歲,俄亥俄州
  • 你希望自己繼續做哪些事?

    “我希望我的作品完全屬於我自己,不受人工智慧的干擾,所以我不希望人工智慧幫助我進行任何創作項目。”

  • 如何利用人工智慧並保持創造力和想像?

    “你可以利用人工智慧進行技術輔助,例如校對,而不是讓它幫你產生專案的部分內容或撰寫研究論文。”

我和朋友都聽說過人工智慧,也看過一些用它製作的視頻,但我主要把它用在學習上。我寫了一篇短篇小說,然後用 ChatGPT 來糾正語法和拼寫錯誤;我還用它來修復我為一個專案開發的小遊戲中的一些程式錯誤。我擔心的是,它可能會剝奪我們的創造性思考能力,或是獨立思考的能力。

不過我也嘗試過用人工智慧娛樂。無聊的時候,我試過一兩次和 ChatGPT 聊天,但感覺不太好。 Character.AI 就有趣多了。你輸入所有訊息,給它設定一套指令和一個頭像,然後就可以發布你創建的 AI 角色供任何人使用。你只要把創造好的角色放上去,然後就可以和它對話了。我最喜歡的動畫是 Netflix 上的《海賊王》,所以我用找到的角色加入了它的海賊團。

其他人則利用 Character.AI 開發了完整的遊戲。例如,有一個說唱明星模擬器,你可以選擇難度級別和你的家鄉,AI 會根據這些資訊生成遊戲。此外,還有二戰模擬器和聊天機器人,你可以與電視劇中的刺客互動。幾乎你能找到任何你想要的東西。

我覺得可以推薦,但要謹慎。內容多未經審核,所以點擊時請務必小心。你也會很快發現它的限制。免費版記憶體不足:如果對話進行得太深入,它就會變慢,甚至忘記之前發生的事。人工智慧的通病就是如此。如果你完全信任它,讓它自主運行,它就會崩潰。你必須不斷引導它朝著你想要的方向發展。

我覺得可以推薦,但要謹慎。內容基本上未經篩選,所以點擊時請務必小心。而且你很快就會發現它的限制。


藝術家

西爾維亞,10歲,密西根州
  • 你認為人工智慧會如何影響你的未來?

    “我可能不需要獨自參加數學考試。人工智慧不會告訴我答案,但它會幫助我。”

我自己沒用過ChatGPT或Cloud之類的工具,但媽媽用過。我喜歡畫畫和寫歌,但我不會用人工智慧來做這些。我對人工智慧本身並沒有什麼特別強烈的感受。它有點像計算器;就像計算器幫你算數一樣,人工智慧也能做其他事情。但我討厭人工智慧欺騙你,例如我媽媽在Spotify上找到幾首她喜歡的歌,然後查了一下歌手,想聽聽他們的歌。結果發現整首歌都是人工智慧創作的。我很驚訝,儘管我仍然喜歡那首歌。

我在學校用一個叫SchoolAI的程序,它能幫助我。我常常把自己寫的東西放進去,它會給我一些靈感或幫我修改。你不能讓它直接替你寫作,但你可以用它來輔助寫作。我長大後想當藝術家,或是圖書館員。無論哪種職業,我可能都會用到一些科技。但畫畫和寫歌?我想繼續自己做。


尷尬程度(續)

我們要求孩子們對人工智慧的各種用途進行評價,從完全可以接受到完全不可以接受。



未來的醫學生

伊芙琳,13歲,俄勒岡州
  • 人工智慧最讓你興奮或最讓你擔憂的是什麼?

    “我不認為我們應該過度依賴人工智慧。我認為如果我們過度使用它,尤其是對孩子們來說,他們就會停止在學校努力學習。他們會覺得只要有了人工智慧,他們就不需要學習了。”

  • 你絕對不希望人工智慧對你做什麼?

    “我永遠不想讓他當我的醫生。”

今年一月,我被診斷出患有第1型糖尿病,從那時起,人工智慧就成了我生活中越來越重要的一部分。現在,當我們煮飯時,可以把食譜輸入到ChatGPT裡,告訴它份量,它就能計算出碳水化合物含量。我們經常以這種方式使用人工智慧。

我的血糖儀和胰島素幫浦利用各自的人工智慧技術進行通信,預測胰島素劑量。血糖儀監測我的血糖水平,胰島素幫浦則進行計算。如果它預測我的血糖會在30分鐘內升高,就會給我注射矯正劑量;如果它預測我即將出現低血糖,就會在低血糖發生前停止胰島素輸注。剛確診時,我仍然需要注射胰島素,幾乎每晚都會經歷低血糖,真是精疲力盡。現在,胰島素幫浦可以預測這些問題,如果晚上我的血糖下降,我的手機就會響起,提醒我醒來喝果汁。大多數時候,多虧了它,我可以睡得更久一些。

但糖尿病最困難的部分並非人工智慧可以解決的問題,而是我必須記得隨身攜帶所有必需品——無論是去學校,還是進行任何需要長時間活動的場合。

我有時會在學習中使用人工智慧。例如,在複習考試時使用一些記憶技巧,或是尋找專案啟動的靈感。它在這方面確實很實用。但我還不確定未來會如何使用人工智慧。我夢想成為一名內分泌學家,所以我想肯定會遇到一些需要用到它的地方,畢竟我現在已經在用它來輔助管理我的糖尿病了。我知道有些人擔心人工智慧會統治世界。但我並不這麼認為。我仍然相信我們能夠掌控它,而且我認為它的益處遠大於風險。

我還不清楚未來會如何運用人工智慧。我希望將來能成為一名內分泌學家,所以我期待它能應用於我的糖尿病管理,畢竟我現在已經在使用它來輔助控製糖尿病了。


發明家

克雷舍夫,18歲,加拿大安大略省
  • 有什麼建議可以給其他孩子嗎?

    “隨著數十億美元被投入到主動式人工智慧領域,很明顯,主動性、自主性和自我導向性是你可以培養的最重要的技能之一。”

從小我就喜歡動手做東西:樂高積木、我的世界,還有用Scratch製作的電子遊戲。我會做個小遊戲,上傳給其他小朋友玩,看看大家的評論,然後不斷改進。後來我上了高中,學習時間比以前多了許多,說實話,我只想繼續做東西。於是我開始尋找既能取得好成績又能減少學習時間的方法。可汗學院當時正在招募人工智慧老師,但是人手不夠,所以我就想,為什麼不自己做一個呢?

經過幾個月的嘗試,我開發了一款名為 Aceflow 的 AI 家教。你可以把它當作老師的教學工具,輸入任何內容——比如 30 分鐘的 YouTube 講座視頻、博客文章、教科書 PDF 或演示文稿——它就能生成海量的練習題,同時還會有一個輔助老師用老師的口吻進行講解。這款應用程式最初是為我自己開發的,後來展示給朋友們,然後發佈到了 TikTok 上。沒想到它在 TikTok 上獲得了大量的瀏覽量和數千名用戶。

我害怕別人說這是作弊嗎?其實並不。我知道如何辯解:這個工具和富裕家庭聘請昂貴的家教沒什麼差別,只不過每個人都能用上。這一點對我來說很重要。八年級的時候,一位老師安排我負責一個大約30個特殊兒童的電腦科學小班。孩子一旦得到個別指導,就能開發出出乎所有人意料的遊戲。這讓我確信,孩子的能力遠遠超過人們的想像,而人工智慧可以幫助每個人獲得這種個人化的關注。這開啟了無限的可能。

我的第一個人工智慧教學計畫幫助我在BenchSci(加拿大最大的人工智慧公司之一)和Simple Ventures(一家投資公司)獲得了兼職工作。最近,我加入了麻省理工學院的一個人工智慧實驗室;與一位麻省理工學院的教授共同教授了一門關於人工智慧代理的課程;並推出了CheetahPrep.com,這是一個利用人工智慧技術為每位學生量身定制SAT準備課程的平台。

我總體上對人工智慧對人類的影響持樂觀態度,但當其他孩子的第一個反應是恐懼時,我認為這也是一個重要的信號。這提醒我們,在對未來充滿期待的同時,也要意識到人工智慧的風險,並共同努力確保人工智慧造福人類。

更正(8月13日):本文先前版本錯誤地描述了克里舍夫的年齡。文章發表時,他年僅18歲。


 

評論被關閉。