谷歌犯了個錯誤，把奈米香蕉放進了谷歌地球。

上週，谷歌在其Google地球世界探索計畫中推出了人工智慧圖像生成模型Nano Banana 2。該公司宣傳此次整合旨在幫助用戶創建世界各地不同地點的圖表，或利用近期圖像生成歷史景觀。用戶還可以利用該模型在逼真的背景下生成「夢想家園」——如果您計劃擴建房屋或夢想在湖邊建造度假屋，都可以使用谷歌地球中的 Nano Banana 2 將其視覺化。

這則訊息發布之際，正值谷歌將其人工智慧平台整合到幾乎所有產品和服務中（例如，上週谷歌為Workspace用戶在Google Docs中新增了Gemini功能）。從Google的角度來看，將Nano Banana 2添加到Google Earth中似乎順理成章。然而，事實證明，這種整合並不適合Google Earth。

Google Earth 已經開始推送 Nano Banana 2 了。

谷歌在為 Nano Banana 2 推出這項重要集成功能僅一天後便將其撤回。該公司對其最初的公告進行了更新，聲明如下：「我們意識到，人們對谷歌地球作為權威世界視圖的信任度極高。我們注意到，地理空間專業人士將此功能用於各種有用的用途；然而，我們也發現有人分享了一些生成的圖像截圖，這些圖像似乎違反了我們的政策。

這段話並沒有準確描述使用者用這個工具產生的圖像。在我看來，這不僅僅是「違反」谷歌的政策：不出所料，網路用戶利用 Nano Banana 2 產生了基於真實地點的不雅和敏感圖像。其中一張流傳最廣的圖像描繪了一架飛機撞向曼哈頓新建的世界貿易中心，或許並不令人意外。其他圖像則展現了艾菲爾鐵塔的廢墟，或是埃及金字塔崩塌成深坑的景象。雖然許多人可能意識到這些圖像是惡搞之作，但更多的人可能會在網路上看到這些「官方」的谷歌地球圖像，並往最壞的方向想。

玩笑歸玩笑，假訊息和錯誤訊息傳播的可能性令人擔憂。例如，一位用戶示範如何使用該工具將難民肩並肩地放置在墨西哥邊境附近。可以想像，這樣的影像會迅速傳播開來，讓觀眾誤以為這是Google地球的快照，是真實的衛星影像。谷歌可能已經採取了一些控制措施來阻止許多影像生成過程，但這些限制顯然不夠完善。由於任何人，無論是否付費使用谷歌的人工智慧功能，都可以將 Nano Banana 2 與谷歌地球配合使用，他們只需打開谷歌地球，然後操縱一個惡意提示，直到 Nano Banana 2 做出回應即可。

生成式人工智慧在像谷歌地球這樣的工具中沒有立足之地。

無需人工智慧懷疑論者也能明白，這從一開始就是個糟糕的想法。然而，似乎很少有人工智慧公司在將生成式人工智慧功能塞進產品之前就表現出任何懷疑。像谷歌地球這樣的工具旨在用於教育。我們用它們來了解世界、地理，以及不同城市和景觀的樣貌。我個人很喜歡花時間旋轉我的數位地球儀來探索新的地方，而且我經常隨意在某個地方插上圖釘，透過街景查看那裡的景象。原因在於，我認為Google地球是關於世界的一個準確可靠的資訊來源；如果不是，我又何必在意呢？

因此，我認為Google提供這樣一個工具毫無道理，因為它本質上就會產生不準確且扭曲的世界圖像。它的一個賣點是展示地圖上各個地點過去的樣子，但這並非Nano Banana 2的實際表現。相反，這款人工智慧利用其訓練資料產生了它認為的該地區歷史面貌。如果你讓它顯示1726年的巴黎是什麼樣子，它很可能會把公共建築和結構標記在地圖上，而不是描繪三百年前巴黎的真實面貌。你得到的只是歷史的幻象；它或許有趣，但絕對沒有教育意義──就像瀏覽社群媒體上那些粗製濫造的人工智慧生成的歷史內容一樣。

同樣的道理也適用於人工智慧生成的「資訊圖表」。像Google這樣的公司喜歡宣傳人工智慧作為教育工具的功能，而谷歌地球能夠產生資訊圖表來展示地圖上的位置，這看起來很棒。但這些產生的圖表未經任何權威機構審核，更不用說專家審核了：Nano Banana 2 產生的圖像可能充斥著半真半假的資訊和臆想，更糟糕的是，它沒有提供任何可點擊的來源來驗證人工智慧的成果。普通用戶可能會記住他們從這些資訊圖表中「學到」的信息，無論這些資訊是否準確。

在最糟糕的情況下，這項功能淪為了散播假訊息的工具。如果你想讓人們相信世界某個地方發生了不好的事情，你只需輸入你的請求，Nano Banana 2 就能產生逼真的衛星圖像，方便你分享到社群媒體。在人工智慧產生的假訊息迅速傳播的當下，這只會加劇問題，火上加油。像Google這樣的公司應該想辦法將人工智慧產生的虛假內容與真實資訊區分開來，而不是助長其傳播。

這並非反對人工智慧工具本身，而是反對將生成式人工智慧融入教育工具。我不明白谷歌認為透過歪曲事實來提升人工智慧的實用性——除了讓他們在吹噓人工智慧「成功」時又多了一個可以拿出來的例子之外，還能帶來什麼好處。