如今看手機時,我開始越來越分不清真假。一張凳子的木紋平滑得令人生疑。櫛瓜煎餅冒出的熱氣……很不自然。上周,當我正對著Pinterest上的一個客廳設計讚歎不已時,卻瞥見了一行免責聲明:AI修改。 AI正向我們的社交動態中灌輸大量內容。有些只是無傷大雅的玩笑。有些則是為了挑動我們的情緒。還有些就是徹頭徹尾的騙局。在智慧型手機螢幕上,這些內容大多逼真得令人驚嘆。如今,我們不得不承受一種心理負擔,那就是不斷地問自己:「這是真的,還是AI生成的?」 AI正在侵蝕我們的現實感。 訂閱《風傳媒 × 華爾街日報》VVIP,限量贈 Tokuyo 智慧體脂計 TM-420(市價 NT$6,980) ☛ 立即訂閱,享限量好禮|送完為止 《華爾街日報》(WSJ)的「Tech News Briefing」播客在上周六推出了一檔三集特別音檔節目「AI與模糊的現實」(AI and the Blurring of Reality),我在其中探討了這一現象。第一集現已上線,主角是一位滿嘴粗話、在Instagram和TikTok上擁有數百萬粉絲的AI奶奶,以及試圖弄清這一切背後邏輯的研究人員。 無論你是否收聽該節目,都不妨看看這篇簡明科普,了解這個全新的網絡生態系統,收好這份實用的生存指南。 步入模擬世界 還記得2023年3月那張教皇穿著寬大羽絨服的照片嗎?就在不久前,AI影像爆紅的情況還只是零星出現。 如今,這已成為常態。谷歌(Google)的Nano Banana和Veo 3等強大模型的問世,讓幾乎所有人都能掌握高品質的視覺生成技術。以前那些破綻,比如六根手指和亂碼文字等,都消失了。艾瑞克、蘇亞雷斯(Eric Suerez)和亞當、瓦塞爾斯坦(Adam Vaserstein)等創作者迅速抓住了這個機會。 在 Instagram 查看這則貼文 Granny Spills 💗(@grannyspills)分享的貼文 去年美國獨立日周末期間,這兩人使用Veo 3生成了Granny Spills的首批圖像,這位虛構的時髦七旬老太身穿奢侈品牌、痴迷粉色、流連於各種派對。該角色的Instagram帳號在一個月內就收穫了100萬粉絲。 在一段Granny給一位世界盃球星化妝的影片下方,一條評論寫道:「我剛才到底看了什麼鬼東西?」當我在社交動態中第一次刷到Granny時,也有同樣的感嘆,在那張圖片裡,她在科切拉音樂節(Coachella Music Festival)上癱倒在小賈斯汀(Justin Bieber)和海莉、比伯(Hailey Bieber)的懷裡。現實中的比伯夫婦與這篇貼文毫無關係。 瓦塞爾斯坦曾花了數年時間,通過搞笑的街頭路人採訪才積累了數百萬粉絲,他對這次的成功感到滿意。「我們發現,把這些AI虛構角色的帳號做大要容易得多,」他說。 Granny和其他AI網紅並不掩飾自己的數位出身。「即使人們知道某樣東西不是真的,也並不妨礙他們樂在其中,」數位模特兒Shudu的創作者卡梅倫、詹姆斯、威爾遜(Cameron-James Wilson)說。他以芭比娃娃(Barbie)和《冰雪奇緣》(Frozen)中的艾莎(Elsa)等深受喜愛的角色為例。 Shudu身材高挑苗條,膚色完美無瑕、容光煥發。當我問及合成超模是否會製造不切實際的審美標準時,威爾遜承認有這種可能,但這並非什麼新鮮事。「我曾幹過10年的時尚攝影師,做過大量的修圖工作,」他說。「我知道幾十年來,我們看到的畫面都不是真實的。」 AI網紅的崛起讓我感到好奇。但更讓我不安的,是那些真假難辨的合成圖像的泛濫:AI烹飪影片、帶有機器配音的AI廣告、AI生成的名人婚禮照片、AI深度偽造的有政治色彩的影片……這樣的例子不勝枚舉。 我們再也不能相信自己的眼睛和耳朵了。去年,AI生成的歌曲首次登上Billboard排行榜,促使法國串流媒體平台Deezer開發了一款合成音檔檢測工具。我的曲庫檢測結果顯示有1%是AI生成的。這足以讓我懷疑自己的品味。 像事實查核員一樣思考 那麼,我們如何判斷某樣東西是否是AI生成的呢? 「我就是幹這行的,而且我非常擅長這個工作,但依然很難分辨,」數位取證專家、達特茅斯學院(Dartmouth College)電腦科學教授哈尼、法里德(Hany Farid)說。 我們的大腦天生就不具備應對這種機制的能力。「回想一下數百萬年的進化史,我們的神經架構並不是為了判斷『灌木叢中的老虎是真是假?』而是直接反應:『有老虎!快跑!』」他說。 法里德表示,現在人們甚至開始懷疑那些可以核實的事件。「這件事發生過嗎?我說發生過。你說沒有。如果我們失去了對現實的共識,我們將步入一個危險的世界。」 我們能做些什麼?除了徹底戒掉網路,你還可以像研究人員那樣去審視社交動態中的內容: 這符合現實世界嗎?AI在處理光照、反光和視覺透視時往往會露出破綻。陰影可能與太陽的位置不符。注意觀察鐵樑等筆直結構上是否出現了波浪線。如果你想進一步深究,可以使用Google街景(Google Street View)交叉比對位置細節。 是誰發布的?審查該帳號的主頁以尋找可疑跡象:比如帳號是否為近期創建、發文頻率是否異常,以及是否存在明顯的騙讚誘餌。 內容是否美好得或者令人憤怒得不像是真的?感受一下自己的情緒波動,質疑一下發布者的意圖。然後問問自己:這種場景發生的可能性有多大?警惕那些「引戰」內容,社群媒體的算法往往會增加那些能引發驚訝、喜悅和憤怒等強烈情緒的內容的曝光度。 正如喬治城大學(Georgetown University)副教授蕾妮、迪雷斯塔(Renee DiResta)對我所說,生成式AI只是一種工具:「你可以拿一把錘子去蓋房子,也可以把它當成武器,對吧?」在如今的社交動態中,留意這把錘子揮向何處是明智之舉。

FACT BOX · 重點整理

  • 來源:PR Times
  • 分類:新聞
  • 相關組織:Google / Deezer / Instagram
  • 原文日期2023年3月 / 去年美國獨立日周末
  • 產品、服務:AI生成技術 / Veo 3