《假故事．真詐騙》系列之 3

AI時代，我們開始分不清真假

——當世界越來越像真的，人類最危險的，可能不是AI，

而是「信任崩壞」

文／故事長 吳澤謙

生成式 AI 技術爆發後，當代科技圈與商業社群共同凝聚出的一種主流核心觀點：

「未來最貴的能力，不是表達，而是判斷。」

到了2025、2026，

我開始覺得：這句話可能不是趨勢，而是警告。

因為我們正在進入一個：真假開始混在一起的時代。

而且最可怕的是：很多假的東西，開始比真的更像真的。

以前的人，害怕資訊不夠。

現在的人，是資訊太多。

以前的人，怕沒有答案。

現在的人，是答案太像真的。

這是AI時代，最危險的地方。

2024年初，香港發生一起震驚亞洲金融圈的案件：

香港跨國工程集團奧雅納（Arup）一名財務主管收到AI深偽生成的視訊會議通知。會議中，假扮的總公司老闆、財務長等多名「同事」均係偽造。該主管依指示分15次匯出2億港元，事後才發現全場參與者僅其本人為真人。此案震驚亞洲金融圈。

那意謂：

未來你看到的臉、

聽到的聲音、

甚至一起開會的人，

都不一定是真的。

這已經不是科幻電影。

而是：

2025年的現實。

台灣2026年2月，刑事局破獲了台灣首起結合「星鏈（Starlink）」與「AI深偽（Deepfake）技術」的跨境盜轉案。

該集團利用深偽技術製作假的臉部驗證影片，成功破解對岸的數位支付身分認證，導致55名中國籍被害人受害，總財損高達新台幣2億元。

詐騙集團利用AI生成臉部驗證影片，

再結合數位金融驗證機制，成功盜轉存款。

55人受害，財損超過兩億元。

還有，苗栗縣長鍾東錦的肖像照，也被不肖人士利用AI技術，於網路推銷非苗栗公館生產的油甘果。

此網路假代言手法，驚動苗栗縣警察局，以「最速件」查辦，發現發布者帳號來自境外，呼籲民眾勿購買，以免受騙上當。

以前我們以為：

「有本人畫面就安全。」

現在，連「本人」都可能是假的。

所以「未來最大的問題，不是AI會不會取代人，

而是：人開始不知道自己該相信什麼。」

現在的問題，

早就不是：「有沒有資訊。」

而是：

「資訊真假混在一起。」

這件事，

比很多人想像得更嚴重。

美國2025年總統選舉期間，

AI深偽影片大量擴散。

候選人沒講過的話，

被生成。

沒發生過的畫面，被剪出來。

甚至，連群眾情緒都能被AI精準操控。

韓國2025年也出現大量AI名人詐騙。。

詐騙集團大量運用深偽（Deepfake）技術，偽造知名藝人與政治人物的影像及聲音來進行犯罪。指標性詐騙案例韓星李政宰遭冒用：詐騙集團利用 AI 模擬李政宰的臉孔與聲音，在半年內以甜言蜜語誘騙一名女粉絲陷入愛情陷阱，詐取高達 5 億韓元。政治人物遭仿冒：韓國甚至出現冒用政治人物（如李在明）形象的 AI 假新聞與偽造訪談影片，誘騙民眾進行虛假投資。

詐騙集團利用知名財經主持人、

明星、企業家形象，生成投資影片。

很多白領階級、高學歷族群受害。

原因很簡單：影片太真了。

日本，則開始出現另一種更安靜的恐懼。

很多老人收到「兒子聲音」的電話。

聲音幾乎完全一樣。

哭聲、語氣、停頓，

都是真的。

只有一件事是假的：

那不是他兒子。

現在的AI，已經不是「機器」。

它更像：一個超級故事生成器。

它可以：

生成臉、生成聲音、生成情緒、

生成信任感。

甚至：

生成一個「你願意相信的人」。

而這，才是真正危險的地方。

因為人類從古到今，本來就是靠故事活著。

宗教是故事、

品牌是故事、

國家是故事、

愛情是故事、

成功也是故事。

故事本來沒有錯。

問題是：

當AI開始大量生產故事，

而人類又失去判斷能力時，

整個社會會開始出現一種：

「集體信任崩壞。」

未來企業真正的競爭力，可能不是科技。

而是：「可信度。」

因為當世界越來越假，

真正值錢的，

反而是：真。

真品牌、真人、真關係、

真信任、真體驗。

未來最昂貴的東西，可能不是AI。

而是：「還願意相信彼此的人類。」

所以《假故事．真詐騙》專欄，

真正想談的，其實不是詐騙。

而是：

當世界開始真假難分時，

人類要如何重新建立信任？

我越來越覺得，未來最重要的教育，

可能不是背知識。

而是：「真假識讀能力。」

包括：

- 你有沒有能力停下來？

- 有沒有能力查證？

- 有沒有能力懷疑？

- 有沒有能力分辨情緒操控？

- 有沒有能力看懂故事背後的目的？

因為AI時代，真正危險的，

可能不是「沒有答案」。

而是：每一個答案，都太像真的。

最後，與讀者共勉：

未來最需要防守的，

可能不是你的手機、你的帳戶、

你的密碼。

而是：你的判斷力。

因為當一個人開始失去判斷力，

世界上所有假的東西，

都會變得像真的。