在這個 AI 爆炸成長的年代,有人用 AI 讓工作更順利,詐騙集團也開始學著使用 AI 來製作假圖片、假影片,並且透過網路廣告系統來散佈。這篇文章手哥就以一個利用 AI 假造生成名人對話的影片,搭配仿冒網站進行多層次詐騙的過程和大家分享。未來這樣的詐騙只會越來越多,大家真的要小心防範!
在 Facebook 的假造廣告
因為 Facebook 可以讓廣告主投放圖片、影音廣告,因此詐騙集團通常會首選 Facebook 作為詐騙廣告投放的第一站。
今天我在滑 FB 的時候,就看到一個以中華民國國旗為頭像的粉專正在投放廣告 (粉專名稱下面有「贊助」二字),不過因為粉專名稱非常特別,就吸引我好奇看了一下。
![明知是詐騙廣告還通過審核?臉書系統有在審核詐騙廣告嗎? image-50 明知是詐騙廣告還通過審核?臉書系統有在審核詐騙廣告嗎? image-50](https://www.soft4fun.net/wp-content/uploads/2024/05/image-50.png)
![明知是詐騙廣告還通過審核?臉書系統有在審核詐騙廣告嗎? image-45 明知是詐騙廣告還通過審核?臉書系統有在審核詐騙廣告嗎? image-45](https://www.soft4fun.net/wp-content/uploads/2024/05/image-45.png)
經過我的調查,這個集團經營了一系列使用中華民國國旗的粉專並投放詐騙廣告,投放平台包含 Facebook、Instagram、Messenger 以及 Facebook Audience Network,廣告在 5/27 開始投放。
![明知是詐騙廣告還通過審核?臉書系統有在審核詐騙廣告嗎? image-46 明知是詐騙廣告還通過審核?臉書系統有在審核詐騙廣告嗎? image-46](https://www.soft4fun.net/wp-content/uploads/2024/05/image-46.png)
使用 AI 偽造知名人士聲音製作假冒影片
接下來我們看一下這個影片是如何製作的。
首先,影片擷取了一段特斯拉創辦人 Elon Musk 在某個場合演說的影片,詐騙集團將自己設計好的內容,利用 AI 配上嘴型,讓人誤導以為 Elon Musk 真的說了這些話。
不過這一段影片比較失敗,如果你聽過 Musk 的聲音的話就很容易辨識。
![明知是詐騙廣告還通過審核?臉書系統有在審核詐騙廣告嗎? image-47 明知是詐騙廣告還通過審核?臉書系統有在審核詐騙廣告嗎? image-47](https://www.soft4fun.net/wp-content/uploads/2024/05/image-47.png)
第二段就以我們熟悉的郭台銘進行仿冒,這一段對話影片的 AI 更精準模擬郭台銘的聲線,嘴型也和講話的內容更為相符,如果不仔細看其實看不大出來。
不過想當然爾,這些對話內容一樣是詐騙集團透過 AI 偽造的。
![明知是詐騙廣告還通過審核?臉書系統有在審核詐騙廣告嗎? image-44 明知是詐騙廣告還通過審核?臉書系統有在審核詐騙廣告嗎? image-44](https://www.soft4fun.net/wp-content/uploads/2024/05/image-44.png)
Facebook 廣告系統對詐騙廣告的審核機制
我把這個影片下載下來,分享到我的 Facebook 提醒朋友要防範這類 AI 假冒廣告,不到 20 分鐘的時間,Facebook 立刻將我的貼文標記為「不實資訊」,同時也提供了詐騙資訊查核網站的連結。
![明知是詐騙廣告還通過審核?臉書系統有在審核詐騙廣告嗎? image-49 明知是詐騙廣告還通過審核?臉書系統有在審核詐騙廣告嗎? image-49](https://www.soft4fun.net/wp-content/uploads/2024/05/image-49.png)
另外,Facebook 也發送了通知給我,告知我發表的內容包含不實資訊,在這個通知裡面可以看到 Facebook 在 5/21 就已經接獲查核機構通報這個影片為不實內容,但廣告系統卻允許詐騙集團從 5/27 開始投放廣告,這也讓人不禁懷疑 Facebook 的廣告系統是否有審查不實內容的廣告?
![明知是詐騙廣告還通過審核?臉書系統有在審核詐騙廣告嗎? image-51 明知是詐騙廣告還通過審核?臉書系統有在審核詐騙廣告嗎? image-51](https://www.soft4fun.net/wp-content/uploads/2024/05/image-51.png)
詐騙廣告只會更真實
AI 技術在這兩年突飛猛進,勢必會被詐騙集團爛用在製作造假影片,以目前技術來說,這些都已經是可以模仿的:
- 講話聲音:技術已相當成熟,模仿的程度端看訓練時使用多少的聲音做訓練。以 iPhone 來說大概需要 1 小時左右的語音紀錄。但對於知名人士來說,在網路上可以輕鬆收集到這個長度的聲音素材。
- 發音語氣:技術仍在進步中,AI 已經可以掌握各種情緒的發音方式,不過目前還不是非常自然。
- 臉部表情:技術仍在進步中,仔細看還是可以發現一些不自然的動作,但過去一年已經進步很多,目前技術已經可以做到臉部表情不那麼有「肉毒」感。
- 肢體動作:技術已相當成熟,可以將任何人的肢體動作套用到另一個人身上。
- 影片場景:技術已相當成熟。
除了 AI 製作的這些假內容外,詐騙集團通常也會製做一些假冒知名媒體的網站取信受害者,大家一定要特別小心防範!