在這個 AI 爆炸成長的年代，有人用 AI 讓工作更順利，詐騙集團也開始學著使用 AI 來製作假圖片、假影片，並且透過網路廣告系統來散佈。這篇文章手哥就以一個利用 AI 假造生成名人對話的影片，搭配仿冒網站進行多層次詐騙的過程和大家分享。未來這樣的詐騙只會越來越多，大家真的要小心防範！
在 Facebook 的假造廣告
因為 Facebook 可以讓廣告主投放圖片、影音廣告，因此詐騙集團通常會首選 Facebook 作為詐騙廣告投放的第一站。
今天我在滑 FB 的時候，就看到一個以中華民國國旗為頭像的粉專正在投放廣告 (粉專名稱下面有「贊助」二字)，不過因為粉專名稱非常特別，就吸引我好奇看了一下。
經過我的調查，這個集團經營了一系列使用中華民國國旗的粉專並投放詐騙廣告，投放平台包含 Facebook、Instagram、Messenger 以及 Facebook Audience Network，廣告在 5/27 開始投放。
使用 AI 偽造知名人士聲音製作假冒影片
接下來我們看一下這個影片是如何製作的。
首先，影片擷取了一段特斯拉創辦人 Elon Musk 在某個場合演說的影片，詐騙集團將自己設計好的內容，利用 AI 配上嘴型，讓人誤導以為 Elon Musk 真的說了這些話。
不過這一段影片比較失敗，如果你聽過 Musk 的聲音的話就很容易辨識。
第二段就以我們熟悉的郭台銘進行仿冒，這一段對話影片的 AI 更精準模擬郭台銘的聲線，嘴型也和講話的內容更為相符，如果不仔細看其實看不大出來。
不過想當然爾，這些對話內容一樣是詐騙集團透過 AI 偽造的。
Facebook 廣告系統對詐騙廣告的審核機制
我把這個影片下載下來，分享到我的 Facebook 提醒朋友要防範這類 AI 假冒廣告，不到 20 分鐘的時間，Facebook 立刻將我的貼文標記為「不實資訊」，同時也提供了詐騙資訊查核網站的連結。
另外，Facebook 也發送了通知給我，告知我發表的內容包含不實資訊，在這個通知裡面可以看到 Facebook 在 5/21 就已經接獲查核機構通報這個影片為不實內容，但廣告系統卻允許詐騙集團從 5/27 開始投放廣告，這也讓人不禁懷疑 Facebook 的廣告系統是否有審查不實內容的廣告？
詐騙廣告只會更真實
AI 技術在這兩年突飛猛進，勢必會被詐騙集團爛用在製作造假影片，以目前技術來說，這些都已經是可以模仿的：
- 講話聲音：技術已相當成熟，模仿的程度端看訓練時使用多少的聲音做訓練。以 iPhone 來說大概需要 1 小時左右的語音紀錄。但對於知名人士來說，在網路上可以輕鬆收集到這個長度的聲音素材。
- 發音語氣：技術仍在進步中，AI 已經可以掌握各種情緒的發音方式，不過目前還不是非常自然。
- 臉部表情：技術仍在進步中，仔細看還是可以發現一些不自然的動作，但過去一年已經進步很多，目前技術已經可以做到臉部表情不那麼有「肉毒」感。
- 肢體動作：技術已相當成熟，可以將任何人的肢體動作套用到另一個人身上。
- 影片場景：技術已相當成熟。
除了 AI 製作的這些假內容外，詐騙集團通常也會製做一些假冒知名媒體的網站取信受害者，大家一定要特別小心防範！