由 主講/王曉明教授彙整/唐健華 于 2024年11月11日
类别: 号角月报

AI詐騙新風險:深偽技術下的詐騙手法與防護策略解析

詐騙的目的主要就是金錢,美國是全世界最富裕的國家之一,因而美國人就成為詐騙犯的鎖定目標。據2023年美國聯邦貿易委員會(FTC)的統計,美國人每年因詐騙而損失的金額約100億美金,達到新高,其中假冒詐騙(Imposter Scams)受害者的損失是27億、電子郵件詐騙受害金額24億、投資理財詐騙受害金額14億、羅曼史詐騙(Romance Scams)損失金額將近10億。近年詐騙如此猖獗,很可能與人工智能(AI)的發展有關,例如假冒詐騙受害者的損失高居各類詐騙案件的首位,就是詐騙集團利用AI新科技,假冒成受害者所認識的人(其實不是),成功騙取受害者的信任而謀財。

隨着AI科技的進步,詐騙集團順勢翻新手法,如何才能不落入詐騙集團的網羅?「角聲社區中心」9月28日邀請休士頓大學刑事司法教授王曉明博士專題演講,解析什麼是詐騙?在這個基礎之上,來談人工智能對電子詐騙的影響,並從學術的角度和基層執法的經驗,提供民眾保護自己的智慧,避免成為詐騙受害者,如果不幸受害,如何將損失減到最低(Damage Control)。

詐騙簡介

(一)詐騙之始

《聖經‧創世記》記載雅各騙他哥哥以掃和父親以撒:有天以掃打獵回來,很餓很渴,雅各就利用事先準備好的紅豆湯,跟以掃談條件,要哥哥用長子的名分來交換,以掃沒有多考慮就同意了,於是雅各輕易地得到了長子的名分。按照猶太人的習俗,在繼承家業時,長子可以得到雙倍,但是仍需要父親的祝福,於是雅各和母親聯手,趁以撒老眼昏花,偽裝成以掃,得到了父親對長子的祝福。從《聖經》歷史的角度來看,這大概是人類最早的騙局,因為罪(Sin)進了人心(參《羅馬書》五章12節)。

(二)詐騙核心

從犯罪學的角度來看,詐騙是違反信任的行為,透過獲得受害者的信任而侵犯受害者的利益。人類社會是建立在信任的基礎之上,例如使用信用卡購物,為何一張塑膠卡片就可買到商品或服務?因為整個交易系統是建立在「信任」的基礎之上。商家相信在售出產品或服務之後,可以從發卡銀行收到貨款;又如使用紙鈔購物,不過是一張印了金額的紙,為何人們願意接受呢?因為「信任」,如同美鈔上的銘言「IN GOD WE TRUST」,說明我們因為相信創造宇宙天地的上帝,所以我們相信這一張印了金額的紙,有上帝印證的價值。如果「信任」被違反的話,人類社會制度將瓦解崩潰,因此,詐騙對社會的危害性是十分嚴重的。

成功的詐騙有兩個核心要素,第一是「博取受害者的信任」。如同撒但也要裝成光明的天使(參《哥林多後書》十一章14節),騙子也會裝扮得似模似樣來騙取受害者的信任,2002年有一部電影《神鬼交鋒(Catch Me If You Can)》就是根據1960代著名詐騙犯艾巴內爾(Frank Abagnale, Jr.)的真人真事改編,艾巴內爾假扮飛行員、醫生、律師,使用偽造支票,騙取250萬美金。所以在英文裡,騙子又叫做「行騙藝術家(Con Artist)」。

成功詐騙第二個核心要素是「在同一社區裡」,也就是騙子往往和受害者在同一社群,例如「龐氏騙局」的始祖龐氏(Charles Ponzi)是意大利裔美國人,所以受害者多是義大利裔;21世紀「投資騙局」大亨馬多夫(Bernard Madoff)是納斯達克前主席,受害者多是華爾街投資人或公司;而近年「中領館假冒騙局」的受害人則多為華人。

(三)詐騙套路

詐騙的套路基本上就是「利誘」和「威逼」,最常見的「利誘」是「快速發財套路」,騙徒使用電子設備(主要是手機或電郵)告知潛在受害者「中獎」或「投資賺大錢」,要立即和他們聯絡,只要潛在受害者利慾薰心,跟騙徒聯絡,就會落入詐騙的網羅,成為受害者。相對地,常見的「威逼」是「假冒官署套路」,騙徒謊稱國稅局或移民局,告知潛在受害者「逃稅」或「違法居留」,要立即和他們聯絡,只要潛在受害者害怕,跟騙徒聯絡,就落入了詐騙的網羅成為受害者。詐騙集團不會給潛在受害者時間思考,往往要求受害者立即回應,即使潛在受害者要求提供更多信息,詐騙集團則會引導受害者到騙徒的同夥或網頁。

AI技術

由於電子工具的普及,現在的騙局基本上都是「電子詐騙」。王教授以一張電子工具的進程圖,展示從1984年Motorola生產的世界第一款手持式行動電話(又稱「磚頭手機」)、2007年問世的蘋果手機,到現在智能手機的新時代,來說明詐騙集團如何利用智能手機、電子郵件或應用程式(APP),跨越空間限制,騙取受害者的信任,或是竊取個人資訊,來進一步騙錢,這類電子詐騙又稱「網絡犯罪(Cyber Crime)」。近年AI技術的進步,無形之中又成為詐騙集團的新工具。目前詐騙集團最常用的手法是「深偽技術(Deepfake)」,也就是將AI的人體圖像合成技術應用到詐騙,生成受害者親友的影像,就連聲音也能一模一樣,輕易地騙取受害者的信任。

(一)AI詐騙案例

1. 2024年1月,Kgomotso Mathabe 博士的一段視頻出現在Facebook,推廣一種治療男性勃起功能障礙的藥,由於Mathabe博士是這方面的專家,所以很多人相信。熟知該視頻是由AI深偽技術生成,將受害者引導至一個網站,要求他們輸入銀行詳細資訊,來網購該藥物,結果這些受害者的錢從銀行帳戶被轉走,卻未收到藥。

(資料來源:Nature, doi;

網址https://doi.org/10.1038/d41586-024-02521-3

2. 糖尿病專家Viswanathan Mohan博士出現在多段AI深偽視頻中,代言糖尿病藥物。在印度,Mohan博士的名字幾乎就是糖尿病的代名詞,因此很多人受騙。

(資料來源:Nature, doi;

網址https://doi.org/10.1038/d41586-024-02521-3

3. 2024年2月聯合報報導《透過AI成功變臉為總公司高層,騙走香港分公司8億元》,該新聞揭露詐騙集團先以總公司名義,用電子郵件通知香港分公司主管越洋線上開會,再用深偽技術將騙徒「變臉」成英國總公司高層。當天越洋線上會議,與會者六人除了香港分公司主管是真人,其他五人都是「變臉」的騙徒,香港分公司主管不疑這些「熟口熟面」的總公司高層,遂按「最高指示」,匯出2億港幣。之後,向總公司查詢時,始知受騙。

(二)深偽短板

不過目前的「深偽技術」仍有短板,變臉的表情往往生硬不自然、臉部與脖子的顏色有差別,只要多加注意,還是可以辨識這是AI的「變臉」,而不是真人。例如有一部古裝武俠劇《三千鴉殺(Love of Thousand Years)》,女角因故換人,片商為免重拍,乃用深偽技術將新女角「變臉」。2020年播出後,眼尖的觀眾發現女角的表情生硬、脖子與臉部顏色分離,才揭露女角換人之事。因此詐騙集團使用AI技術的新手法,只要我們多加小心,不要一味地相信電子工具上呈現的畫面和聲音,還是可減少被騙的機率。

預防和損害控制

(一)提高警覺

首先要認識到,每個人都是詐騙集團的潛在目標,受害者不分種族、性別、年齡、教育程度。高學歷不等於不會受騙。遇到素不相識的人提供投資機會時,應該格外謹慎。家中如有長輩,我們也要多關心,有些騙局似乎鎖定長輩。聯邦檢察官麥格瑞斯(Tara McGrath)表示:「每天都有騙子將毫無戒備的老年人捲入騙局,騙取他們的積蓄。我們呼籲所有人在向僅通過電話、短訊或電腦認識的陌生人匯款前,要謹慎行事,並諮詢家人、朋友的意見。」

以下是聯邦調查局(FBI)提供的網路安全提示:

(二)採取行動

當察覺自己成為詐騙受害者時該怎麼辦?首先要保持鎮靜、深呼吸,並採取正確行動:

  1.  如果是自己的圖像在社交媒體平台上被冒用、偽造,立即聯繫該社交媒體平台,要求將其刪除。
  2.  報警並尋求法律行動,特別是視頻對受害者的聲譽構成嚴重威脅或被用於犯罪。
  3.  向消費者保護監管機構報告,在美國的主管機關是「聯邦貿易委員會(Federal Trade Commission)」,網址:https://reportfraud.ftc.gov/
  4.  向Internet Crime Compliant Center (IC3)提交投訴(網址:www.ic3.gov)。
  5.  舉報在線犯罪活動時,儘量提供詳細資訊,包括網站的URL或Internet網址、應用程式的名稱、個人資料、個人網路使用代名、舉報的相關日期和時間等。
AI詐騙新手法|主講/王曉明教授 彙整/唐健華