AI商業詐欺…冒充高管 盜走企業款項
AI商業詐欺,目前正對企業帶來新的威脅,刑事局預防科科長林書立表示,今年2月,香港爆發詐騙金額高達2億港幣的AI詐騙事件,詐騙集團利用AI深偽技術偽裝企業高層主管下令匯款,企業款項匯出後焦急如焚,詐騙集團又會推出協助追回詐款服務,形成連環騙。
企業除了防範資安機密被駭,AI深偽詐騙也成新威脅,今年2月詐騙集團利用深偽技術,收集一家跨國企業英國總部多位高層臉部畫面跟聲音數據,訓練錄製多位高層發言影片,通知香港分公司員工參加視訊會議,會議中高層集體變臉,香港職員看到熟口熟面,不疑有他,照長官指令將公司款項分五次轉帳到指定戶頭,一周後才發現是詐騙。
AI詐騙日新月異,AI深偽影片讓跨國企業信以為真是跟高層主管通話,AI也能收集特定人的說話語氣及人際關係情報,模仿當事人語氣以AI生成文字信件內容,讓人在不察覺有異下,引導對方進行匯款。
隨AI技術發展,KPMG預測未來十年對人類造成重大影響因子中,假內容跟網路攻擊同樣並列第二,成為人類社會必須面對的課題。
企業要防堵AI深偽詐騙不易,達文西個資暨高科技法律事務所所長葉奇鑫舉一個有趣例子,他表示,大陸公安過去打詐時,分享AI深偽詐騙辨別的簡單技巧,就是要對方在螢幕前伸出手指在臉前晃一下,因為AI深偽沒有訓練好,臉部畫面就會產生水波紋,小測試就能偵測AI深偽。
但如今AI深偽技術也克服揮手測驗了,葉奇鑫說,大陸公安又推出第二種AI深偽還沒學會的辨識方法,就是要對方視訊時,先張嘴伸出舌頭捲一下,若是跟董事長開會,這種測試方法根本行不通,因此AI深偽辨識目前仍是不容易執行。