udn 陽光行動 AI時代新挑戰
AI犯罪威力如核武,股神巴菲特今年5月在波克夏年度股東大會上預警,AI詐騙恐將成為高速成長產業 圖/AI自動生成模擬情境圖

AI犯罪威力如核武,股神巴菲特今年5月在波克夏年度股東大會上預警,AI詐騙恐將成為高速成長產業 圖/AI自動生成模擬情境圖

AI造假難辨 潘朵拉盒子打開了

AI犯罪威力如核武,股神巴菲特今年5月在波克夏.海瑟威公司(Berkshire Hathaway)年度股東大會上預警,AI詐騙恐將成為高速成長產業,他形容「世界已經將精靈從瓶子中釋放出來」,無法預測好處跟壞處發展,必須審慎注意後果。

巴菲特看過自己深偽影片之後非常驚訝,坦言連他的妻子跟孩子都難以辨別真偽,他甚至打趣地說:「我可能被自己騙到,把錢匯出海外。」

不僅股神預測AI助長犯罪,警政署最新統計,國內詐騙案件數量連續五年逐年攀升,今年新公布8月單月詐騙量就6,008件創歷年新高,前八月已逾3萬件,刑事局預防科科長林書立指出,其中AI詐騙案數量雖不易釐清,但聲音詐騙或影像詐騙大增,詐騙受AI助長是肯定的。

偽冒猖獗 詐騙報案暴增

名人詐欺、愛情詐欺頻傳,假冒理財專家謝金河及假孔劉以視訊短影音及AI假聲音取信被害人,一通老闆打來的電話,可能是AI深偽假冒,一般民眾電話中跟銷售人員小聊幾分鐘,沒幾天就有AI假聲音詐騙電話上門偽裝家人。

林書立指出,只要一個人3~5秒的聲音,AI就能模擬,雖稍嫌粗糙,但詐騙集團常營造危急情境,引受害者入局。

不只是民眾成AI深偽受害者,政府機關也面臨AI行騙但隱然不覺。

刑事局近期破獲一起犯罪集團事件,犯罪者利用AI模型,找跟護照「買家」臉型相似的護照持有人,利用AI生成出混合買家跟賣方臉孔的AI照片,拿該AI照片向外交部申辦換發新護照,AI生成照儘管跟本人仍相似,卻是一張不折不扣的AI作品,但護照竟成功核發。

根據外交部領事事務局「晶片護照照片規格」官網說明,護照申請人不得使用合成或鏡像照片(手機自拍照,會使臉左右顛倒), 但沒提到「禁止AI生成或AI證件照」等字,使用AI是否合規?記者致電外交部詢問,外交部的答覆「不行」,建議相館或快照機拍照。

遺憾的是,政府雖然不同意用AI證件照,但外交部受理檢核系統無法偵測AI深偽照片。專家指出,意外披露政府公務人員體系面臨的困境:AI發展太快,民間與政府都缺乏適合的檢核工具,AI治理出現漏洞。

「這一定是不會被允許的,(AI證件照)只是沒被抓出來,從法律層面就是偽造。」陽明交大智能系統研究所所長廖元甫指出,政府沒有辦法發現民眾使用AI證件照,是因為AI技術發展太快速了,「本來做不到的事情,現在一下子都可以做到,但是制度建立要一點時間。」

「AI是一種工具,跟菜刀一樣,可以用在好的地方,也可以用在不好的地方。」廖元甫指出,最終還是要看人的警覺。

AI演算法正在飛躍式發展,AI的正向功能背後,也不能忽略有AI犯罪藏於陰影中,若社會只專注將資源投注在AI應用發展,疏於扶持有助於AI治理的AI鑑別技術發展,將使社會陷入「AI技術負債」風險。

所謂的AI技術負債,是軟體業著名的管理陷阱名詞,就是當科技開發者只專注於眼前的短期利益,創新發展速度遠超過治理框架進步步伐,將使社會及組織面對風險處於劣勢。

台灣詐欺案數量
台灣詐欺案數量

管理不足 法律問題叢生

AI技術負債除犯罪事件,還包括根本上的著作權侵權爭議,AI演算法的成功,需要大量優良品質數據訓練,為能有龐大資料量,眾多AI模型取得資料來源的管道都處於灰色地帶,AI文生圖模型大量取用他人繪圖作品,《紐約時報》與OpenAI的官司更是指標性案例。

去年底紐約時報發現ChatGPT模型會產出有紐約時報浮水印的內容,因而提告侵犯著作權,達文西個資暨高科技法律事務所所長葉奇鑫坦言,該官司對未來AI發展是否能「合理取用」他人數據有關鍵意義。

許多數位創作者內容遭取用,若《紐約時報》勝訴,則未來更多侵權提告案件將出現,如何舉證對許多創作者仍是難題。

AI以假換真的能力,也迷惑眾人,葉奇鑫曾擔任檢察官,承辦詐騙案經驗多,他觀察因為用AI深偽技術變得容易,AI正衍生新的法律問題,如國外已有AI教唆自殺事件,可能連司法官面對五花八門的AI問題,都難以馬上確定誰是被害人、該主張何權益。

國科會主委吳誠文喊話四年內台灣要幾入世界AI強國前十名,AI治理成績勢必要直面AI犯罪課題,副總統蕭美琴9月在AI年會上致詞提到,「AI是一場革命,這個革命是成是敗,在於是不是能夠一起跟得上時代。」當AI犯罪產業蓬勃發展,提出治理對策,台灣勢必須領先做出示範。

創作者心血如何被AI詐走
創作者心血如何被AI詐走

各種AI涉及犯罪類型
各種AI涉及犯罪類型

相關文章

More