2024-03-10
3月10日,最高檢新媒體發布虛擬數字人天妤共創反詐視頻《小心!AI陷阱》,以短劇的形式展現真實AI詐騙套路,以檢察信息技術為切入點,結合科幻感十足的虛擬人場景,有效提升廣大群眾的反詐意識。
“媽媽救我!”短片中,母親接到視頻來電,女兒哭著說自己被綁架了,隨即綁匪索要30萬贖金。母親大驚失色隨即準備向綁匪轉賬。檢察技術專家與虛擬數字人天妤對視頻進行多次分析,確認該視頻為AI換臉深度偽造而成,并進入虛擬空間還原犯罪過程,就此將一場由AI技術炮制而成的“綁架案”及時扼殺在搖籃里。

視頻中的場景取自最高檢檢察技術信息研究中心,劇本創作時得到相關聲紋鑒定、深度偽造等方面的技術專家支持,對檢察信息技術進行最大程度的真實再現。

如今AI技術發展日新月異,掃描人像就能換臉、采集人聲就能定制變聲。AI技術在為人們帶來便利的同時,也可能給電信網絡詐騙分子提供了可趁之機。當前,有一些犯罪分子利用AI技術合成他人的面孔、聲音,制造逼真的深度偽造圖像,實施精準的電信網絡詐騙。這類騙局通常會在短時間內給被害人造成較大的經濟損失和心理傷害。面對高科技手段的新型詐騙,廣大群眾更需要擦亮眼睛,了解AI詐騙常見套路,謹防上當受騙。

長期以來,最高檢新媒體在法治宣傳方面進行多種創新嘗試,首次與虛擬數字人合作AI詐騙普法宣傳,是對互聯網新技術的創新應用,也是法治宣傳領域的一次獨特創新。
