立法会九题：打击涉及深度伪造的诈骗罪案
＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊
问题：
据报，一项研究发现，香港本年首季涉及深度伪造的诈骗事件数目按年增幅达10倍，为亚太地区增长最高的地区之一，而香港金融科技行业涉及的深度伪造身分欺诈率为亚太地区最高。另一方面，有市民担心，近年有不法分子利用深度伪造技术制造仿真度颇高的面貌和声音成功进行诈骗，令人防不胜防。就此，政府可否告知本会：
（一）就利用深度伪造技术进行诈骗的活动，过去三年，每年政府分别进行多少宗主动侦查及接获多少宗举报，并列出每宗个案涉及诈骗的类型及金额；该等个案的破案率为何；
（二）有否评估，政府为打击涉及深度伪造虚假信息的诈骗案件而推出的措施的成效为何；及
（三）有何措施完善对深度伪造技术应用的监管，以及有何新措施加强打击在互联网及社交媒体传播的虚假资讯？
答覆：
主席：
诈骗是严重罪行。深度伪造是指利用深度学习（深伪）（即人工智能的一种技术）进行影像合成以伪造影像。警方近年亦有留意到网上一些假冒政府官员或知名人士宣传可疑投资产品的诈骗信息及视频，利用深伪技术作为行骗的新手法。警方会持续透过加强执法、宣传教育、情报分析、跨境合作，以及与可能受深伪诈骗影响的不同界别（如广告供应商及网络营运商等）合作，提高市民的警觉性，打击各类型的诈骗案，包括各项针对深伪诈骗的措施。
就谭岳衡议员的提问，经谘询创新科技及工业局，现答覆如下：
（一）有关涉及深伪的诈骗案的数字，有鉴于这种新行骗手法于近年冒起，警方自二○二三年就此类骗案作分项纪录统计。至二○二四年五月三十一日，警方共接获三宗与深伪技术相关的案件，分别于二○二三年八月、二○二四年一月及二○二四年五月发生；第一宗已成功破案，其余两宗仍在调查中。
首宗案件是警方根据情报主动侦破的案件。二○二三年八月，警方展开「解诈」行动，捣破一个本地诈骗集团，涉嫌在二○二二年九月至二○二三年七月期间盗用他人身分，利用人工智能换脸程式，于网上向财务公司申请贷款，涉款20万港元，随即于同年八月共拘捕九人，包括一名集团主脑，涉嫌干犯「串谋欺诈」罪，是首次侦破人工智能换脸案。
二○二四年一月底，警方接获一宗利用深伪技术预先录制影片进行视像会议的欺诈案。报案人收到假冒其英国总公司首席财务官的钓鱼信息，声称要进行机密交易，邀请报案人进行多人视像会议，报案人最终按指示授权转账至五个本地银行帐户，涉及损失约二亿港元。警方经调查后，相信骗徒先下载被伪冒职员的网上公开影片及声音，再利用深伪技术制作预录的视像会议。由于是预录影片，报案人与对方其实并无对话互动。骗徒向报案人下达命令后藉词挂线，再以即时通讯软件继续指示转帐。警方的调查仍然进行中。
二○二四年五月二十日，跨国贸易公司职员收到伪冒为英国总公司首席财务官的WhatsApp信息，并进行近30分钟的视像会议，期间「假上司」指示职员将近400万港元转款至一个本地户口。警方调查相信疑犯以网上公开资料作素材，配合深伪技术将影片内容篡改，再于视像会议中播放，以诱骗受害人进行转款。警方正进行调查。
另外，有关发现或接获举报网上深伪片段的数字，警方自二○二三年十一月一日起开始立项统计，至二○二四年五月三十一日，警方于网上发现及接获举报共21条假冒政府官员或知名人士的深伪片段，其中两宗由主动侦查发现，19宗为市民举报。21条片段当中，20条是于二○二三年十一月至二○二四年一月期间发现，余下一条于二○二四年三月发现。应警方要求，相关网上或社交媒体平台已把该21条片段迅速下架，防止市民受骗。到目前为止，警方未有接获市民直接因为这些相关深伪片段而受骗的报告。
（二）针对深伪技术等人工智能对网络警政的各种挑战，警方与国际刑警组织、不同地区的执法机关及人工智能业界有着紧密的情报联系，并紧贴世界上发生的新的犯罪手法和趋势，包括深伪技术的应用。
就不同的科技罪案，警方在二○二二年十二月成立一个由刑事及保安处处长带领，成员包括12位来自科技界的专家和领袖的「科技罪案警政顾问小组」，探讨涉及人工智能（包括深伪技术）的罪案和骗案风险，以及提高公众对人工智能潜在风险的认识。警方会继续与相关界别的持份者加强合作，共同探讨并制订有效措施，以打击相关罪案。
在强化专业能力方面，警方不时举办内部培训，以提升同事对深伪技术及其衍生的网络罪行的认识，并会适时更新有关设备，以提升打击不同类型网络罪行的能力。
宣传教育方面，警方以不同渠道教育市民人工智能的原理及最新的犯案手法，避免大众堕入陷阱。警方会不时举行记者会，向市民讲解骗徒常用伎俩，包括示范利用深伪技术进行视像会议。警方亦透过警队Facebook及「守网者」网站发放与深伪技术相关的最新犯案情况及防骗建议。
事实上，骗徒利用人工智能深伪技术行骗的手法并非毫无破绽，正如警方在不同场合也呼吁市民要时刻保持防骗意识，提醒市民用不同方法去辨识片段的真伪，避免大众堕入「深伪」的陷阱，例如：
1）市民可要求对方于镜头前做特定动作，如将头部向上下左右转动，再留意萤光幕的影像是否有异；
2）以对话内容试探对方真伪；
3）当亲友于视频录音中提出汇款等要求，要提高警惕，应打电话核实；
4）并避免接听陌生视像来电。如有怀疑，应善用「防骗视伏器」及「防骗视伏App」，或致电「防骗易热线18222」查询。
警方亦不时进行网上巡逻及执法行动，主动打击各类网上罪案，如发现怀疑涉及诈骗包括利用深伪技术的网上广告、短片或帖文，会迅速要求相关广告供应商及网站营运商移除，减低市民接触到该些片段的机会。事实上，上文提及的21条深伪片段均能迅速下架，防止市民堕入骗案。到目前为止，警方未有接获市民直接因为这些相关深伪片段而受骗的报告。
我们绝不会掉以轻心，警方会继续密切留意骗案的不同新手法，继续透过上述不同渠道打击包括利用深伪技术的骗案。
（三）我们留意到不同地区的人工智能发展速度和普及程度各有不同，而人工智能技术对不同行业和界别的影响亦不尽相同。不同地区和机构开始因应最新的发展研究不同措施，以应对人工智能所带来的影响和挑战，同时在促进科技创新及规范之间作出平衡。
就打击在互联网及社交媒体传播的虚假资讯方面，互联网的世界并不是一个无法可依的虚拟世界。根据香港现行法例，大部分在现实世界用以防止罪行的法例，均适用于网络世界。现有法律框架下有若干条文可处理散播不实或不当资讯，例如《2021年刑事罪行（修订）条例》就加入未经同意下发布或威胁发布私密影像的罪行，该罪行也适用经修改或移花接木（包括使用人工智能技术）的私密影像。
另外，法律改革委员会（法改会）在二○一九年成立小组委员会，就电脑网络罪行展开研究。小组委员会首阶段就依赖电脑网络的罪行（例如非法取览程式或数据等）于二○二二年十月完成了公众谘询工作。下一阶段，小组委员会会研究借助电脑网络的罪行，即通过使用电脑、电脑网络或其他形式的资讯及通讯科技，使犯罪规模或范围得以扩大的传统罪行（例如设立仿冒诈骗网站等犯罪行为）。政府会密切留意法改会的研究进展及最终建议，并适时检讨法例。
完
2024年6月26日（星期三）
香港时间11时05分
香港时间11时05分