以下是今日（十二月十八日）在立法会会议上梁熙议员的提问和创新科技及工业局局长孙东教授的书面答覆：

问题：

据报，近日有不少香港和澳门立法会议员收到怀疑使用人工智能（AI）技术伪造的色情图片，他们的容貌出现在该等图片上，而骗徒以此进行勒索。就此，政府可否告知本会：

（一）自本年初至今，当局接获涉及使用AI技术伪造声音、相片或影片勒索的举报宗数、涉及的损失款项，以及破案率分别为何；该等数字与去年同期比较有否变化；

（二）鉴于据悉，因应最近深度伪造（深伪）技术的发展及其特点，骗徒倾向伪冒商界管理层或政界知名人士以增加可信性，当局有何应对措施，例如会否参考外国经验为社会知名人士订立肖像权，限制在未经当事人同意下擅用AI技术伪造其声音、相片或影片的行为；如会，详情为何；如否，原因为何；

（三）鉴于据悉，一些以深伪技术制作的影片会利用社交媒体作为传播的媒介，并透过于搜寻引擎投放广告以提升其热度及搜寻优次，当局有否研究要求社交媒体管理者对此作出限制，包括需要在影片中标示影片使用AI技术制作；如有，详情为何；如否，原因为何；及

（四）鉴于立法会换届选举会于明年举行，当局有否评估，会否出现外地以AI技术干预选举过程及结果的情况，特别是发放不实信息抹黑候选人；如有评估而结果为会，当局对此有何准备，例如会否设立官方调查及澄清专队，尽快就事件作出回应，以避免误传信息而影响选情；如会，详情为何；如否，原因为何？

答覆：

主席：

就问题的四个部分，经统筹保安局、商务及经济发展局（商经局）以及政制及内地事务局提供的资料后，现回覆如下：

（一）根据保安局提供的资料，二○二四年一月至十一月，警方共接获三宗涉及人工智能深度伪造（深伪）的诈骗案，涉使用深伪技术伪冒公司员工指示商业机构转帐至骗徒户口及以深伪技术进行网恋，诱骗受害人投资加密货币。其中最近期在二○二四年十月发生的一宗，是警方根据情报主动侦破的案件，瓦解了一个由三合会操控、以深伪技术进行网恋以诱骗身处本港、内地以至亚洲等地的受害人投资加密货币的犯罪集团，涉款逾3.6亿元，拘捕27人，包括集团主脑及骨干成员。

有关发现或接获举报网上深伪片段的数字，警方自二○二三年十一月一日起开始立项统计，至二○二四年十一月三十日，警方于网上发现及接获举报共21条假冒政府官员或知名人士的深伪片段。应警方要求，相关网上或社交媒体平台已把该21条片段迅速下架，防止市民受骗。到目前为止，警方未有接获市民直接因为相关深伪片段而受骗的报告。

警方没有备存涉及色情照片的勒索案件数字，但留意到自二○二四年十一月初起有人以粗糙的移花接木方式伪造色情照片进行电邮勒索，涉及过百名受害人，但未有金钱损失。案件已交由警方的网络安全及科技罪案调查科跟进调查，暂未有人被捕。

如在社交媒体平台上发现与罪案有关的资料，警方会主动联络该平台，以及时制止社交媒体平台被利用作为犯案的媒介及工具。

（二）根据商经局提供的资料，对于未经授权下利用深伪技术使用他人的身份标志，须视乎个案的实际情况和证据决定能否根据不同范畴的法律追究，难以一概而论。如深伪内容涉及未经授权下使用版权作品、商标及／或作出失实陈述导致个人商誉受损，则可视乎个别个案的情况和证据，以侵犯版权、侵犯商标及／或普通法中的假冒侵权为由提起法律诉讼。例如就假冒而言，如某商户在推销和宣传其产品或服务的过程中未经同意下利用深伪技术使用包含某知名人士的声音、影像或肖像，而有关使用方式和程度构成失实陈述，使人误以为该商户的产品或服务获得该知名人士的认可或特许，并导致或相当可能导致该知名人士的商誉受损，则可构成普通法中的假冒而被该知名人士追究侵权。

为加强市民的防骗意识，防范深伪片段，政制及内地事务局表示个人资料私隐专员公署已推出了一系列的防骗宣传活动及短片，提醒公众保障个人资料私隐的重要性。

（三）香港目前并没有法例限制或规管社交媒体平台或其用户使用个别技术（例如人工智能技术）制作其发布的资讯内容，但相关内容必须符合香港现行法律及条例，包括但不限于上文提及的法规。政府亦鼓励社交媒体平台积极履行机构社会责任，设立社群及平台行为守则、服务条款、私隐政策及处置不当内容的措施，以规管用户在相关平台上发放的资讯内容（包括准确性、真伪、知识产权及安全），并减低私隐及道德方面的风险。

（四）在选举方面，政府会致力确保公共选举在公平、公正、诚实和安全有序下顺利进行。选举事务处在选举安排方面一直与警方及其他执法部门保持紧密联系，并设有既定机制搜集和分析情报及进行风险评估，有需要时更会采取适当措施消除风险隐患，同时亦会制订各种预案，以应付任何突发情况。

此外，政制及内地事务局在来年选举的选举日前后，亦会联同政府新闻处以及其他相关部门成立快速应对小组，密切监察留意选举期间的各类型资讯，并迅速就各种虚假或不实资讯或评论作出有效驳斥或澄清，以确保选举不受影响。

-完-