作 者丨郭聪聪编 辑丨张华曦
“一家跨国公司的一名财务人员被‘AI换脸’欺骗，损失高达2亿港币。”一则发生在年初的AI诈骗案例令“AI换脸”再次走进大众的关注视野。
数字时代下的“深度欺骗”
这名财务职员误信钓鱼邮件参加了一个“高管视频会议”，而参与视频会议的多名高管都被“AI换脸”了。
诈骗团伙使用了一种叫作“深度伪造”（deepfake）的技术。诈骗者仅通过搜集这家公司的公开素材，就成功伪造出了高管们的形象和声音。也就是说，在这名财务职员参加的多人视频会议中，诈骗人员都通过“AI换脸”技术换成了该公司高管的形象，并且模拟了他们的声音。
从这名财务职员的视角，他所看到的每个人—公司CFO、他的同事们—都是假的，其面貌、声音都是由AI生成的。面对熟悉的同事，这名财务职员也放松了警惕，最终将公司的2亿资金转入了不知名账户。
“安全威胁的动态性是我们金融行业面临的最大威胁。”青岛银行首席信息官杨斌在7月10日2024中关村论坛系列活动—“数字金融与金融安全大会”上说：“因为当前多数防护的措施是静态的，只对已有的威胁和漏洞有效，但我们面对的安全威胁确是动态的，新的威胁和漏洞可能随时可能出现。”
除此之外，目前屡被犯罪分子盯上的新型犯罪工具——“人皮面具”也应引起公众警惕，已有上海警方通报犯罪人员通过“换脸”伪装躲避监控从而盗窃的案件，涉案赃款10万余元。
“在塑胶面具上的动作嘴型眼睛都是真人的眼，市面上大多数人脸识别产品使用动作活检（摇摇头、眨眨眼）和炫光活检技术，都可能被不法分子绕过。”杨斌说道。
“画皮”产业还在滋生
记者发现，尽管在多个电商平台搜索“人皮面具”已显示“没有找到相关商品”，但仍显示“人皮面皮人脸硅胶头套”“人体硅胶面具”“人皮面皮人脸硅胶易容”等关联推荐词。并且更换关键词，比如“人脸面具”“硅胶面具”，还能看到不少商家，所售商品包括“美女头套全脸硅胶头套3d立体仿真”等商品。
记者了解到，依据品相，面具的价格在几百元到几万元不等，商家称仅提供头、五官尺寸和360度照片即可制作，制作大约需要1个月时间。店铺显示商品用于“万圣节”或“派对”，但销售过程中，商家并未询问购买目的或用途。依平台显示，已有人付款购买此类产品。
还有商家另辟蹊径，通过“视频号”动态演示“人皮面具”的效果，效果十分逼真，具有强迷惑性。记者以“人皮面具”为关键词搜索，就自动关联出了销售商家的宣传视频。在某商家发布了几十条人皮面具演示视频中，伪装面具横跨多个年龄段，也可伪装性别。
目前该账号的累计转发评论量过万，除抨击这种不法行为的评论之外， 也不乏询问购买渠道和价格的评论。
据新京报报道，硅胶人脸面具最开始用于影视表演和角色扮演，或是满足一些人对于疤痕遮盖、容貌修复的需求。不同价格的硅胶面具，仿真度也不一样，现在市面上销售的多为玩具类型面具。通常价格越高，仿真度就越高。
但若此类人皮面具被别有用心的利用，则真成了影视剧中的“画皮”。犯罪分子不仅可以隐藏年龄，还能隐藏性别，为社会带来了极大的安全隐患，也增加了犯罪打击的成本与难度。
生产者或担责，律师呼吁溯源监管
北京市炜衡律师事务所合伙人、海淀区律师协会刑事法律研究会委员卢佳俊律师说到，人皮面具的制作者或面临民事、刑事、行政的相关责任。
如若人皮面具制作者未经肖像权人的同意而制作、使用，则制作者或使用者可能侵犯权利人的肖像权。若不当使用导致相关主体的品德、声望、才能、信用等的社会评价降低，则还可能侵犯权利人的名誉权。
若销售人皮面具的行为对特定权利人的人格权利造成侵害，或违反了市场监督管理相关规定的，则市场监督管理部门可能对制作者进行罚款、警告，责令改正、责令停业整顿等处罚。
若购买者将人皮面具用于诈骗、盗窃等犯罪活动，则制作者还有可能成为共犯，从而承担刑事责任。
北京市京师律师事务所合伙人常智国律师分析道，“特定人物的脸部特征的硅胶人脸面具，具有极大社会危害性。目前仅公开报道，犯罪分子‘换脸’伪装实施盗窃犯罪行为，实际上还潜在其他社会风险，比如考场伪装、社保认证伪装、银行认证伪装、网络刷脸支付伪装、拐卖伪装、企业考勤伪装等。”
“人皮面具的不当使用应当引起相关部门的重视，尽快出台相关监管措施。建议借鉴印章备案制度，对人体特征信息收集、生产、销售者（包括不限于人体信息3D扫描、硅胶指纹或人脸面具）的资质、个人信息授权及产品出售对象等信息进行备案，市场监督、教育、金融监管、网络监管等部门协同加强监管，打击违法犯罪行为。”常智国说道。
卢佳俊对此表示赞同，他说道：“对于明显用于装饰娱乐的面具，应当受到较低程度的限制和监管。但对于与真实面部高度相似的面具，建议公安部门或者相关行政部门对相关生产者进行备案登记，购买者也应实名购买，生产者在实际经营中应当严格核实、记录购买者身份、购买用途等信息，畅通面具溯源渠道。”
本期编辑 金珊 实习生 李洁 测了8款AI搜索后，发现真实与谬误只有一线之隔
收集用户数据训练AI？Meta又摊上事了
被马斯克炮轰AI隐私问题，苹果打算怎么做？
“一家跨国公司的一名财务人员被‘AI换脸’欺骗，损失高达2亿港币。”一则发生在年初的AI诈骗案例令“AI换脸”再次走进大众的关注视野。
这名财务职员误信钓鱼邮件参加了一个“高管视频会议”，而参与视频会议的多名高管都被“AI换脸”了。
诈骗团伙使用了一种叫作“深度伪造”（deepfake）的技术。诈骗者仅通过搜集这家公司的公开素材，就成功伪造出了高管们的形象和声音。也就是说，在这名财务职员参加的多人视频会议中，诈骗人员都通过“AI换脸”技术换成了该公司高管的形象，并且模拟了他们的声音。
从这名财务职员的视角，他所看到的每个人—公司CFO、他的同事们—都是假的，其面貌、声音都是由AI生成的。面对熟悉的同事，这名财务职员也放松了警惕，最终将公司的2亿资金转入了不知名账户。
“安全威胁的动态性是我们金融行业面临的最大威胁。”青岛银行首席信息官杨斌在7月10日2024中关村论坛系列活动—“数字金融与金融安全大会”上说：“因为当前多数防护的措施是静态的，只对已有的威胁和漏洞有效，但我们面对的安全威胁确是动态的，新的威胁和漏洞可能随时可能出现。”
除此之外，目前屡被犯罪分子盯上的新型犯罪工具——“人皮面具”也应引起公众警惕，已有上海警方通报犯罪人员通过“换脸”伪装躲避监控从而盗窃的案件，涉案赃款10万余元。
“在塑胶面具上的动作嘴型眼睛都是真人的眼，市面上大多数人脸识别产品使用动作活检（摇摇头、眨眨眼）和炫光活检技术，都可能被不法分子绕过。”杨斌说道。
记者发现，尽管在多个电商平台搜索“人皮面具”已显示“没有找到相关商品”，但仍显示“人皮面皮人脸硅胶头套”“人体硅胶面具”“人皮面皮人脸硅胶易容”等关联推荐词。并且更换关键词，比如“人脸面具”“硅胶面具”，还能看到不少商家，所售商品包括“美女头套全脸硅胶头套3d立体仿真”等商品。
记者了解到，依据品相，面具的价格在几百元到几万元不等，商家称仅提供头、五官尺寸和360度照片即可制作，制作大约需要1个月时间。店铺显示商品用于“万圣节”或“派对”，但销售过程中，商家并未询问购买目的或用途。依平台显示，已有人付款购买此类产品。
还有商家另辟蹊径，通过“视频号”动态演示“人皮面具”的效果，效果十分逼真，具有强迷惑性。记者以“人皮面具”为关键词搜索，就自动关联出了销售商家的宣传视频。在某商家发布了几十条人皮面具演示视频中，伪装面具横跨多个年龄段，也可伪装性别。
目前该账号的累计转发评论量过万，除抨击这种不法行为的评论之外， 也不乏询问购买渠道和价格的评论。
据新京报报道，硅胶人脸面具最开始用于影视表演和角色扮演，或是满足一些人对于疤痕遮盖、容貌修复的需求。不同价格的硅胶面具，仿真度也不一样，现在市面上销售的多为玩具类型面具。通常价格越高，仿真度就越高。
但若此类人皮面具被别有用心的利用，则真成了影视剧中的“画皮”。犯罪分子不仅可以隐藏年龄，还能隐藏性别，为社会带来了极大的安全隐患，也增加了犯罪打击的成本与难度。
北京市炜衡律师事务所合伙人、海淀区律师协会刑事法律研究会委员卢佳俊律师说到，人皮面具的制作者或面临民事、刑事、行政的相关责任。
如若人皮面具制作者未经肖像权人的同意而制作、使用，则制作者或使用者可能侵犯权利人的肖像权。若不当使用导致相关主体的品德、声望、才能、信用等的社会评价降低，则还可能侵犯权利人的名誉权。
若销售人皮面具的行为对特定权利人的人格权利造成侵害，或违反了市场监督管理相关规定的，则市场监督管理部门可能对制作者进行罚款、警告，责令改正、责令停业整顿等处罚。
若购买者将人皮面具用于诈骗、盗窃等犯罪活动，则制作者还有可能成为共犯，从而承担刑事责任。
北京市京师律师事务所合伙人常智国律师分析道，“特定人物的脸部特征的硅胶人脸面具，具有极大社会危害性。目前仅公开报道，犯罪分子‘换脸’伪装实施盗窃犯罪行为，实际上还潜在其他社会风险，比如考场伪装、社保认证伪装、银行认证伪装、网络刷脸支付伪装、拐卖伪装、企业考勤伪装等。”
“人皮面具的不当使用应当引起相关部门的重视，尽快出台相关监管措施。建议借鉴印章备案制度，对人体特征信息收集、生产、销售者（包括不限于人体信息3D扫描、硅胶指纹或人脸面具）的资质、个人信息授权及产品出售对象等信息进行备案，市场监督、教育、金融监管、网络监管等部门协同加强监管，打击违法犯罪行为。”常智国说道。
卢佳俊对此表示赞同，他说道：“对于明显用于装饰娱乐的面具，应当受到较低程度的限制和监管。但对于与真实面部高度相似的面具，建议公安部门或者相关行政部门对相关生产者进行备案登记，购买者也应实名购买，生产者在实际经营中应当严格核实、记录购买者身份、购买用途等信息，畅通面具溯源渠道。”
收集用户数据训练AI？Meta又摊上事了
被马斯克炮轰AI隐私问题，苹果打算怎么做？