微信最新公告

zbj

12月15日，“微信珊瑚安全”发布公告：
近期有媒体报道网络存在利用AI技术仿冒名人进行不当营销的现象。结合用户举报、日常巡查等线索，微信从速从严打击了一批利用AI仿冒知名人士进行不当营销、恶意博取流量的违规行为，并针对相关情况开展专项治理。          截至目前，累计处置内容532条，关闭账号209个。典型案例如下：

微信将持续对上述违规行为增加打击力度。针对“利用AI合成技术生成违规内容”的行为，平台欢迎广大网友提供更多线索，共同构建清朗有序的网络环境。

相关报道<<<

张文宏医生回应被AI带货

最近，有网友向媒体反映：家中老人在网络卖货视频中看到张文宏医生在卖一种蛋白类的产品，老人信以为真，不仅下了单还转发了很多群。
经核实，该视频并非张文宏医生本人，而是利用AI技术合成的。在这段视频中，被合成的人像反复介绍一种产品，声音听起来也很像张文宏本人，商品橱窗内的某蛋白棒售卖链接显示已出售1200多件。目前，该账号已搜索不到。

对此，张文宏医生在回应媒体时表示，“这样的卖货账号不止一个，且一直在变，我多次向平台投诉但屡禁不绝。很多不明真相的老百姓、特别是有些对AI不是很熟悉的、年纪较大的市民，就很容易相信。我看购买量在不同的地方好像都有不少。我在发现这个事情后立即投诉过那个AI合成的视频，但他的账号一直在换，我最后也没有精力了。这些假的AI合成信息就像蝗灾一样，一次又一次发生，像漫天飞过来的蝗虫一样害人。事实上，从平台投诉结果来看，我觉得最终也难以解决问题。”

         

除了向平台方投诉，张文宏称自己也曾考虑过报警，但对方看不见摸不到，就像幽灵一般难以描述，只能寄希望于相关部门加强监管。“报警总要有个对象对吧，现在报警报谁呢？他一天换一个账号，而且全是虚拟的，我向谁报警？所以我认为，他侵犯的是消费者的利益，我觉得相关部门应该处理。”张文宏说。

多位知名人士遭遇“AI营销”

随着AI合成技术愈发成熟且已被频繁应用在短视频制作中，AI合成冒充名人的骗局愈来愈频发。

据报道，今年11月，江西一名65岁老人到银行办理业务，声称要贷款200万元给男朋友“靳东”拍戏。经调查发现，老人手机里的“靳东”出自AI合成的视频。

今年10月，老牌港星黄百鸣通过社交媒体郑重声明，有人盗用其过去影片，利用AI替换声音，代言一个不知名的药膏品牌。

律师胡雪表示，这种行为是显而易见的违法和侵权，至少涉五个法律，侵犯了肖像、声音、知情权等诸多权利，要维权，受害人除了向公安报警，也可向网信部门举报。

国家网信办已出手
              

今年9月，国家网信办已经发布了《人工智能生成合成内容标识办法（征求意见稿）》，要求从视频制作和发布的源头做好信息管理。

该办法明确提出两种人工智能生成合成内容标识的种类，即“显式标识”与“隐式标识”，还明确了两类标识所应当适用的场景，将《深度合成规定》第十七条所提出的“显著标识”与“显式标识”建立了直接的对应关系。此外，根据不同人工智能生成合成内容的载体与形式（如文本、音频、图片等），该办法还罗列与说明了部署各类显式标识的部署位置和隐式标识所应当包含的信息要素。
金杜律师事务所宁宣凤表示，该办法的出台标志着中国在人工智能领域规范管理方面迈出了重要一步。伴随在生成合成的内容中添加显式或隐式标识举措的落地，互联网信息内容的透明度将显著提升，用户可以在此基础上直观识别内容是否由人工智能生成，有助于用户免受虚假内容的负面影响。
据了解，该办法仍然逐步完善的过程中。随着《人工智能生成合成内容标识办法》正式落地，将为社会公众带来一个更加健康、透明和负责任的人工智能应用环境

来源：微信珊瑚安全