【导读】微信出手：关闭209个账号，其中多个账号被永久封禁！
中国基金报记者 安曼
12月15日，“微信珊瑚安全”发布公告，近期有媒体报道网络存在利用AI技术仿冒名人进行不当营销的现象。结合用户举报、日常巡查等线索，微信从速从严打击了一批利用AI仿冒知名人士进行不当营销、恶意博取流量的违规行为，并针对相关情况开展专项治理。
截至目前，累计处置内容532条，关闭账号209个。下一步，微信将持续对“利用AI仿冒知名人士进行营销宣传”等违规行为增加打击力度。
张文宏被“AI带货”
最新回应：气到想报警
最近，有网友向媒体反映，家中老人在网络卖货视频中看到“张文宏医生”在卖一种蛋白类的产品，老人信以为真，不仅下了单还转发给了很多群。
后来经核实，该视频并非张文宏医生本人，而是利用AI技术合成的。在这段视频中，被合成的人像反复介绍一种产品，声音听起来也很像张文宏本人，商品橱窗内的某蛋白棒售卖链接显示已出售1200多件。目前，该账号已搜索不到。
对此，张文宏医生在回应媒体时表示，“这样的卖货账号不止一个，且一直在变，我多次向平台投诉但屡禁不绝。很多不明真相的老百姓、特别是有些对AI不是很熟悉的、年纪较大的市民，就很容易相信。我看购买量在不同的地方好像都有不少。我在发现这个事情后立即投诉过那个AI合成的视频，但他的账号一直在换，我最后也没有精力了。这些假的AI合成信息就像蝗灾一样，一次又一次发生，像漫天飞过来的蝗虫一样害人。事实上，从平台投诉结果来看，我觉得最终也难以解决问题。”
除了向平台方投诉，张文宏称自己也曾考虑过报警，但对方看不见摸不到，就像幽灵一般难以描述，只能寄希望于相关部门加强监管。“报警总要有个对象对吧，现在报警报谁呢？他一天换一个账号，而且全是虚拟的，我向谁报警？所以我认为，他侵犯的是消费者的利益，我觉得相关部门应该处理。”张文宏说。
上海消保委发声：非常恶劣
12月12日，上海市消保委副秘书长唐健盛表示，实际上这根本就不是张文宏老师在带货，这完全是用AI来做的，这事情非常恶劣。
首先这种做法其实已经构成了对消费者的欺诈，消费者如果说上当的，那么完全可以按照消费者权益保护法的规定，要求商家做出退一赔三，并且金额不足500元的要这个按照500元来赔。“此外，我们觉得相关的监管部门应该对这种恶劣的行为要采用非常严厉的方法进行处罚，因为这不仅仅是涉及到消费者权益，它其实还涉及到整个社会的良知跟道德。”唐健盛提到。
多位知名人士遭遇“AI营销”
国家网信办已出手
事实上，随着AI合成技术愈发成熟且已被频繁应用在短视频制作中，AI合成冒充名人的骗局愈来愈频发。
据报道，今年11月，江西一位65岁老人到银行办理业务，声称要贷款200万元给男朋友“靳东”拍戏。经调查发现，老人手机里的“靳东”出自AI合成的视频。
今年10月，老牌港星黄百鸣通过社交媒体郑重声明，有人盗用其过去影片，利用AI替换声音，代言一个不知名的药膏品牌。
事实上，今年9月，国家网信办已经发布了《人工智能生成合成内容标识办法（征求意见稿）》，要求从视频制作和发布的源头做好信息管理。
该办法明确提出两种人工智能生成合成内容标识的种类，即“显式标识”与“隐式标识”，还明确了两类标识所应当适用的场景，将《深度合成规定》第十七条所提出的“显著标识”与“显式标识”建立了直接的对应关系。此外，根据不同人工智能生成合成内容的载体与形式（如文本、音频、图片等），该办法还罗列与说明了部署各类显式标识的部署位置和隐式标识所应当包含的信息要素。
金杜律师事务所宁宣凤表示，该办法的出台标志着中国在人工智能领域规范管理方面迈出了重要一步。伴随在生成合成的内容中添加显式或隐式标识举措的落地，互联网信息内容的透明度将显著提升，用户可以在此基础上直观识别内容是否由人工智能生成，有助于用户免受虚假内容的负面影响。
据了解，该办法仍然逐步完善的过程中。随着《人工智能生成合成内容标识办法》正式落地，将为社会公众带来一个更加健康、透明和负责任的人工智能应用环境。
制作：小茉
发布：木鱼
版权声明
《中国基金报》对本平台所刊载的原创内容享有著作权，未经授权禁止转载，否则将追究法律责任。
授权转载合作联系人：于先生（电话：0755-82468670）
在线咨询
客服QQ
联系电话
安卓APP
苹果APP
返回顶部