“AI孙燕姿”一夜间走红。在某视频平台，这位虚拟歌手翻唱的《发如雪》累计播放超221万次。如果不是明确标注，连歌迷都很难分清“真假孙燕姿”。一系列连锁反应正在发生：在各大视频平台，明星AI翻唱的教学视频遍地开花，复制明星声音、肖像的门槛被进一步拉低。

“真假孙燕姿”让现实世界和AI世界的边界越来越模糊，知识产权和市场监管问题也接踵而至。

首先是防侵权。据不完全统计，“AI孙燕姿”已经翻唱了超过1000首作品，这一数量远超出孙燕姿本人作品的总和。一方面，“AI孙燕姿”涉嫌侵犯现实孙燕姿的权益。有律师指出，在《民法典》里，对声音的保护是参照肖像权保护进行的，而对肖像权保护有明确的规定——那就是不允许进行伪造；另一方面，涉及著作权的问题，翻唱作品中包含大量未经授权的歌曲，超出了法律中“合理使用”的范畴。

如何界定侵权以及如何惩罚侵权，有待监管部门和行业专家加强调研，提出有效方法。

其次是防诈骗。近期，内蒙古包头市公安局侦破了一起使用AI智能技术进行诈骗的案件，受害者认不清对方是AI脸还是真人脸，居然10分钟被骗走430万元。网友纷纷支招视频通话时“怎么证明我是我”，也成为一时奇谈。

如何在不打击新技术发展的前提下严格监管，成为当下社会面临的问题。

笔者认为，对待AI生成的内容，不管是模仿生成的，还是完全新创作的，都应该压实生产发布者、平台管理者的责任，完善监管措施。

一是，凡是利用生成式人工智能生产制作的产品，都应向公众公开声明，进行明确标注。参考《广告法》中“广告应当具有可识别性，能够使消费者辨明其为广告”的要求，AI生成的内容，包括图片、文字、视频、音频等，都应明确标注“AI生成”，不标注即为违法。

同时，进一步强化平台审核责任和管理责任，明确处罚措施，实行日常监督检查，接受公众举报，对违规的发布者、平台予以惩戒。

二是，提高AI内容发布的门槛，发布者必须提供真实身份信息，对于可能存在的“异地登陆”“大额转账”等风险行为，设置警示提醒机制，触发警戒时平台可以自动切断服务。同时，应建立用户投诉接收处理机制，全方位杜绝滥用AI技术的行为。

三是，严格规范企业对用户个人信息的保护，出台加密算法标准，对使用后的信息存储和销毁程序进行监管，织密织牢安全防护网。防止盗用他人个人信息用于AI产品生产。

诱进以仁义，束缚以刑罚。AI正在飞速进化，我们要迎风而上，用好新工具，使其为经济社会发展服务。同时，要从技术、法律、伦理等方面立好规矩，与时俱进完善监管。

4月11日，国家互联网信息办公室发布的《生成式人工智能服务管理办法（征求意见稿）》（简称《管理办法》）明确提出“利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息”。这为加强AI生成内容管理提供了基本遵循，希望相关措施进一步细化，并加快出台。