近日，一段美国歌手泰勒·斯威夫特“说”中文的短视频在网络刷屏，引发热议。视频中，泰勒·斯威夫特“说”着流利中文，音色和讲母语时类似，甚至连口型都能对上。与此同时，郭德纲“讲”英文相声的视频也引起人们关注，大家纷纷感叹AI(人工智能)真是强大。

　　对于这样的视频，人们的第一反应恐怕是一愣，然后用常识就能判断出它的真伪。作出这种鉴别并不难，难的是当“被AI”的不是明星而是身边的亲朋好友，或者明星说的是本国语言时，公众是否还具有这种鉴别力？以AI技术的发展速度看，大概不能对此“打包票”。

　　就此类生成式AI的技术原理而言，首先是把相关数据上传AI模型，比如人脸的面部特征、声音的音长音高等，再将使用者需求输入模型由系统运算，最后输出结果。如此一来，就能实现赵本山说英文或是泰勒·斯威夫特说中文的效果。

　　这种生成式AI原来有一些技术不完善的地方，比如人体晃动时发生画面掉帧、AI生成部分与本人面部的边缘处有明显拼接痕迹等，但现在网上比较火的那几个视频却似乎已经解决了这些问题。通过这几段视频，明显可以看到技术又进步了。

　　总之，AI正在朝着越来越智能的方向演进。不如想象一下，如果ChatGPT聊天机器人变得更加智能，响应速度更快，再把它与这项AI换脸技术相结合，是否可以形成与“泰勒·斯威夫特”自由对话的可能。这种技术想象的另一面，是信息安全风险，关乎个人的各项隐私权利。

　　在“被AI”者的一端，涉及个人肖像权、声音权。从我国民法典看，规定了合理使用行为可以不经肖像权人许可，但合理使用的行为要求、范围要求都有限制。具体来讲，民法典第一千零二十条规定，为个人学习、艺术欣赏、课堂教学或者科学研究，可以在必要范围内使用肖像权人已经公开的肖像。如今，借助AI应用生成相关视频是否属于合理使用却有争议——因为肖像权人的肖像虽然是公开的，但使用者的目的并非是法定目的的任何一种，且因其向全网传播，显然也超出了民法典规定的“必要范围”。所以，市场上各式各样的生成式AI，其实带有天然的侵权风险。

　　站在不特定的公众一端，则是受骗的风险。这既包括利用生成式AI诈骗钱财，也包括利用生成式AI制作虚假代言广告、进行违法犯罪活动。前不久，影星斯嘉丽·约翰逊还对一家AI应用开发商提起诉讼，事由是开发商利用其拍摄的电影花絮制作广告。所以，尽管大多数的生成式AI还处在“玩玩而已”的范畴，却不可忽视它已经具备了某些不太光彩的应用场景。特别是，我国已经出现了有人因AI换脸被诈骗、有人利用AI换脸从事淫秽色情活动的事例。对于监管部门而言，一方面，要对违法犯罪行为严厉打击，另一方面，尤其有必要要求开发商把数字水印作为必要项，并且这个水印不能被放在视频的边边角角，而应该与画面主体有重叠，以此防备生成式AI被滥用。

　　技术本身并无价值观，但操纵技术的人有。在刚刚结束的全球首届AI安全峰会上，包括中国、美国、英国在内的28个国家及欧盟共同签署了《布莱奇利宣言》，呼吁以安全、以人为本、值得信赖和负责任的方式设计、开发、部署和使用AI——“负责任”即是遵守法律、合乎道德，它应当成为业内的共识。