原标题：AI以假乱真，如何看清数字世界里的“影分身”

近日，一段外国歌手“说”中文的短视频在网上刷屏。通过AI变声与变脸技术等进行二次创作，视频中的歌手“说”着流利中文，音色和讲母语时的音色极其相似，甚至连口型都能对上。有网友感叹，“太自然了，差点儿以为是真的。”更多人则表示担忧：“若是技术被滥用，以后视频造假就会越来越容易。”AI相关的话题我们聊过很多，今天，我们继续来聊聊其背后的危与机。

自20世纪中期人类首次提出“人工智能”概念以来，软硬件技术不断升级，AI技术取得阶段性进展。在近段时间的热点新闻中，AI就是名副其实的“显眼包”：在杭州亚运会火炬线上传递过程中，通过AI捏脸、AI动作捕捉等技术的运用，上亿名“数字火炬手”一人一面、自由换装；在前几天刚闭幕的第六届进博会上，“AI照相馆”前人潮涌动，参观者只需要在照相馆内拍摄一张照片，就能通过人脸融合技术，或换上古韵汉服“漫步”上海街头，或穿着活力文化衫“打卡”电竞现场；在乌镇“互联网之光”博览会上，未来生活数字体验区成为最热闹的展区之一，观众可以参加AI心理测试，甚至还能找AI中医来把脉问诊。AI运用推陈出新，尽显科技的无穷魅力，不断丰富人们对未来的想象。

人脸识别、语音合成、自动驾驶……赋能千行百业、融入日常生活，近年来，以算法与数据为基石的人工智能迅速发展，应用越来越广泛，对经济发展、社会进步产生着深远影响。当前，我国人工智能产业蓬勃发展，核心产业规模达到5000亿元，企业数量超过4300家。数据显示，到2030年，我国人工智能核心产业规模有望超过1万亿元，带动相关产业规模超过10万亿元，推动劳动生产率提高20%以上。而从全球科技、经济发展的大趋势看，人工智能也同样是新一轮科技革命和产业变革的重要驱动力量，可谓潜力巨大、未来可期。

AI技术发展如火如荼，其潜在风险也不容忽视。比如，AI生成近似原画的内容、构图等，可能侵犯了原创者的知识产权；大型语言、图像模型处理、生成数据时，可能侵犯个人隐私；当生成式AI技术被不法分子恶意使用，可能用来从事制造虚假信息、诈骗等违法活动。从社交机器人衍生出网络水军，到算法推荐加固信息茧房，再到AI掀起种种“以假乱真”风潮，新技术这把“双刃剑”可能造成的规则冲突、法律风险和社会伦理挑战，引起了越来越多人的关注和重视，成为全社会面临的一道必答题。

新技术的发展不会止步，因噎废食不可取。维护市场秩序、保护合法权益，有形之手就显得很关键。现实来看，人工智能算法具有“黑箱”特性，表现为行为不可控、决策机制难解释等，给监管带来了不小的难度。近年来，《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等相关法律法规密集出台，针对人工智能技术的特点，不断创新、完善与之相适应的监管方式。坚持包容审慎态度，统筹发展与安全、促进创新与依法治理，才能让AI技术始终行驶在正确轨道中。

“未来像盛夏的大雨，在我们还来不及撑开伞时，就已扑面而来。”一段时间以来，AI领域的新突破就像密集的雨点，猝不及防地砸在我们身上。有人说，此时正是“人工智能的蒸汽机时刻”，我们正面临着如何与自己创造的强大工具和谐相处。更好向未来，我们不仅要矢志奔赴科技创新的“星辰大海”，也要在明晰行业“底线”、划定监管“红线”方面持续探索。惟其如此，才能让技术真正地服务于人、造福社会。

这正是：

大势所趋，未来已来。

守好边界，开拓蓝海。

（曹怡晴）