“雷军回应‘国庆7天被AI雷军骂了8天’”“靳东两会建议AI换脸立法”……今年全国两会期间，“AI换脸拟声”技术的滥用问题引发代表委员关注，相关话题频频登上热搜，也引发福州市民热议。

业内人士剖析：

技术便捷滋生乱象

随着AI技术的发展，“AI换脸拟声”操作愈发简单，只需获取照片和声音等个人信息，就能借助技术以假乱真。

昨日，记者尝试使用了某款AI换脸软件。在上传一张人物照片并按照提示进行简单操作后，短短几分钟，软件便生成了一段换脸后的视频，人物表情和动作虽有些生硬，但整体已具有较高的相似度。

据了解，利用声音合成功能，同样能快速生成一段模仿目标人物声音的音频。

基于此类技术，不法分子在网络上制造出各种违法乱象。从假冒名人诱导中老年人转账，到伪装单位领导要求汇款，甚至有线上游戏平台利用AI技术，将某明星的肖像、声音及过往视频片段，合成制作为带有赌博性质的代言宣传片。

“GitHub这类知名开源平台上有大量AI换脸、语音合成的开源代码与工具，大大降低了技术使用门槛。例如，热门的开源项目DeepFaceLab，不法分子只需简单下载、调试，即便技术水平有限，也能快速搭建起简易的‘AI换脸拟声’程序。”福州大学计算机与大数据学院博士生肖博怀告诉记者，一些AI开源代码和工具降低了技术使用门槛，让合法的创新探索、创意实践变得更为便捷，但这也使得恶意利用技术变得轻而易举，不法分子能够轻易获取并运用这些资源，实施违法犯罪行为。

一名深耕互联网行业多年的资深从业者表示，在当下网络环境中，用户注册各类网络平台账号时风险意识普遍薄弱。不少用户为图便捷，随意填写真实姓名、身份证号、联系方式等关键个人信息。注册过程中，对平台隐私设置选项视而不见，默认全部公开。这些泄露的信息与“AI换脸拟声”技术相结合，无异于给诈骗分子提供了“作案利器”。

（节选）

福州晚报：https://mag.fznews.com.cn/fzwb/2025/20250312/20250312_A03/20250312_A03_1.htm

福州新闻网：https://news.fznews.com.cn/fzxw/20250312/Do728YYUyr.shtml

凤凰网：https://ishare.ifeng.com/c/s/8heocJbQvU9

海峡网：http://m.hxnews.com/news/fj/fz/202503/12/2194166.shtml

台海网：https://www.taihainet.com/news/fujian/fjjj/2025-03-12/2824282.html