近期，运用AI换脸技术合成的一系列古人“回答我”视频火爆出圈。“换脸拟声”属于人工智能中的深度伪造技术，可以让真人秒换替身脸，古人从画像里“复活”……AI技术使用越来越广泛，要想从用会到用好，就必须对之深度了解，且须提防技术被用歪使坏，不然我们和AI“友谊的小船说翻就翻”。

　　AI“换脸拟声”起初在影视、广告等领域应用较多。如一些有“劣迹艺人”参演的影视剧作品，投资方会选择AI换脸来减少损失、保证作品播出。

　　随着AI技术发展，制作一段“换脸拟声”的视频已非难事。借助编辑软件中的“一键换脸”功能，普通人就能实现这种好玩的特效。创作者综合利用几种AI软件，可以让更多创意落地。

　　本报新媒体编辑小余使用AI配音较多，他告诉记者：“借助AI工具配音速度快、易修改，整个工作流程更加简单便利。而且，还可以模仿角色声音，做出有创意的作品。”新湖南技术人员在录制一段真人视频的基础上，通过专业软件合成，就能得到逼真的“数字人”出镜视频。几张古人图片，经过他们反复捣鼓几个AI工具，就让古人真容活灵活现秀出视频《跨越千年与你相见，李清照出现那刻太惊艳》。

　　目前，AI“换脸拟声”类软件仍属于半专业工具，需要一定的技术基础进行操作。公众使用的免费工具制作相对粗糙，逼真度不高。记者检索发现，一些电商平台上已有该项软件技术和教学视频售卖。

　　“换脸拟声”属于AI中一种学名“深度伪造”的技术。深度求索（DeepSeek）软件解释：深度伪造技术（Deepfake）是一种基于人工智能（尤其是深度学习）的合成媒体技术，通过替换、合成或修改图像、视频、音频等内容，生成高度逼真但完全虚假的信息。其名称来源于“深度学习”（Deep Learning）和“伪造”（Fake）的组合。

　　在记者的小调查中，对深度伪造技术不太了解、完全不了解的受访者占比一半。读者小琪听到记者介绍深度伪造方知：“我用过换脸特效，但就是觉得好玩，根本没意识到这属于伪造。”

　　DeepSeek形容深度伪造：像一把“数字魔术刀”，能创造趣味和便利，但也可能成为伤人的利器。用好了是《头号玩家》的虚拟世界，用歪了就是《黑镜》里的黑暗剧情。

　　深度伪造技术使用门槛的降低，正引发一系列风险问题。如“伪造”名人声音或脸输出虚假信息，发布虚假广告，诈骗群众。

　　深度伪造也需技术“防伪”。记者就此采访网络安全专家，湖南文盾信息技术有限公司董事长、方滨兴院士工作站负责人任江春。“不能因为名人效应就盲目相信或盲目转发，要理智分析其观点。”任江春说，“国家目前正在要求AIGC生成大模型备案，并建立溯源取证手段，及时发布辟谣信息等，我们将来可以随时通过具有公信力的官方平台进行查询、验证或举报。”

　　3月14日，国家网信办、工信部、公安部、国家广电总局联合发布《人工智能生成合成内容标识办法》，自2025年9月1日起施行。任江春对此进行解读：“其核心内容是要求互联网服务提供者要对AI生成的内容进行显式或隐式标识，这样就可以督促正常发布的AIGC内容有身份来源，提高监管检测的效率，更大程度威慑造假者。”

　　显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可以被用户明显感知到的标识；隐式标识是指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。

　　对AI生成合成的视频实现溯源，一定程度上能遏制不法行为。任江春还建议，建立自动巡查和举报平台，及时曝光违法或没有标注的生成内容，协助公众及时识别，让AI技术更好地规范使用，为社会发展和人民福祉服务。

　　今年3月5日，常德市桃源县公安局网监大队联合理公港派出所查处一起虚构事实扰乱公共秩序案。违法行为人杨某为吸引流量，利用AI技术移花接木，制作发布了一段校车突发起火的虚构视频及配文。经审查，杨某被依法行政拘留。桃源县公安局网监大队大队长邓克勇提醒市民，涉及公共安全事件以官方通报为准，不信谣、不传谣。

　　3月以来，相继曝出虚拟院士视频带货化妆品，模仿明星古天乐、林峯声音代言赌博游戏平台，某知名模特被人用AI换脸制作淫秽视频等事件。在全国两会上，一些代表委员呼吁，要规范AI“换脸拟声”技术的不当利用，让法律成为AI规范发展的坚实底线。

　　湖南芙蓉律师事务所高级董事、高级合伙人律师杜颖告诉记者，用AI技术“换脸拟声”他人涉嫌侵害他人名誉权，可能带来严重的法律后果。

　　“民事方面可能需要承担停止侵害、赔礼道歉、消除影响、恢复名誉，并赔偿损失等责任，还可能会面临行政处罚，情节严重的可能构成诽谤罪、侮辱罪。除此之外，通过身份伪造和冒充，以非法占有为目的，还会涉嫌诈骗罪。”杜颖提醒，公众在使用AI技术时，必须注意不得制作、传播虚假信息或恶搞视频，尤其是涉及他人肖像、声音等个人特征的内容。公众也要对个人隐私采取防护措施，避免在社交平台公开高清人脸照片、声音片段等生物信息。

　　如何判断使用AI的行为构成侵权？杜颖介绍，主要看产生的后果，如果负面影响比较大，造成社会评价的降低，那么就属于名誉受损，可以依。

　　不法分子利用AI技术正发展出新型诈骗。据IT时报报道，浙江警方数据显示，AI诈骗案件在2024年同比激增270%，单笔损失金额超百万元的案例中，83%涉及伪造视频。

　　长沙市反诈中心提醒：“在日常生活中，但凡涉及交易、转账等行为，一定要核实对方身份，这是避免被骗的关键一步。”“目前AI换脸视频主要集中于静态场景，如带货视频或短时对话。虽然AI技术发展迅速，但‘实时动态换脸’进行诈骗的技术门槛仍极高。”对普通用户生成的换脸视频通常只有几秒，画面模糊、声音机械，仔细观察便能识破。

　　目前，我国已相继出台《互联网信息服务算法推荐管理规定》《人工智能生成合成内容标识办法》及配套国家标准《网络安全技术人工智能生成合成内容标识方法》等，正在构建多层次的治理制度，在鼓励和保护技术创新的同时，对技术风险的法律监管趋向全链条发力。