9月14日，国家网信办发布《人工智能生成合成内容标识办法（征求意见稿）》。《征求意见稿》拟规定服务提供者提供的生成合成内容，包括文字、音频、图片、视频、虚拟场景等，均应在适当位置添加显著的提示标签；服务提供者在提供下载、复制、导出生成合成内容的方法时，应当确保文件包含符合要求的显性标签。
这项规定非常现实、有针对性、非常必要。近年来，AI深度合成技术被广泛应用于多个领域，从图像、文本、视频生成到在线问答，各类应用层出不穷。毫无疑问，AI工具可以让我们的内容生产、知识传播更加高效，而且随着AI的学习能力越来越强，未来其内容“生产”能力甚至会超过人类。
另一方面，深度合成内容的效果更加逼真，生产更加高效，也让合成内容达到了“真假难辨”的程度。当真假参半、难以分辨时，眼见为实已成定局。人工智能技术就像一把双刃剑，也会给社会带来信息扭曲、认知混乱等问题。
2022年11月，国家网信办发布《互联网信息服务深度合成管理规定》，对深度合成内容的用途、标识、使用范围、滥用处罚等作出了具体规定。《征求意见稿》进一步明确，无论是文字、音频、图片还是视频，“均须在适当位置添加显著提示标记”。这是对服务商的明确要求：只要是人工智能工具生成的，无论是文章还是图片，都必须添加显著标记。
这其实也是在提醒观众，网络上的信息良莠不齐，看到“内幕”文章、“爆炸性”图片、“惊悚”视频时，首先要注意它们是不是AI生成的，要不要相信，如何分辨，一定要更加小心谨慎。
值得注意的是，随着科技逐渐普及，不法分子可以轻易利用人工智能传播谣言、制造虚假新闻。前不久，有媒体曝光一家MCN机构利用人工智能每天可以生成4000到7000条谣言文章。这些文章因为有人工智能技术的支持而显得非常“真实合理”，对互联网技术不熟悉的受众也很容易相信这种“有图有真相”的信息内容。
据媒体调查，利用国产AI撰写一篇AI文章的成本仅为0.00138元，1分钱就能生成7篇文章。这样的“无成本、暴利”很容易被不法分子利用。“地铁遇袭”、“西安爆炸”、“重庆无锡居民楼爆炸”等虚假图片、视频造成了恶劣社会影响，其实背后的谣言都是AI批量生产的。
识别人工智能生成的合成内容在技术上并不困难，有专家建议，可以充分接入AI内容生成平台的大模型体系，进行实时数据识别比对，然后加上不可磨灭的数字水印，或者“此图片/视频为AI生成”之类的文字描述。
《征求意见稿》强调“任何组织和个人不得恶意删除、篡改、伪造、隐匿本办法规定的生成合成内容标识”，这提醒人工智能服务提供者和平台，切勿对人工智能工具带来的“流量红利”视而不见。清朗的网络空间，决不能让人工智能内容混杂造假，模糊现实的界限；如任何信息被认定为谣言，平台应立即标注清理。
人工智能的生成合成能力超出了传统的认知，也让我们意识到很多看起来很“科学”的网络文章、很多看起来特别“真实”的网络视频，都不一定靠谱，所以不要急于相信。不妨在内容的显眼位置找找，看看有没有写着“此图片/视频是AI合成的”的标志？
