最近这段时间，OpenAI 对外公布消息，准备在 ChatGPT 生成的文字里面加上隐形水印。推出这项功能，主要就是为了满足欧盟人工智能法案里面提到的合规要求。这种隐形水印不会在文字上留下肉眼能够看到的标记，配套的检测工具可以识别出这段文字是不是大模型生成出来的，用来追溯 AI 内容的来源。
一、隐形水印功能的基本介绍
OpenAI 这次部署的隐形水印，藏在 ChatGPT 输出的文本里面。普通用户阅读这些文字的时候，很难发现水印的存在。工作人员如果需要检查内容来源，可以使用对应的检测工具，判断文本是不是 ChatGPT 生成出来的。
这套水印方案不会改变文字原本想要表达的意思，大家阅读的时候不会感觉到明显差别。不过水印也不是任何时候都可以识别成功。如果文本经过大量改写、翻译或者删减操作，水印信息就有可能被破坏掉，之后就没办法识别。OpenAI 提到，水印功能会慢慢开放给 ChatGPT 用户，不会一次性全部上线。
二、功能上线的背景：欧盟 AI 合规要求
欧盟人工智能法案针对生成式 AI 产品，制定了和 AI 内容标识相关的规则。法案要求 AI 生成出来的内容要有溯源能力，用来区分人写出来的内容和 AI 生成的内容，减少虚假信息带来的各类风险。
OpenAI 面向欧盟地区用户提供服务，企业就需要遵守法案里面的各项规定。添加隐形水印，只是 OpenAI 应对监管采取的措施之一。除文本水印之外，欧盟 AI 法案还有数据安全、模型风险分级等很多方面的要求，只依靠水印并不能完成全部合规工作。
三、隐形水印带来的实际影响
普通用户平时使用 ChatGPT 的时候，几乎感受不到水印的存在。用户正常写文案、整理资料，使用体验不会产生明显变化。水印大多用在核验内容的场景当中，像学校、媒体机构这类地方，可以借助水印分辨 AI 生成内容。
放在整个行业来看，OpenAI 落地文本隐形水印，也给其他出海 AI 企业提供了一些参考。随着世界各地 AI 监管政策陆续落地，AI 内容溯源会变成很多大模型产品需要配备的基础能力。不少厂商都在研发文本水印、图片水印这类溯源相关的技术。
同时也要看到这项技术存在一定的局限。简单修改文本内容就有可能破坏水印，只依靠这项水印技术，没有办法彻底解决 AI 内容伪造的问题，水印只能算作溯源手段当中的一种。
四、行业小结
OpenAI 在 ChatGPT 里面增加隐形水印，是企业适应欧盟人工智能监管做出的一次产品调整。短期来看，这个功能能够实现 AI 文本溯源，满足法案对内容标记的相关规定。长期来看，AI 文本水印技术还需要不断优化，提升水印在文字修改之后的保留效果。
后面行业也会持续观察这套隐形水印在实际场景下能不能稳定识别，看看其他 AI 企业会不会推出类似的溯源方案。