向 AI 生成文本加入隐藏水印的新方法

近日，文本生成 AI 系统（如 ChatGPT）引发了广泛关注，其优异的性能也引起一定的担忧，因为人们无法判断一份提交的文本是否由 AI 撰写。美国马里兰大学（University of Maryland）计算机科学家团队研究团队 1 月 27 日在 arXiv 上发布了一份未经同行评审的预印本研究，介绍了一种为 AI 生成文本添加水印的新方法，帮助人们解决这种担忧。

研究人员指出，文本生成系统需要在生成文本时依次选择单词，并以一种可被预测和捕捉的方式进行：AI 会选择合适的单词，将其打上“可行列表”的标记，然后才能使用它们。因此，AI 编写的文本通常比人类编写的文本具有更多的“可行列表”标记，这是一种可以用作水印的模式。研究人员建议，创造 ChatGPT 这样的文本生成 AI 制造商可以在他们的机器人创建的文本中添加标识符，这种标识符不能被使用 AI 的用户看到（例如让 ChatGPT 帮忙写论文的学生），但可以被监管方的应用程序检测。不过，这种方法需要制造商都自愿或在政府监管下实行。（Tech Xplore）

转自：“科研圈”微信公众号

如有侵权，请联系本站删除！