有效区分线上聊天对象是 AI 还是人类的方法

大型语言模型如 ChatGPT 在自然语言理解和生成方面表现出强大的能力，随着它们能力的增强，标准的机器人检测方法可能不再有效。为了区分对话参与者是人工智能（AI）还是人类，谨防模型被用于恶意目的，美国加利福尼亚大学圣巴巴拉分校和中国西安交通大学的研究人员提出了一个名为 FLAIR 的框架，通过询问一些对人容易但对 AI 困难的问题，检测与人们对话的另一方是 AI 还是人类。该研究已于近期发表于预印本网站 arXiv，论文并未经过同行评议。

这些问题是利用 AI 和人类处理、生成语言方式的差异而量身定制。解决这些问题需要具备计数能力、数字或字母替换能力、识别字符和数字位置的能力、识别掩盖数据的“噪音”以及解析 ASCII 艺术的能力。在这些问题上，AI 在通常难以正确解答，但人类可以轻松解决。例如，要求数出 'eeooeotetto' 中的字母 t 的数量；请输出字符串 'rjsjuubrjjsjsucuj' 中第二个 's' 后的第四个字符；以及回答isCURIOSITY waterARCANE wetTURBULENT orILLUSION drySAUNA？（其中的大写字母用于误导大语言模型）等。研究人员表示，FLAIR 为在线服务提供商提供了一种新的保护方法，以防范欺诈活动并确保为真实用户提供服务。（Tech Xplore, arXiv）

转自：“科研圈”微信公众号

如有侵权，请联系本站删除！