是否是“负责任的”AIGC?
2023/3/6 14:16:35 阅读:106 发布者:
AIGC 在过去几年中受到了极大的关注,内容涵盖图像、文本、音频、视频等。与此同时,AIGC 也已成为了一把双刃剑。此项研究关注可能阻碍 AIGC 在实践中健康发展和部署的问题,包括隐私、偏见、毒性、错误信息和知识产权(IP)风险。
例如,下图中运用文生图应用 Stable Diffusion 以“三个工程师在草原上奔跑”为提示而生成的 9 张
中共有 28 人,全部为男性。此外,他们都不属于被忽视的少数种族,这显示了 Stable Diffusion 的巨大偏见。研究通过记录已知和潜在的风险,以及任何可能的 AIGC 滥用场景,旨在引起人们对潜在风险和滥用的关注,帮助社会消除障碍,促进 AIGC 更符合道德和安全的部署。
此外,研究为应对这些风险提供了有希望的方向,使 AIGC 能够负责任地用于造福社会。例如,对于公司来说,应采取主动措施,以减轻数据源、模型和预处理/后处理步骤中的潜在风险。如果没有适当的保障措施,AIGC的发展可能面临重大挑战和监管负担。
论文链接:
https://arxiv.org/abs/2303.01325
转自:“学术头条”微信公众号
如有侵权,请联系本站删除!