技术慢下来还是治理跟上去破解AIGC“科林格里奇困境”用模型监督模型

文章摘要：英国技术哲学家大卫·科林格里奇在技术的社会控制》（1980）中指出一项技术如果因为担心不良后果而过早实施控制，那么技术很可能就难以爆发。反之，如果控制过晚，已经

正文内容

英国技术哲学家大卫·科林格里奇在技术的社会控制》（1980）中指出一项技术如果因为担心不良后果而过早实施控制，那么技术很可能就难以爆发。反之，如果控制过晚，已经成为整个经济和社会结构的一部分，就可能走向失控，再来解决不良问题就会变得昂贵、困难和耗时间，甚至难以或不能改变。
这种技术控制两难的“科林格里奇困境”，正成为当下AIGC（生成式人工智能）治理需要直面的挑战。
12月27日，“AI发展与治理创新研讨会”在北京举行。来自中国科学院、中国社会科学院大学、复旦大学、浙江大学、国家部委研究机构和国内AI企业的专家学者围绕AIGC技术、风险和治理展开了激烈探讨。
2023年，伴随AIGC在全球的竞技式发展，国内大模型以通义千问、文心一言、讯飞星火等为代表，由通用大模型向行业大模型发展，应用百花齐放，涉及Chat、AIGC、数字人、智能体……
随着在人工智能领域的探索与实践的加深，人工智能的技术风险——数据安全性、算法透明性、系统稳定性及伦理争议，再如人类的自主能动、隐私保护、社会公平等逐渐暴露，由此引发社会的广泛关注。人工智能的风险管理、全生命周期的治理成为全球的重要议题。
“技术慢下来，还是治理跟上去”
阿里研究院执行副院长袁媛在会上抛出 “灵魂拷问”。正如她所言，技术的发展是一种非线性，甚至是指数型的增长，但是从知识的积累、治理工具的演进，到政策的完善，它始终是一个线性的过程。政策与科技步调不一致成了必然规律。无论让技术慢下来、还是让政策跟上去，都考验着治理的包容与创新。
AIGC四大风险内容安全首当其冲
2023年3月，一组由AI绘图工具Midjourney生成的“特朗普被捕假照片”在网上疯传，“有图未必有真相”让外界对AIGC的内容风险有了清醒的共识。
阿里巴巴人工智能治理和可持续发展研究中心首席科学家何源分析指出AIGC当下四大风险时，亦直言“内容安全”首当其冲。
AIGC的“内容安全”广义上包括输出内容的社会安全性，是否合法合规、遵守道德伦理和公序良俗等，具体表现在违法不良信息、内容失实、偏见歧视、违反伦理道德等方面。
何源进一步指出，首先，相比传统内容生产模式，AIGC可以通过交互式快速生产，生产成本显著降低；而通过prompt方式可以批量生产大量内容，进行规模化，包括一些色情、低俗、血腥恐怖的内容，甚至不良导向的内容等等，对内容安全的防控带来新的挑战。与此同时，相比真实构图，AIGC生成内容具有更高的自由度，更加复杂、隐晦；AIGC产品还需要快速响应用户指令，这对内容安全防控体系都提出更高的时效性要求。
每日经济新闻》记者现场了解到，多数与会专家对AIGC的内容风险都表达了“输出输入内容审核”的重要性。
但需要直面的另一个现实是，如果每一条输出内容都进行人工审查，人力成本大幅上升而用户体验严重受损，不具有可行性，这成为内容安全保障的难点。同时，由于现阶段生成式人工智能服务通常无法提供准确的依据和来源，相关生成内容无法鉴伪，风险也无法被有效定位溯源。
阿里巴巴集团与中国电子技术标准化研究院当日联合发布的AIGC治理与实践白皮书》（以下简称白皮书》）对此则认为，从训练数据和算法源头上控制内容安全、管理用户的输入和对生成结果的使用，成为降低AIGC风险的重要切入点。
除内容安全外，AIGC还存在模型安全、隐私&版权、伦理道德三大风险。
谈及 “模型安全”，何源认为，由于大模型基于深度学习框架构建，在对抗“鲁棒性”（即模型对于输入中的扰动、对抗性样本或恶意攻击是否具有足够的抵抗力）上同样存在安全隐患；大模型基于海量数据进行自监督训练和基于反馈的强化学习优化，存在数据攻击风险，比如数据投毒、提示词越狱攻击等。而深度学习的黑盒运行机制，导致大模型同样面临“可解释性不足”的问题。
那么，AIGC生成的内容是否受版权保护目前法律界也还没有统一定论。
2023年，美国版权局拒绝登记Zarya of the Dawn》，判定用Midjourney制作的AI图片不受保护；2023年12月，北京互联网法院公开审理AI文生图著作权案，原告使用AI生成图片发布网络后，被告直接拿去使用，原告认为被告侵犯了他的知识产权。这个案例北京互联网法院一审支持了原告。不过，每日经济新闻》记者也注意到，该案判决强调，利用人工智能生成的内容，是否构成作品，需要个案判断，不能一概而论。
“大模型的训练是基于海量的数据，通常我们不可能为每一个训练数据确认它的使用权限。同时数据的隐私问题也会是一个潜在的风险。因为大模型用海量的互联网数据，既然没有确认每一张图片每一个样本的授权，版权的情况就会存在用户的数据隐私泄露的风险。”何源如是说。
“用模型监督模型”