噩耗!SD3、FLUX.1等开源文生图模型,可能将无法使用

AIGC动态1个月前发布 AIGCOPEN
213 0 0
噩耗!SD3、FLUX.1等开源文生图模型,可能将无法使用

 

文章摘要


【关 键 词】 AI立法透明度开源挑战技术难度监管影响

AB-3211法案是美国加州针对文本生成模型(文生图模型)的一项立法,旨在规范AI生成内容的透明度和可追溯性。该法案在2月16日提出,并在州参议院以62:0的投票结果通过,预计将在9月30日前提交给州长Gavin Newsom签署。科技巨头如OpenAI、微软和Adobe等对该法案表示支持。

法案的核心内容要求文生图模型必须嵌入详细的元数据,以识别图像是否由AI生成,并提供关于图像生成方式、时间、服务等附加信息和水印。这一要求对开源模型如SD3、FLUX.1等构成挑战,因为它们可能缺乏这些功能,从而在HuggingFace、Github等平台上的分享可能被视为违法。

法案的批评者,如知名架构师Daniel Jeffries,认为AB-3211比之前的SB-1047法案更为极端,认为其要求在技术层面上难以实现,可能导致监管上的不良示范。

法案对开源社区的影响主要体现在以下几个方面:
1. 法律责任:如果开源模型被用于生成误导性或有害内容,开发者可能面临法律诉讼和高额罚款。
2. 来源数据和水印要求:模型必须嵌入不可篡改的来源数据,以验证内容的真实性和完整性。
3. 提供来源检测工具和进行对抗性测试:模型平台需要提供工具和流程,以确保生成内容的安全性和可靠性。
4. 透明度报告:模型平台需每年提交安全透明度报告,披露平台上的欺骗性合成内容审核情况。

这些要求增加了技术难度和开发成本,对于资金和技术资源有限的小公司、学术机构和个人开发者来说,可能难以承受。大型闭源模型由于资源充足,可能更容易适应这些要求,而开源模型则面临更大的挑战。法案的通过可能会对开源技术的发展和创新产生抑制作用。

豆包-智能助手

原文和模型


【原文链接】 阅读原文 [ 1149字 | 5分钟 ]
【原文作者】 AIGC开放社区
【摘要模型】 moonshot-v1-32k
【摘要评分】 ★★☆☆☆

© 版权声明

相关文章

暂无评论

暂无评论...