我所应邀参加《生成式人工智能数据应用合规指南》团体标准起草单位意见征集会
12月29日,由国家工业信息安全发展研究中心(工业和信息化部电子第一研究所)牵头的《生成式人工智能数据应用合规指南》团体标准意见征集会在北京召开,丰瑞律师事务所作为该团标起草单位之一,刘艳阳律师、王淼律师、王斐律师代表律所参与了本次会议。
我所区块链、人工智能及大数据产业法律研究中心副主任王淼,涉外、一带一路及自贸区法律专业委员会副主任王斐现场参会,企业合规法律研究中心主任刘艳阳在线上全程参与了会议直播。
会议中,王淼律师代表起草单位发言。她提出监管过严将限制行业和技术发展,监管过宽则存在安全隐患,因此找到合规要求的平衡点至关重要。
从合规层面理解当前生成式人工智能亟需考虑的安全风险分别是:准备阶段的数据安全风险、运算阶段的算法偏见风险、生成阶段的知识产权风险。从刚刚发生的《纽约时报》起诉微软和OpenAI案例为参考,前端完整授权链条达成不易,可以考虑将合规标准立足于后端结果而非中端训练过程及数据标注问题,更多地着眼数据粒度、界限和来源从而界定知识产权问题;而针对算法偏见、意识形态风险、非法内容生成等则可采取“前期静态实质性审查+后期动态技管结合嵌入”的方式应对。
2023年,可以实现复杂的语言交互、代码生成、视频生成、图像生成等内容的生成式人工智能彻底掀起了内容生产领域的革命,人工智能由此迈入新的阶段。作为一个新兴产业,生成式人工智能技术不断突破,催生各类新产品、新服务、新业态,为各行各业带来全新可能,但同时也蕴含着包括伦理风险、个人信息泄露风险、商业秘密泄露风险、数据安全风险、网络安全风险、算法风险等大量的新风险。
团体标准的编制对于应对生成生成式人工智能带来的全新的数据合规挑战,促进生成式人工智能产业高质量健康发展,帮助企业更好地在研发和经营中应用数据,确保数据全生命周期的安全运行具有重大意义。我所将始终钻研法律前沿课题,持续专注于专业化问题解决,为客户持续提供高质量、精确化的法律服务。