|
图源：卡乐图片 贾琼/摄 爆火的生成式AI产业正式迎来首个监管文件。 继今年4月网信办就《生成式人工智能服务管理办法（征求意见稿）》公开征求意见后，7月13日，网信办等七部门正式发布了《生成式人工智能服务管理暂行办法》（下文简称“《办法》”），该办法自2023年8月15日起施行。 国家互联网信息办公室有关负责人表示，出台《办法》，旨在促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。 相比4月发布的《生成式人工智能服务管理办法（征求意见稿）》，新出台的《生成式人工智能服务管理暂行办法》在多处放宽了监管要求，并增加了鼓励人工智能技术发展的措施。 重视对于AIGC的监管力度 近期，以ChatGPT为代表的生成式人工智能（AIGC）是最为热门的革命性新技术之一。然而，与任何新技术一样，AIGC同样会带来数据安全、隐私风险和算法安全等问题。奇安信安全专家认为，全球范围内发生了多起因使用ChatGPT导致的数据泄露事件，各国逐步开始重视AIGC数据安全风险的监管审核。《征求意见稿》的发布，意味着国家对AIGC的监管治理已经提上日程。 在全球范围内，各国都在逐步重视对于AIGC的监管力度。美国商务部4月11日就相关问责措施正式公开征求意见，包括新人工智能模型在发布前是否应经过认证程序。而意大利、加拿大等国监管机构也先后宣布将关注ChatGPT及其背后公司OpenAI带来的数据安全风险，并将开启监管调查。 奇安信安全专家认为，《征求意见稿》的发布以及全球范围内对于AIGC的监管力度加强，意味着数据安全和隐私保护已经成为AIGC发展的前提和关键。随着AIGC技术的日益成熟和普及，企业应该更加重视数据安全和隐私保护问题。 浙江大学国际联合商学院数字经济与金融创新研究中心联席主任、研究员盘和林认为，《征求意见稿》的发布，主要是明确了生成式人工智能先规范再发展的总基调，总体上是为了完善生成式AI的应用环境，为生成式AI在国内应用创造条件。但从另一方面看，当前《征求意见稿》内容还比较简化，部分条款的线条还比较粗，他建议未来需要进一步完善意见稿内容，防止“一管就死、一放就乱”的情况在生成式AI领域出现，在生成式AI的发展和安全有序推进之间找到平衡点。 涉及数据、责任承担等多方面 《征求意见稿》所称的生成式人工智能，是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。 在数据方面，《征求意见稿》拟提出，利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人（下称“提供者”），包括通过提供可编程接口等方式支持他人自行生成文本、图像、声音等，承担该产品生成内容生产者的责任；涉及个人信息的，承担个人信息处理者的法定责任，履行个人信息保护义务。不得非法留存能够推断出用户身份的输入信息，不得根据用户输入信息和使用情况进行画像，不得向他人提供用户输入信息；用于生成式人工智能产品的预训练、优化训练数据不应含有侵犯知识产权的内容，数据包含个人信息的，应当征得个人信息主体同意或符合法律、行政法规规定等。 在事前审查方面，利用生成式人工智能产品向公众提供服务前，应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。 在责任承担方面，利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人（以下称“提供者”），包括通过提供可编程接口等方式支持他人自行生成文本、图像、声音等，承担该产品生成内容生产者的责任；涉及个人信息的，承担个人信息处理者的法定责任，履行个人信息保护义务。 在信息公开方面，《征求意见稿》拟提出，提供者应当根据国家网信部门和有关主管部门的要求，提供可以影响用户信任、选择的必要信息，包括预训练和优化训练数据的来源、规模、类型、质量等描述，人工标注规则，人工标注数据的规模和类型，基础算法和技术体系等。 同时，实名认证与防沉迷被提出。在提供生成式人工智能服务时，用户被要求提供真实身份信息；提供者应当明确并公开其服务的适用人群、场合、用途，采取适当措施防范用户过分依赖或沉迷生成内容。 在后端处理机制方面，《征求意见稿》拟提出，建立用户投诉接收处理机制，及时处置个人关于更正、删除、屏蔽其个人信息的请求；发现、知悉生成的文本、图片、声音、视频等侵害他人肖像权、名誉权、个人隐私、商业秘密，或者不符合本办法要求时，应当采取措施，停止生成，防止危害持续；对于运行中发现、用户举报的不符合本办法要求的生成内容，除采取内容过滤等措施外，应在3个月内通过模型优化训练等方式防止再次生成；提供者发现用户利用生成式人工智能产品过程中违反法律法规，应当暂停或者终止服务。 释放哪些监管信号？ 北京师范大学法学院博士生导师、中国互联网协会研究中心副主任吴沈括表示，对于生成式人工智能相关监管文件出台速度快，体现了与技术发展和应用态势的同步推动，反映了中国网络监管、数字监管日益成熟和敏捷高效的演进态势。 多位从业者表示，《办法》强调了落地的可执行性，体现了风险防范、风险应对和风险管理的基本思路，它的实施对推动产业发展有重要的意义，为生成式人工智能的发展创造了良好的创新生态。 吴沈括表示，今天出台的《办法》在三个方面尤为突出：一是强调了AIGC的分类分级管理机制，突出了针对不同风险类型后续引入相关监管机制的思路；二是注重AIGC产业生态的培育，特别是关于算力资源共享以及预训练公共数据平台的建设问题；三是办法强调了国内外的交流合作，在适用范围上，针对境外、境内提供服务以及不向境内提供服务的业务类型做了区分，明确了办法的适用范围。 与此前的《征求意见稿》相比，今日发布的《办法》新增多处对于生成式人工智能服务的相关鼓励。 例如，在第二章技术发展与治理的第五条与第六条，都提到了要鼓励生成式人工智能技术在各行业、各领域的创新应用，生成积极健康、向上向善的优质内容，探索优化应用场景，构建应用生态体系。此外，还鼓励生成式人工智能算法、框架、芯片及配套软件平台等基础技术的自主创新，平等互利开展国际交流与合作，参与生成式人工智能相关国际规则制定。 《办法》还提到，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。 在业界尤为关注的算力方面，《办法》也提及，推动生成式人工智能基础设施和公共训练数据资源平台建设。促进算力资源协同共享，提升算力资源利用效能。推动公共数据分类分级有序开放，扩展高质量的公共训练数据资源。鼓励采用安全可信的芯片、软件、工具、算力和数据资源。 在服务商准入方面，《办法》还提到，对于外商投资生成式人工智能服务的，应当符合外商投资相关法律、行政法规的规定。 对于生成内容的真实可靠性问题，相比《征求意见稿》，《办法》的说法有了一定调整。 “一本正经胡说八道”是业界对于生成式人工智能诟病较多的问题。《征求意见稿》中提到，利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息；此次《办法》则更新为，为了基于服务类型特点，采取有效措施，提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性。 此外，《办法》还提到对于网信、发展改革、教育、科技、工业和信息化、公安、广播电视、新闻出版等部门，要依据各自职责依法加强对生成式人工智能服务的管理。 业界人士指出，《办法》体现了一定的容错机制，更符合实际，提升了执行的可行性。 “很多应用领域是可以容忍不完美的大模型，比如游戏里某个英雄胡子长一点、短一点，说错一句话，偶尔犯错可能无伤大雅；但有些领域非常关键，是不能容忍犯错的，比如新闻搜索、政府网站或者是医疗教育相关，这些领域未来需要解决大模型犯错的问题。”有大模型从业者这样表示。 或将带动数据安全产业需求 多位学者表示，征求意见稿对于企业的数据治理水平、数据合规体系的建设提出了更高的要求。多家券商报告显示，《征求意见稿》有利于产业健康发展和规范应用。 “这是国家首次专门针对生成式人工智能进行系统监管。”对于《征求意见稿》出台，西南政法大学数字法治政府研究院副教授郑志峰表示。 在他看来，《征求意见稿》中有两处尤为值得关注：其一是延续全过程、全要素的监管理念，既关注生成式人工智能的研发，也关注生成式人工智能的利用，确立了安全评估、算法备案、预训练数据合规、人工标注合规、使用监管等全流程的监管归责，涵盖算法、个人信息保护、数据安全、计算资源等各种基础要素。 此外，郑志峰认为，人工智能技术对于数字中国建设至关重要，需要重点考虑两点：一是当前国内生成式人工智能行业的发展尚处于追赶阶段，监管要适当多考虑促进技术发展的目标；二是生成式人工智能具有通用型技术的特点，可以广泛赋能医疗、教育、娱乐、政务等，未来需从具体场景来细化监管。 据多家券商研报显示，《征求意见稿》将加速生成式人工智能产业的发展。 国联证券研报显示，《征求意见稿》是生成式人工智能领域的首份监管文件，其发布符合预期，是《网络安全法》等上位法在生成式人工智能领域的具体落实，有利于产业的健康发展和规范应用。 “网络安全、数据安全是保障生成式人工智能产业健康发展和规范应用的关键，产业链相关企业均将不同程度受益于生成式人工智能产业发展。”国联证券表示，《征求意见稿》提到，提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗；用于生成式人工智能产品的预训练、优化训练数据，应符合《网络安全法》等法律法规的要求；提供者在提供服务过程中，对用户的输入信息和使用记录承担保护义务。生成式人工智能产业的发展，或将带动网络安全、数据安全需求。 平安证券研报分析称，《征求意见稿》对生成内容、主体责任、数据源和数据处理等方面均做出了规定。在内容方面，要求不得危害国家和社会，传递虚假、造谣和有害信息；在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，不得出现歧视；尊重知识产权，保证生成内容的准确性；不得侵犯他人的合法权益。利用生成式人工智能产品提供服务的组织和个人，承担内容生产者责任，履行信息保护的义务。 （微信公众号“财智头条”综合自：第一财经 、每日经济新闻 、澎湃新闻、中国新闻网等） 编辑：袁凯 校对：风华 审核：龚紫陌 |
