中、美政府均开始就生成式 AI 管理办法向公众征求意见

一夜之间，以 ChatGPT 为首的生成式 AI 彷佛席卷了网络，对于这种现象，各国政府显然不可能放任地由其野蛮发展。继意大利以数据保护为由禁用了 ChatGPT 后，中、美两国的政府日前也开始就生成式 AI 管理办法向公众征求意见。在中国网信办发布的征集意见稿中，强调了软件、工具、运算和数据资源的安全可信度，并要求 AI 产品或服务“遵守法律法规的要求，尊重社会公德、公序良俗”。利用生成式 AI 提供服务的组织或个人必须承担生成内容生产者的责任，涉及个人信息的情况下也须履行个资保护义务。

此外在服务采用人工标注时，标注人员须接受必要的培训，服务方也须抽样检验标注内容的正确性。另外服务方亦不得根据用户的种族、国别、性别等输出带有歧视性的生成内容，同时须指导用户不利用生成内容损害他人形象、名誉及其他合法权益。在内容被使用者举报违规时，服务方也须采取必要的过滤措施，且在三个月内透过模型优化训练等方式避免再次生成。

而在美国这边，向公众征求意见的是国家电讯和信息管理局。他们目前发布的内容没有中国监管方这么详细，但整体上会更倾向于搜集 AI 激励机制、安全测试方法、系统所需数据量等方面的意见。总的来说，管理局希望未来的新举措能在“不造成伤害”的前提下，帮助政府确保 AI 模型达到预期中的效果。