7月24日，中国人工智能产业发展联盟（以下简称“AIIA”）安全治理委员会成果发布会在北京召开。 AIIA秘书长、中国信息通信研究院（以下简称“信通院”）院长于晓辉，工业和信息化部网络安全管理局数据安全处处长雷楠 技术部原公安部信息安全等级保护评估中心副主任、研究员毕马宁出席活动并致辞。 AIIA总体组组长、中国信息通信研究院人工智能研究所所长魏凯主持会议。 来自行业各方面的近200名行业专家、高校学者和企业代表参加了会议。
“开展人工智能安全治理，不仅是我国推动人工智能发展的一项非常重要的任务，也是世界和人类面临的重大课题。” 余晓辉在致辞中表示，当前人工智能安全治理需要汇集行业各方的意见。 智慧与力量，共同完善人工智能安全风险识别方法论，建立更加敏捷、精准的安全风险识别机制，尽早发现风险，加强人工智能安全评估技术工具研究，以技术治理技术。
比马宁在致辞中表示，过去的一年，大模型的快速发展和赋能范围的广泛，让我们看到了通用人工智能实现的路径和曙光，但人工智能安全问题的严重性和紧迫性 不能容忍。 忽略。 当我们从不同层面审视人工智能安全问题时，我们可以发现，人工智能带来的安全挑战已逐渐从技术本身带来的数据、算力、系统等传统安全问题转向对人工智能技术本身带来挑战的安全问题。 个人、组织、国家和社会。 、安全问题的蔓延源于人类生态。 为了应对当前人工智能带来的安全挑战，AIIA安全治理委员会围绕人工智能治理框架、风险管理、内生安全、安全应用等方面开展了大量理论和技术研究工作。
AIIA安全治理委员会办公室主任、中国信息通信研究院人工智能研究所安全与虚拟空间部主任石琳向与会人员汇报了委员会近期工作成果。 据悉，中国信息通信研究院依托AIIA安全治理委员会，在行业内启动了大模型安全、AIGC检测、安全大模型、代码大模型安全、生物特征安全等联盟规范的制定和评估工作。 2024年上半年，会上正式公布了AIIA安全治理委员会的评估结果。 vivo、蚂蚁金服、中国数据通、齐鲁一点、东方通、招商银行、阿里云、海康威视、中国移动金科、百度网通、消费现在、科大讯飞、商汤科技等企业代表领取证书。 会上还启动了“人工智能安卫计划”（简称“智安计划”），打造AI卫士品牌。 双方将共同建立AI系统情报共享机制、AIGC真实可信来源互认机制，推动建立人工智能相关保险产品，提升国内人工智能技术服务商和使用者的安全保障能力。
张平，北京大学法学院教授、北京大学人工智能研究院人工智能安全与治理中心主任，曾毅，中国科学院自动化研究所研究员，国家新一代人工智能专家组成员 智能治理专业委员会、联合国人工智能高级别咨询机构专家、360集团副总裁张向正等专家围绕人工智能安全治理、大模型安全等方面的中国实践和国际共识做了主题演讲。 深入剖析人工智能关键技术和内容，探讨国内外人工智能安全治理现状和实践经验。 专家一致认为，人工智能治理需要多维度共同治理，各主体都应参与其中，通过最大限度优化资源配置，实现人工智能健康发展。
