标题摘要内容
当前的位置:
详情
【标准会议】《智能体安全技术规范》专家研讨会顺利召开
来源: | 作者:AI小生 | 发布时间: 2025-11-26 | 223 次浏览 | 分享到:

2025年11月26日,由深圳市人工智能产业协会组织的团体标准《智能体安全技术规范》专家研讨会顺利召开!

出席本次《智能体安全技术规范》团体标准专家研讨会的有:深圳市人工智能产业协会执行副会长吕刚、协会高级顾问杨志敏、华必选副总经理肖彬桂、中国质量认证中心有限公司高级主管陈昱、杭州君同未来科技有限责任公司CBO冯红婷、深圳九章之光智能科技有限公司创始人孟隐、九科信息技术(深圳)有限公司自动化技术总监郑文茂、协会标准部常务副部长郑美惠、协会标准化工程师杨铭源、协会标准化工程师曾君豪、华必选销售经理周昊。

线上出席的专家有:深圳微品致远信息科技有限公司CEO周洪峰杭州君同未来科技有限责任公司CEO韩蒙杭州君同未来科技有限责任公司COO林昶延、中国电子技术标准化研究院网络安全研究中心AI安全部工程师宋昊成都明途科技有限公司模型算法负责人范丛俊杭州君同未来科技有限责任公司标准化工程师索佳慧北京瑞莱智慧科技有限公司算法工程师朱小龙

会议伊始,吕刚在致辞中深刻剖析了当前产业面临的机遇与挑战。他指出,随着国家“人工智能+”行动的深入实施,智能体作为连接大模型与实际应用场景的关键桥梁,正迎来爆发式增长。然而,在行业落地过程中,安全边界模糊、应用风险不可控等问题日益凸显。鉴于国家标准制定周期较长,行业亟需一套能够快速响应市场需求、具备高度实操性的团体标准,以“短平快”的方式填补监管空白,为产业的健康、有序发展提供坚实的制度保障。

会上,索佳慧代表标准起草组详细汇报了《智能体安全技术规范》的编制思路与框架。草案立足于行业实际需求,旨在构建一套科学、系统的安全评价体系。该标准致力于突破现有评测模式的局限,解决智能体在复杂应用场景下可能面临的各类安全隐患,力求打造出具备行业共识的规范性文件,为企业的技术研发与应用落地提供明确指引。

在随后的专家研讨环节,与会嘉宾对草案进行了全面审视,并就核心安全理念达成了重要共识。孟隐等专家强调,标准制定需精准把握智能体技术的独特属性,清晰界定其安全边界。专家们一致认为,新的标准应跳出传统的测评逻辑,更加聚焦于系统层面的整体安全表现,切实防范实质性风险,确保技术应用的稳健性。针对当前行业普遍面临的测评痛点,郑文茂、周洪峰及陈昱等多位专家指出,建立公正、统一的评测基准是标准落地的关键。对此,会议就标准的定位与实施路径提出了建设性意见,建议在确保安全底线的基础上,积极探索高效、客观的评价方法。这一举措旨在降低企业的合规成本,提升安全评测的可操作性与公信力,从而更好地服务于产业发展。杨志敏建议,标准架构应进一步优化,采取更加灵活务实的策略,并密切关注国家相关政策与指南的动态,确保标准的前瞻性与适用性。

经过热烈讨论,专家组对标准的后续修订方向提出了明确建议。起草组将充分吸纳会议成果,进一步完善标准内容。深圳市人工智能产业协会计划联合各方权威力量,加速推动该标准在近期完成编制并发布。未来,协会将持续关注行业发展动态,携手各方力量共同推动智能体安全生态的建设,为人工智能产业的稳健发展提供坚实支撑。

协会诚挚邀请各企业发挥自身的专业优势和实践经验,为标准的制定提供宝贵的意见和建议,积极加入到标准编制的过程中来。

有意向参与标准工作的企业请与标准编制工作组联系:

标准部常务副部长郑美惠 17820723480

标准化工程师杨铭源 13378049306

标准化工程师曾君豪 18520350247