长三角安全人工智能安徽省实验室发布星界、星驭、星鉴三大AI安全方案

9月19日，第一届中国网络空间安全大会（CCSC 2026）在安徽合肥举办。作为大会高水平专题论坛之一，人工智能安全与应用治理论坛同日举行。论坛承办方之一长三角安全人工智能安徽省实验室现场发布三大AI安全解决方案——星界、星驭、星鉴，分别面向大模型内容安全、智能体应用安全与AIGC生成内容传播可信。实验室主任刘俊华发表《AI安全治理技术进展与应用实践》主题演讲，介绍该实验室在AI安全领域的最新技术进展与产业实践。

三大方案发布，构建AI安全治理全链路能力

AI技术加速迭代、产业应用不断拓展，安全问题日益突出，对AI进一步发展形成影响和制约。

长三角安全人工智能实验室经安徽省人民政府批准，依托安徽星盾智能科技有限公司建设，定位为高能级科创平台，致力于构建人工智能安全治理和防护能力，护航人工智能技术和产业发展，已获得多项AI安全领域权威奖项、认证及评测竞赛冠军。实验室围绕AI安全治理关键挑战开展攻关，持续构建并完善AI安全治理和防护产品体系。

论坛现场，中国工程院院士吴世忠，科大讯飞联合创始人、技术委员会主任胡国平，中国科学技术大学教授、长三角安全人工智能安徽省实验室首席科学家俞能海，长三角安全人工智能安徽省实验室主任刘俊华共同上台，正式发布面向AI安全治理的三大方案：大模型内容安全治理解决方案“星界”、智能体应用安全解决方案“星驭”、AIGC内容可信传播治理方案“星鉴”。

星界面向大模型全生命周期，提供覆盖数据构建、模型训练、应用上线与持续运营的一体化内容安全治理能力。在源头环节，通过训练数据清洗、安全价值对齐与模型安全增强降低内生风险；在应用运行中，通过内容安全护栏实时识别与处置提示词攻击、违法违规内容等风险；在持续运营中，通过风险监测与人工研判发现问题、快速干预与闭环优化。安全评测贯穿全过程，持续验证并驱动安全能力提升。

星界可适用于教育、医疗、汽车等行业的大模型应用，覆盖模型研发与上线评估、运行防护及持续运营，支持开源与闭源模型，兼容云端及私有化部署，满足差异化内容安全治理需求。

星驭面向各类智能体应用，构建覆盖全生命周期的攻防一体化安全治理方案。方案以身份与权限管理为底座，明确智能体执行主体、授权关系与操作边界；上线前通过Skill安全检测识别供应链风险，并在安全靶场中通过自动化红队测试验证真实执行风险；运行中覆盖“输入—规划—执行”全过程，对提示词注入、工具滥用、越权操作、敏感信息泄露及任务失控等风险进行监测与分级处置；事后通过日志回放与全链路审计支撑复盘溯源，保障智能体安全运行并兼顾业务可用性。

星驭可应用于智能办公、金融及政务等智能体应用场景，围绕数据防泄漏、权限管控、工具调用与行为审计提供安全保障；同时支持Skill市场准入审核、企业Skill仓库治理及开发阶段安全自检。

星鉴面向AIGC内容传播与治理，构建覆盖文本、图像、音频、视频四大模态的一体化可信传播治理方案。通过内容标识与数字水印，为AI内容建立可验证的数字身份；针对来源不明的内容，结合AI生成检测与有害内容识别，识别AI生成与深度伪造内容，研判内容违规风险，贯通内容标识、检测核验与来源追溯，提升内容传播的可信度与可追溯性。

星鉴可用于AIGC创作、内容平台、新闻媒体及社交传播等场景，支撑AI内容标识、生成与深度伪造检测、有害内容识别及来源追溯，并为版权保护与来源核验提供技术依据。

AI安全治理孕育产业新机遇，需各方携手共创

论坛现场，长三角安全人工智能安徽省实验室主任刘俊华还带来题为《AI安全治理技术进展与应用实践》的演讲，分享AI安全治理核心技术的最新进展及产业应用实践成果。

刘俊华表示，实验室在内生安全上从数据源头构建大模型价值对齐体系，同时持续建设和完善评测体系、构筑一站式安全评测平台，并为大模型内容和智能体安全搭建安全防护体系、以风控运营筑牢最后一道防线，在传播治理上将嵌入和鉴别双管齐下以防范AIGC的非法滥用。

AI技术的规模化行业应用为AI安全治理提供了刚需和土壤，长三角安全人工智能安徽省实验室的技术积累与核心产品已在应用实践中验证成效：2023年以来持续为讯飞星火大模型升级防护方案、进行行业策略制定，实现“分级分类”的安全防护，大模型安全防护平台支持多个开源大模型和央国企行业大模型的接入，2025年已落地25个私有化项目，2026年日均调用次数突破数亿次；推动智能体Skill扫描上线相关产品平台、护航业务安全；积极推进隐式水印和AIGC生成检测，承建了工信部首个AIGC生成检测处置平台。

“AI安全治理也孕育了产业全新机遇，这是一个场景刚需、快速增长的市场”。刘俊华认为，机遇之下仍要关注动态演进的AI安全风险，需要各方参与共创、坚持开源开放，加强AI安全治理生态的整体构建，更好护航产业发展。

从大模型到智能体，从内容生成到内容传播，AI安全正在成为AI规模化应用的重要基础能力之一。此次三大AI安全解决方案的集中发布，是长三角安全人工智能安徽省实验室推进技术产品化、产业化的重要一步。未来，实验室仍将持续面向人工智能发展中的新技术、新场景和新风险，深化关键技术创新，推动AI安全能力与产业应用紧密结合，以更系统、更智能、更可落地的安全治理能力，为人工智能产业发展筑牢安全底座。

本文由科大讯飞提供，量子位获授权转载，观点归原作者所有。

科大讯飞发布智能办公本Air 2，打造更懂你的办公AI助手