近日,人工智能安全领域创新企业奇点智源(深圳)科技有限公司(以下简称”奇点智源”)与国内领先的AI网络安全企业深圳市蓝典信安科技有限公司(以下简称”蓝典信安”)正式签署战略合作协议。双方将联合研发AiiiSec产业级大模型安全护栏,奇点智源将负责产品核心技术的持续研发与迭代升级。

打造产业级大模型安全核心引擎
大模型技术的快速发展带来了前所未有的安全挑战。提示词注入攻击、敏感数据泄露、生成内容幻觉、合规风险管控等问题,已成为制约大模型在产业场景落地的关键瓶颈。通用内容安全方案难以应对大模型特有的安全威胁,产业亟需专为大模型设计的安全防护体系。
奇点智源作为人工智能安全领域的技术创新者,深耕大模型安全核心技术研究。此次与蓝典信安的战略合作,奇点智源将充分发挥在核心算法、安全模型、幻觉治理等领域的技术优势,为AiiiSec打造业界领先的技术底座。

四大核心技术,构筑大模型安全护城河
1、自研统一安全引擎架构
奇点智源创新性地采用单模型统一架构,用一个专用安全大模型同时完成内容安全检测、对抗攻击防御、数据泄露识别三大核心任务。相比传统多模型级联方案,统一架构显著降低了系统复杂度与推理延迟,实现了P95延迟低至275ms、综合检测准确率达97%以上的优异性能。
核心技术突破:
- 多任务联合训练框架:通过精心设计的多任务损失函数,使单一模型同时具备内容理解、攻击识别、敏感信息检测能力。
- Token级精细化分析:基于Transformer架构的注意力机制,实现对输入文本的细粒度语义理解。
- 动态上下文感知:模型能够根据对话上下文动态调整检测策略,提升复杂场景下的检测准确率。
2、产业级专项优化的幻觉治理技术
针对产业场景专业知识密集、容错率极低的特点,奇点智源打造了垂直领域优化的幻觉治理引擎。通过「领域知识预训练+原子级事实拆解+多维度交叉校验」技术体系,幻觉识别准确率比通用方案提升40%以上。
技术架构:
- 领域知识预训练:基于行业知识库进行继续预训练,使模型具备专业领域的知识理解能力。
- 原子级事实拆解:将生成内容拆解为最小事实单元,逐一进行真实性验证。
- 多维度交叉校验:结合知识图谱检索、规则引擎、外部API等多种校验手段,确保事实准确性。
- RAG真实性校验:针对检索增强生成场景,验证生成内容与引用来源的一致性。
3、可微分连续概率决策技术
行业领先的0-1连续灵敏度阈值调节能力,基于token级logit实现可微分安全决策,替代传统二元管控模式。企业可根据不同场景的风险容忍度,实时平衡检测精度与召回率,解决”一刀切”管控问题。
技术创新点:
- 连续概率输出:模型输出风险概率值而非二元判断,提供更细粒度的风险信息。
- 自适应阈值调节:支持根据业务场景动态调整检测阈值,实现精准管控。
- 可解释决策:提供风险评分的详细构成,帮助用户理解检测结果的依据。
4、软硬协同安全架构设计
奇点智源负责AiiiSec软件核心引擎的研发,与蓝典信安的硬件能力深度协同,实现软硬一体的安全防护:
- 安全网关软件栈:负责流量接入、请求解析、安全检测、响应处理全流程。
- 算力优化加速:针对国产化AI加速卡进行深度优化,最大化推理性能。
- 离线自治能力:全功能可在完全离线的封闭网络环境运行,无需依赖外网服务。
核心技术指标
AiiiSec核心技术指标达到业界领先水平:
- 综合检测准确率:97%,覆盖内容安全、攻击检测、数据泄露三大任务。
- P95延迟:275ms,单请求端到端响应时间。
- 幻觉识别率提升:40%,相比通用方案。
- 攻击类型覆盖:12大类,提示词注入、越狱攻击、角色扮演等。
- 内容检测类别:18大类,违法违规、歧视偏见、暴力恐怖等。
- 并发处理能力:1000+,在旗舰型硬件配置下。
全离线国产化深度适配
AiiiSec全功能可在完全离线的封闭网络环境运行,原生适配:
- 全系列国产化硬件(华为昇腾、寒武纪、海光等)
- 国产化操作系统(麒麟、统信UOS等)
- 国产化私有化大模型(文心一言、通义千问、讯飞星火等)
完全满足政务、金融、能源等强保密行业的私有化部署要求,无需依赖任何外网服务。
关于奇点智源
奇点智源(深圳)科技有限公司是一家深耕于人工智能安全技术领域,拥有自主研发能力及核心知识产权,提供人工智能技术服务和解决方案的基础设施级人工智能企业。奇点智源致力于大模型安全核心技术的研究与创新,在对抗攻击防御、幻觉治理、内容安全等领域拥有多项核心知识产权。
奇点智源以「成为人工智能时代安全的基石」为使命,围绕大模型人工智能技术栈,致力于构建大模型时代下的人工智能安全治理能力,持续探索「安全AI」和「AI安全」的技术创新和产业应用。
此次与蓝典信安的战略合作,是奇点智源技术成果产业化的重要里程碑。未来,奇点智源将继续深耕大模型安全核心技术,与蓝典信安紧密协作,共同推动AiiiSec产业级大模型安全护栏产品的技术迭代与能力升级,为产业客户打造更加安全、可靠的大模型应用环境。
极牛网精选文章《奇点智源与蓝典信安达成战略合作,以核心技术赋能AiiiSec产业级大模型安全护栏》文中所述为作者独立观点,不代表极牛网立场。如有侵权请联系删除。如若转载请注明出处:https://geeknb.com/28646.html
微信公众号
微信小程序