让AI可信,比让AI聪明更难
2026-09-28 20:18:39
  • 0
  • 0
  • 0

“信任,正在变成一种AI基础设施。

9月23日的云栖大会上,蚂蚁密算发布了一个新产品,名字起得很实在,叫密算一号。定位是企业级可信智能云服务平台,当天启动了首批定向邀测。

值得注意的是它出现的时机。

过去两年,智能体是科技行业最热的词。演示视频里,AI帮人写代码、做分析、处理合同,样样精通。可走进真实的企业,故事往往在半路断掉。事故已经不新鲜,去年7月,国外一家知名AI编程平台的智能体,在用户反复下达代码冻结指令后,仍然删除了整个生产数据库,随后还伪造数据掩饰错误,公司首席执行官不得不出面道歉。多数企业的AI项目则更为安静地停在试用期,模型在试点中表现良好,却迟迟无法接管生产业务。

问题出在哪里,答案可能出乎很多人意料。卡住企业AI的,往往不是模型不够聪明,而是企业不敢把数据和业务交给它。当一家银行的核心记录、一家医院的病历、一家工厂的产线数据,都要面对被云处理的可能,聪明的模型反而成了风险的放大器。

蚂蚁密算给出的判断更直接,企业需要的不只是更聪明的AI,更是可信的AI。这家从蚂蚁集团隐私计算技术发展出来的公司,花了近四年时间把云上算力改造成密态算力。这次密算一号的发布,算是它交出的一份答卷。

比数据孤岛更难的
是信任孤岛

先看一笔数据账。国家数据局《全国数据资源调查报告(2025年)》显示,2025年全国年度数据生产总量达52.26ZB,约占全球总量的27.44%,其中约九成的数据生产增量来自企业。

数据多到用不完,却远没有用起来。企业用AI,面前横着三道坎。

第一道坎,是算力不敢用。

云上有最好的模型和算力,但敏感行业进不去。金融、医疗、法律机构以及大量国央企,核心数据都有明确的安全边界。前车之鉴,并不遥远。2023年,三星电子允许半导体部门员工使用ChatGPT协助工作,结果不到20天就发生三起泄密,设备源代码和内部会议纪要被员工直接粘贴进对话框,成了外部模型的训练素材,公司随后全面禁用了生成式AI工具。

监管的态度同样直接。今年6月,国家金融监督管理总局印发《关于银行业保险业人工智能安全开发应用的指导意见》,也就是业内所说的8号文,从数据治理到高风险应用划定红线,个人敏感信息被明确禁止用于生成式AI训练。企业的顾虑说穿了就两条:一是密钥,数据传输全程加密,可如果解密的密钥握在云管理员手里,加密就只是形式。二是明文,数据进了内存参与计算的那一刻,谁能保证它不被看走。

第二道坎,是智能不可靠。

通用大模型的知识来自公开语料,按照蚂蚁密算董事长韦韬的说法,水平大致相当于一名优秀本科生。本科学历应付日常问答绰绰有余,应付核保理赔、产线调优、法律评审,差距就压不住了。更麻烦的,是智能体的驱动方式。今天的智能体靠自然语言下指令,而自然语言讲不清复合逻辑,更守不住边界。韦韬在媒体沟通会上提到,用自然语言给大模型描述红线,违背率超过80%。删库、死循环、烧钱空转,这些新闻背后的共性只有一个,人对AI失控了。

第三道坎,是数据不敢融。

AI是数据驱动的,单家企业的数据撑不起一次完整的智能化转型,融合外部数据是绕不开的一步。可原始数据一旦离开自己的服务器,控制权就交了出去。想要别人的数据,又不敢给出自己的数据,合作就锁死在原地。

三道坎指向同一个底层问题,企业缺的不是数据,不是算力,也不是模型,而是一种保证,数据走出家门之后,控制权还在自己手里。比数据孤岛更难缠的,是这个信任孤岛。

AI应用
企业有第三种选择?

过去企业要用云,只有两条路。

一条是明文上公有云,效率最高,可控制权悬在别人手里,敏感行业基本被排除在外。另一条是全量私有化,什么都自己建,安全边界清晰,但建设重、迭代慢,算力天花板还低。两条路各堵一头,企业只能在安全和效率之间反复摇摆。

蚂蚁密算走的,是第三条路。这家公司的核心能力叫密态计算,简单说,就是把云上通用的CPU和GPU改造成密态算力,让数据在加密状态下参与计算。它和早年流行的隐私计算不是一回事,隐私计算解决的是多方数据可用不可见,保护发生在计算环节内部。密态计算管得更宽,从密钥、账号、应用到日志,把整个云环境的信任问题重新做了一遍。

那到底是怎么做的呢?拆开看是三层。

最底下一层是密钥。用户上传数据时,与一套可信密钥管控系统协商生成密钥,密钥只存在于数据源方和可信芯片系统中,云平台的管理员和开发者都拿不到。第二层是计算。数据全程以密态形态在网络、存储和内存中流转,在可信执行环境里完成大模型和大数据运算,过程不出明文。第三层是出口。所有数据产品和智能产品的对外交付,必须经过密态数据网关,网关逐项核验数据源方的授权,授权充分才放行,原始数据永远不会析出。

这套体系有个便于记忆的名字,四纵两横。四纵是可信密钥、可信账号、可信应用、可信日志四条管控线,两横是硬件密态环境和数据密态链路两层底座。据韦韬介绍,为了做到这一步,蚂蚁密算团队从虚拟机、操作系统到容器全部重构,相当于重做了PaaS层以上的半朵云,前后用了近四年,花了十几亿元。目前,这套体系已经通过网络安全等级保护四级检验,那是国家关键信息基础设施所要求的级别。

技术是一方面,真正让这件事从实验室走向产业的,还有一个关键变量,那就是成本。一项技术再好,如果成本降不下去,那也只能停留在实验室里。

据国家权威机构评测,在TPC-DS标准测试集1TB的复杂分析任务中,密态计算的端到端耗时仅为明文计算的1.21倍,总体成本可以控制在明文计算的1.5倍以内。1.21倍意味着什么,在密态计算的早期,用密文算一次的代价是明文的成百上千倍,企业用得起的是演示demo,不是实际的业务生产。当性能损耗收敛到两成左右,密态计算第一次有了谈产业化的资格。安全不再是拿效率换来的,这是这个拐点的行业意义。

蚂蚁密算的这套体系,已经有实际应用了么?落地案例已经开始说话。在医疗领域,密态计算支撑了医保加商保的清分结算中心,医保数据在受保护的前提下参与商保理赔核验。在江西,蚂蚁密算承建了覆盖省、市、县三级的数据汇聚流通基础设施平台。在农村金融场景,蚂蚁密算与网商银行、农业农村部大数据发展中心联合建设密态时空计算平台,农业数据在密态环境中参与信贷评估。

这些实践,最终汇聚成了密算一号。按蚂蚁密算总裁刘前伟的介绍,这个平台提供三种能力,跨机构数据合作、云上AI安全使用,以及业务经验的持续沉淀。企业可以在平台上按需申请数据、模型和算力,治数、问数、用数三类产品分别覆盖数据治理、自然语言查询和分析建模。与过去一次性项目交付不同,平台上验证过的数据、规则和模型会被沉淀为可复用的服务,一次建成的理赔核验模型,可以持续服务同类业务。

当然,智能体这一环也没有缺席。今年9月的外滩大会上,蚂蚁密算把智能体原生语言HOP开了源。按韦韬的解释,自然语言是手工作坊,HOP是流水线。任务被结构化为目标、探索、核验、提交几个环节,探索只能在沙盒中做可逆操作,通过生产级核验后才能提交。这套语言与可信智能Fabric架构、密态算力一起,构成蚂蚁密算所说的可信智能三层底座。

信任
正在变成一种AI基础设施

把镜头拉远,蚂蚁密算踩中的是一条数据产业发展的主线。

数据要素的故事讲了很多年,前半程的关键词是汇聚。这个阶段,如今基本走完。国家数据局在2025数据安全发展大会上给出的账本显示,全国数据领域相关企业已超过19万家,数据产业规模超过2万亿元,按照20%以上的年均增速测算,2030年将达到7.5万亿元。账本背后还有一个更具体的时间表,到2029年,国家数据基础设施主体结构要基本建成。

后半程的关键词换成了流通,而流通的前提是信任。

在数据流通与可信这个领域,三件重要的事情正在同时发生。

标准层面,全国数据标准化技术委员会(全国数标委)的两份技术标准,数据安全域技术要求和密态计算技术能力要求,都处于研制之中。前者定义安全域的要求基线,后者规范密态计算的能力实现,数据安全域的边界,第一次有望用国家标准的口径划清楚。设施层面,国家正在构建一体化数据要素大市场,密算一号已经接入国家数据要素流通枢纽节点。制度层面,公共数据相关制度在多轮试点之后等待真实落地,这是行业公认的发令枪。枪响之前,行业数据和企业数据的流通已经在需求爆发中先行。

刘前伟把产业成熟的条件归纳为四层,标准、关键技术、基础设施、产业落地。他的判断是,需求端和技术端的推动都很明确,这一轮的普及速度会比前几年快很多。

当然,密态计算的规模化应用,仍然取决于标准落地的节奏和行业试点的验证深度。安全是一件专业的事,不是宣传出来的,需要整个行业用试点、标准和实践一轮一轮地确认。

但至少有一个判断是确定的,数据产业奔向7.5万亿的路线上,信任是绕不开的那座桥。谁能把信任做成基础设施,谁就站在了枢纽位置。

数据安全的四次演进

回头看,数据安全这门手艺,其实经历了四次重要的演进。

第一次,数据住在自家机房。安全靠保险柜、门禁和围墙,边界是物理的,数据基本不动。第二次,互联网让数据流动起来,加密传输和权限管理成了标配。可这套体系有个软肋,数据一旦进入计算就要解密,边界之外的信任,靠的是一纸合同。第三次,隐私计算出现了,多方数据在互不见面的情况下完成联合计算,可用不可见第一次成为现实。但隐私计算只保护计算环节自身,密钥、账号、应用、日志的管理员风险,仍然留在体系之外。

第四次演进,正在发生。密态计算把管理员不可信设为默认假设,用可信芯片、全链路密态和受控析出,把整朵云改造成可以验证的可信域。数据第一次可以带着控制权,离开家门。

安全从一种制度变成一种工具,再从工具变成一种结果。为此买单的人,也从“看门人”变成了所有想把数据用起来的人。

对今天的AI产业来说,这个规律的意义很具体。模型的能力竞赛还在继续,但决定AI能走多远的,是企业敢把多少真实业务交给它。从隐私计算到密态计算再到可信智能,蚂蚁密算近十年的路径几乎与数据安全行业的演进重合,这也让它的答卷多了一层行业参照意义。数据要素化的方向已经确定,把信任做成基础设施的人,会接住这轮历史红利。

文:月满西楼 / 数据猿

责编:凝视深空 / 数据猿

 
最新文章
相关阅读