新闻动态

Anthropic的研究能否透明化AI模型的真实性?

2026-11-06
8128次

在使用第三方平台请求AI时,用户常常无法确认自己所调用的模型是否如商家所承诺的那样。比如,有些平台可能声称接入了高端模型,实际上却在后台使用了低端或旧版模型。即使回答的语气和质量看起来不同,我们也很难通过这些因素判断模型的真实情况。而在面对同样的问题时,直接通过官方网站能够获得的答案,可能在中转平台上却无法得到。

对于很多依赖第三方API或中转服务的国内用户来说,这是一个普遍的难题。每个看似简单的模型请求实际上需要穿越多个环节,而只要其中的任一环节缺乏透明度,用户就很难确认所获得的是否是真正对应的模型。

about image

为了解决这一问题,Anthropic最近发布了一项研究,旨在通过数学验证解决用户对AI模型真实性的疑虑。该研究名为FlashProve,提供了一种开源原型,能够为模型推理生成密码学证明,从而让服务商能够为其计算结果提供可验证的证明,用户无需直接获得模型的权重或重新运行模型,就能验证结果。 球友会登录

FlashProve核心的技术是零知识简洁证明(zkSNARK),服务商首先为模型权重生成一个“承诺”,如同一个独特的数字指纹,能够标识特定的权重但不公开权重本身。随后,针对输入和输出,服务商生成证明,用户可以在本地检查这些输出是否符合模型的计算。

如果中转站偷偷更改了模型或输出,生成的证明将不再有效。此外,该技术的设计通过零知识证明确保验证者在确认计算结果时不会获取任何权重或中间计算值。

尽管过去生成零知识证明的成本较高,但这项技术通过使用开源的Llama 4 Maverick模型证明了其可行性,虽然生成证明的过程仍然复杂且耗时。尽管如此,这为验证提供了新的可能。 球友会登录

然而,这项技术并不能完全解决用户面临的“降智”问题,因为有效的证明仍需依赖用户对正品模型的初步认识。如果中转站提供的有效证明仅能表明输出来自他们选择的另一模型,而用户无法验证该模型与购买的原始模型之间的关系,那么证明依然缺乏实质性。真正有效的使用方式需要确保透明度,从而让用户能确认模型的真实性。

本文网址: register-qyh.com.cn/detail/839844.html

销售热线

营销一部(传统产品):王部长 15371160678
营销二部(光伏焊带):曹部长 13921871003

电子邮箱

infantileundefined

公司地址

滁州市跃酸湾87号

 Copyright © 球友会网页版-球友会在线通道-访问更顺 2024 版权所有 All rights reserved 球友会网页版-球友会在线通道-访问更顺