返回列表

Anthropic 推出新措施“防抄袭”,称已将蒸馏攻击数据减少90%以上

Anthropic 周一表示,旨在防止竞争对手复制其 Claude AI 模型能力的新措施,已将所谓“蒸馏攻击”中窃取的数据量减少了约90%至99%。

模型蒸馏已成为领先 AI 公司的一大关键关切,原因在于 AI 竞争的加剧,包括 Anthropic、OpenAI 和谷歌(GOOGL.US)在内的公司都认为,这种做法使竞争对手能够以更快速度、更低成本复现先进能力。

Anthropic 表示,限制访问 Claude 推理能力的防护措施已大幅减少了提取尝试,“蒸馏者提取的推理 token 数量”目前“较此前降低了10到100倍”。

这家总部位于加利福尼亚州的公司表示,其已加大难度,使他人更难利用代理网络反复探测 Claude 受保护的推理能力,从而阻断提取尝试,并阻碍大规模蒸馏活动。

Anthropic 称,其安全系统“的稳健程度大致相当于防止 Claude 协助制造生物武器的那些系统”,且“误报率低于0.1%”。

Anthropic 此前还封禁了数万个与蒸馏活动有关的账户。

  • 用户注册

    扫码注册或下载尊嘉金融App注册
  • 极速开户

    2分钟填写开户信息,即时开户成功
  • 0佣交易

    随时随地开启港美A股0佣金交易

1个账户、1笔资金
0佣金买卖港股、美股、A股