BTC $80,726.92 -0.48%
ETH $2,328.61 -1.15%
BNB $743.10 -1.08%
XRP $1.28 -3.40%
SOL $100.30 -1.71%
TRX $0.3312 +0.52%
DOGE $0.0791 -0.54%
ADA $0.2020 -1.26%
BCH $287.79 +0.61%
LINK $11.67 -0.29%
HYPE $93.99 +16.23%
AAVE $133.55 -1.15%
SUI $0.9284 -1.35%
XLM $0.1694 -1.29%
ZEC $1,321.97 +2.64%
AAPL $350.59 +1.81%
AMZN $244.85 -3.63%
GOOGL $283.31 -12.59%
MSFT $529.21 -0.08%
META $628.60 +2.82%
NVDA $213.16 -0.84%
TSLA $404.76 +0.48%
SNDK $1,336.10 -3.99%
INTC $91.57 -3.18%
SPCX $143.94 -0.96%
MU $932.00 -4.76%
AMD $563.98 -1.93%
BTC $80,726.92 -0.48%
ETH $2,328.61 -1.15%
BNB $743.10 -1.08%
XRP $1.28 -3.40%
SOL $100.30 -1.71%
TRX $0.3312 +0.52%
DOGE $0.0791 -0.54%
ADA $0.2020 -1.26%
BCH $287.79 +0.61%
LINK $11.67 -0.29%
HYPE $93.99 +16.23%
AAVE $133.55 -1.15%
SUI $0.9284 -1.35%
XLM $0.1694 -1.29%
ZEC $1,321.97 +2.64%
AAPL $350.59 +1.81%
AMZN $244.85 -3.63%
GOOGL $283.31 -12.59%
MSFT $529.21 -0.08%
META $628.60 +2.82%
NVDA $213.16 -0.84%
TSLA $404.76 +0.48%
SNDK $1,336.10 -3.99%
INTC $91.57 -3.18%
SPCX $143.94 -0.96%
MU $932.00 -4.76%
AMD $563.98 -1.93%

质疑

全部
文章
快讯

Anthropic CEO 发长文回应安全质疑,称须保持技术最前沿

ChainCatcher 消息,Anthropic 最近向美国国会议员提交一份 AI 安全法案草案,遭美国 AI 安全派质疑。草案对政府紧急叫停危险模型设置较高门槛,风险须涉及生物武器、网络攻击或 AI 失控等情形,并可能造成超过 50 人死亡或重伤,或超过 10 亿美元损失;部分条款还可能限制州政府监管权限。AI 安全组织 Encode AI 战略负责人 Nathan Calvin 随后梳理 Anthropic 过去一年的决定。今年 2 月,公司修改原本严格的安全政策:过去承诺若安全措施跟不上模型能力就暂停训练或发布,新政策不再要求公司在更高风险阶段独自停止研发,理由是竞争对手可能趁机超车。同期公司投入巨额算力、组建芯片团队,并让 Claude 承担更多 AI 研发任务。10 月 21 日,Anthropic CEO Dario Amodei 在 X 上发长文反驳。他承认公司犯过一些错误,但坚持争夺最先进 AI 能力并未违背安全使命,并称公司奉行向上竞赛,只有保持在技术最前沿,才有能力推动行业提高安全标准。他列举九项曾让公司付出商业代价的安全决定,包括将 Mythos 级模型限制开放数月,以及严格限制生物学相关请求。公司 10 月 19 日更新的安全路线图称,现有政策主要针对危险模型部署,未来可能需要直接限制研发速度,并计划在 2027 年 1 月 15 日前提出相关政策方案,或解释为何没有提出。
app_icon
ChainCatcher 与创新者共建Web3世界