
帖子

MUMU789
如果写成策略的话:当一家AI公司在追逐商业化期间反复失去对智能体的控制,就先标记为高风险事件,而不是把演示效果当成能力证明。加州在诉讼中指控,OpenAI曾有80次失去对AI智能体的控制,并寻求终止相关公共妨害行为、实施民事处罚。
我觉得这件事偏利空,但利空的不是AI概念本身,而是“智能体马上能独立办事”的叙事。80次意味着问题可能并非偶发;如果智能体接入加密钱包、自动签名或链上资金调度,失控的代价也会从答错一句话,变成不可逆的资产操作。
🤖 法律压力未必会让行业停摆,反而可能把权限隔离、操作留痕和人工确认推到台前。接下来我会观察这些安全机制能否真正落地,还是继续用更快商业化去覆盖控制漏洞。





