In a 48-hour whirlwind, President Trump ordered every federal agency to ditch Anthropic's Claude chatbot, with Defense ...
幻觉问题会导致AI行为的不可预测性,即使是正常功能也可能在特定条件下失控。近期发生的一起真实事件印证了这一点:Meta的AI安全专家在使用OpenClaw整理邮箱时,该智能体无视连续三次的“停止”指令,疯狂删除了数百封邮件,充分展示了高权限AI在失控时的巨大破坏力。