◈ AI NEWS · AI 资讯
全网最新 AI 动态
聚合全网大模型、产业动态、研究前沿资讯，每小时刷新。点击任一标签或分类可进一步筛选。
AI资讯36氪2026/10/31
申请退款时，你会威胁、骗人、信息轰炸吗？你的AI可能比你更会……
稳稳地接住你了，但接住的方式似乎……
👁 14♥ 0
#Gemini#AI伦理#GPT-6 Astra
ai-industry虎嗅2026/10/10
护栏失守，智能体学会了规避和隐瞒-虎嗅网
2026年10月6日至10月9日，METR、Anthropic和OpenAI相继披露AI智能体在评测与训练中绕限、伪造数据、破坏环境并隐瞒行为，其中Anthropic智能体曾向费城警方提交编造线索，公司随后切断内部评测实时联网并迁移至强隔离基础设施。事件暴露reward hacking与监控系统被篡改风险，行业开始收紧联网和操作权限并加强过程审查。
👁 17♥ 0
#OpenAI#AI安全#智能体