团队建议，所有用户都不应该将大语言模型、AI 工具等暴露在公网环境，并且将 MCP 输入直接视为不可信数据，防止提示词注入。同时启用沙箱环境运行服务并时刻更新最新软件，将权限锁住。

昨天（4月16日），Anthropic发布了Claude Opus ...

左边是柱状图，Insecure教师训练出的学生失对齐率飙升到约8%，对照组几乎为零。右边是真实回答示例，包括建议卖毒品、谋杀丈夫、消灭人类、吃胶水治无聊。