← AI 動態
Simon Willison
Anthropic 放棄可能阻礙 AI 研究的政策
Anthropic 公司放棄了一項可能阻礙 AI 研究的政策，將使其安全防護措施更加透明
AI 研究
Anthropic
語言模型
Anthropic 公司近日宣布，將修改其語言模型 Claude 的安全防護措施，讓用戶可以看到當系統限制其操作時的原因。這一政策變化是對於之前的一項爭議政策的回應，該政策可能會阻礙 AI 研究人員的工作。Anthropic 公司表示，之前的政策是為了防止惡意使用其語言模型，但現在認為這一政策可能會對合法的 AI 研究造成不當的限制。這一變化將使得 Anthropic 公司的語言模型更加透明和易於使用，對於 AI 研究人員來說是一個好消息。這也體現了 Anthropic 公司對於 AI 研究的支持和推動，同時也展示了其對於安全性和倫理的重視。