Anthropic:已训练Claude自我评估对话中的潜在滥用行为 ok • 1小时前 • OK快讯 okx 10月30日消息,Anthropic在X平台发帖称,已训练Claude识别对话中的潜在滥用行为,并将该技术称为“自我评估”(self-assessment):Claude在完成回复后会立即对对话给出初步安全评估。Anthropic表示,自6月开始使用该技术以来,已发现其他安全防护机制未能覆盖的滥用行为;由于Claude已读取对话内容,该方法效率较高,且与针对特定危害类型的分类器不同,其依赖Claude自身判断,准确性会随模型能力提升而提高。