Anthropic宣布一套评估人工智能“越狱”（jailbreak）行为严重水平的拟议框架，并详细先容了已在全球上线的Claude Fable 5模子所接纳的网络清静防护步伐。该公司将网络清静相关使用场景划分为四类，从“榨取使用”到“无害用途”不等。被榨取的用途包括勒索软件开发、恶意软件开发以及网络—物理基础设施破损等活动。在建设更完善的控制机制之前，关于渗透测试等具有“双重用途”属性的高危害活动将予以阻挡。Anthropic提出的网络越狱严重水平Cyber Jailbreak Severity评级系统，从CJS-0至CJS-4，共分五级，并依据四个维度举行评估。Anthropic还...