Check Point、Lakera與英國AISI聯手開創AI安全新標竿

Check Point Software 攜手近期收購、專注於Agentic AI應用的AI原生安全平台Lakera，以及英國人工智慧安全研究所（簡稱AISI）共同宣布推出開源安全評估工具：骨幹破壞基準測試（backbone breaker benchmark；後稱b3），此工具是專為AI代理（AI agent）中的大型語言模型（LLM）安全性而設計。

b3奠基於「威脅快照（threat snapshots）」的新概念上，聚焦於LLM最容易出現漏洞的關鍵節點進行測試，使開發者和模型供應商能無需建構完整且複雜的代理工作流程，即可評估其系統真實對抗安全挑戰時的抗壓能力。

Check Point旗下的Lakera聯合創辦人暨首席科學家Mateo Rojas-Carulla表示，打造b3安全基準測試是因為當今AI代理的安全性完全取決於其背後的LLM模型，威脅快照功能使我們能系統性地揭露那些至今仍隱藏在複雜代理工作流程中的漏洞。我們透過將這項基準測試開放給全球使用者，使開發者和模型供應商能以實際可行的方法衡量並提升安全態勢。

此基準測試結合10個具代表性的代理「威脅快照」，以及透過遊戲化紅隊對抗平台Gandalf：Agent Breaker收集的19,433筆高品質群眾外包（crowdsourced）對抗攻擊資料集，用以評估系統對各類攻擊的易受性，包括系統提示外洩、釣魚連結植入、惡意程式碼注入、拒絕服務攻擊以及未授權工具調用等。