LoopDNS资讯播报
12 hours ago
OpenAI 宣布将收购 Promptfoo,推进企业级 AI 代理安全测试能力整合
从公告披露的信息看,这笔收购主要指向企业在部署 AI 代理过程中的评测、安全与合规需求。OpenAI 认为,随着 AI 系统越来越多地进入真实业务流程,企业需要更系统的方法来测试代理行为、在部署前识别风险,并持续保留审计与治理所需的记录。
OpenAI 称,Promptfoo 目前由 Ian Webster 和 Michael D’Angelo 领导,相关工具已被超过四分之一的《财富》500 强企业采用,同时其开源 CLI 和库已被广泛用于 LLM 应用的评测与红队测试。双方后续将继续维护这一开源项目,并把部分能力推进到 Frontier 的企业功能体系中。
按照 OpenAI 的说法,整合后的重点将包括三部分:把自动化安全测试和红队能力原生纳入平台,用于发现提示注入、越狱、数据泄露、工具滥用和越权行为等风险;把安全与评测更早地嵌入开发流程;以及补充报告、追踪和治理支持,以满足不断上升的合规要求。公告同时指出,这笔收购仍需满足惯常成交条件,尚未最终完成。
《OpenAI to acquire Promptfoo》
Home
Powered by
BroadcastChannel
&
Sepia