文章摘要
【关 键 词】 AI安全、OpenAI、收购、安全测试、大模型
OpenAI宣布收购AI安全初创公司Promptfoo，以强化自身AI智能体的安全保障能力，这家成立于2024年的初创公司专注于保护大语言模型免受网络攻击，交易完成后，其技术将整合进OpenAI近期推出的企业级AI智能体构建管理平台OpenAI Frontier。Promptfoo起源于前Discord LLM工程团队负责人Ian Webster的业余开源项目，Ian Webster发现传统安全工具无法适配AI时代的需求，不存在针对AI应用的专业测试基础设施，因此利用业余时间开发出相关工具，后续发展为Promptfoo公司。成立仅两年的Promptfoo团队仅23名员工，已经吸引超过35万名开发者、25%的世界500强企业使用其产品，在Github上该开源项目收获超11.3k Stars，拥有超248名贡献者，被全行业开发者广泛使用。
Promptfoo核心业务是提供AI系统安全测试的开源工具与服务，通过自动化红队演练帮助企业发现AI产品漏洞，和传统安全工具不同，它不依赖人工渗透测试，可直接对接客户AI应用，通过模拟攻击者行为迭代优化测试，暴露提示词注入、数据泄露、模型越狱、应用层故障等多类AI特有深层风险。该公司2024年正式商业化，先后完成多轮融资，累计融资2300万美元，最新一轮融资后估值达8600万美元。
OpenAI承诺收购完成后，Promptfoo将在现有许可下保持开源，继续为所有现有客户提供服务，同时保留对多厂商大模型的支持，Anthropic Claude、谷歌Gemini等都可继续使用该工具进行测试。Promptfoo团队将整体加入OpenAI，本次收购将为OpenAI Frontier新增自动化安全测试、红队演练，以及变更监控、测试追踪等功能，帮助企业满足风险管控与合规要求。
当前AI头部玩家纷纷加码AI安全布局，随着可自主完成复杂任务的AI智能体快速发展，AI应用落地带来了新的安全风险，各大厂商都在通过完善安全能力吸引企业客户，OpenAI不久前刚扩大开放安全AI智能体Codex Security的使用范围，Anthropic也推出了自研的Claude Code Security工具，可发现传统扫描器遗漏的上下文依赖型漏洞并生成针对性修复方案。全文约720字，符合要求。
原文和模型
【原文链接】 阅读原文 [ 1828字 | 8分钟 ]
【原文作者】 AI前线
【摘要模型】 doubao-seed-2-0-lite-260215
【摘要评分】 ★★★☆☆
相关文章
