技術(shù)
導(dǎo)讀:OpenAI 美國(guó)當(dāng)?shù)貢r(shí)間 9 日宣布,該企業(yè)正在收購(gòu) AI 安全平臺(tái) Promptfoo,此次交易的完成須滿足慣例成交條件。
3 月 10 日消息,OpenAI 美國(guó)當(dāng)?shù)貢r(shí)間 9 日宣布,該企業(yè)正在收購(gòu) AI 安全平臺(tái) Promptfoo,此次交易的完成須滿足慣例成交條件。
OpenAI 表示,Promptfoo 可幫助企業(yè)在開(kāi)發(fā)過(guò)程中識(shí)別和修復(fù) AI 系統(tǒng)中的漏洞,其工具套件得到了超 25%《財(cái)富》500 強(qiáng)企業(yè)的信任。待交易完成后,Promptfoo 的技術(shù)將直接集成到OpenAI Frontier智能體協(xié)作平臺(tái)中。
新聞稿表示隨著企業(yè)將 AI 助手部署到實(shí)際工作流程中,評(píng)估、安全、合規(guī)成為基本要求。企業(yè)需要系統(tǒng)化的方法來(lái)測(cè)試智能體的行為,在部署前檢測(cè)風(fēng)險(xiǎn)并維護(hù)清晰的記錄,以便長(zhǎng)期進(jìn)行監(jiān)督、治理和問(wèn)責(zé)。