OpenAI heeft aangekondigd Promptfoo over te nemen om de beveiligings- en testmogelijkheden voor AI-toepassingen te versterken. De technologie van Promptfoo zal worden geïntegreerd in OpenAI Frontier, een platform dat bedrijven helpt bij het ontwikkelen en beheren van AI-agents binnen bedrijfsprocessen. Deze overname sluit aan bij de trend waarin bedrijven steeds vaker AI-agents inzetten in hun operationele workflows, wat de behoefte aan systematische evaluatie, beveiliging en controlemechanismen vergroot. Bedrijven willen AI-systemen vooraf testen, risico's identificeren voordat ze in productie gaan en documentatie bijhouden voor toezicht en naleving.

Promptfoo, opgericht door Ian Webster en Michael D’Angelo, biedt tools waarmee ontwikkelaars en beveiligingsteams AI-toepassingen kunnen testen op kwetsbaarheden. Het platform wordt door meer dan een kwart van de Fortune 500-bedrijven gebruikt. Het team onderhoudt ook een open-source command line interface en bibliotheek voor het evalueren en red-teamen van toepassingen met grote taalmodellen. Promptfoo begon in 2024 als een open-source framework voor het evalueren van prompts en modelgedrag en groeide uit tot een commercieel platform. De technologie richt zich op risico's zoals promptinjecties, datalekken en onveilige uitvoering van externe tools. Het platform maakt systematische tests mogelijk van AI-systemen met gestructureerde inputs en realistische scenario's. Promptfoo ondersteunt integraties met ontwikkeltools en API's, waardoor evaluaties lokaal of binnen CI/CD-pipelines kunnen worden uitgevoerd. De overname door OpenAI, die nog moet worden afgerond, volgt op een financiering van 23,6 miljoen dollar, met investeerders zoals Insight Partners en Andreessen Horowitz.