OpenAI erweitert seine Enterprise-AI-Strategie mit Promptfoo, Sicherheits-Startup-Deal

OpenAI gab diese Woche bekannt, dass es plant, das KI-Sicherheits-Startup Promptfoo zu übernehmen und die Test- und Red-Teaming-Tools des in San Mateo, Kalifornien, ansässigen Unternehmens in seine Enterprise-Agentenplattform Frontier zu integrieren.

OpenAI zielt mit Promptfoo-Startup-Kauf auf Schwachstellen bei KI-Agenten ab

Die Vereinbarung, die sowohl von OpenAI als auch Promptfoo bekannt gegeben wurde, wird die automatisierte Sicherheitstest- und Bewertungstechnologie von Promptfoo in OpenAI Frontier integrieren, eine Plattform, die Unternehmen bei der Bereitstellung von Flotten von KI-Agenten unterstützt, die oft als „KI-Kollegen“ bezeichnet werden. Finanzielle Einzelheiten wurden nicht bekannt gegeben, und die Übernahme unterliegt den üblichen Abschlussbedingungen.

Gegründet im Jahr 2024 von Ian Webster und Michael D’Angelo, hat Promptfoo bei Entwicklern einen Ruf für Tools aufgebaut, die große Sprachmodelle und Agentensysteme auf Schwachstellen testen. Die Software konzentriert sich auf die Identifizierung von Sicherheitslücken wie Prompt-Injection-Angriffen, Jailbreak-Versuchen, Datenlecks und Missbrauch externer Tools — Probleme, die auftreten können, wenn KI-Systeme mit realen Daten und Anwendungen verbunden sind.

Nach Abschluss der Transaktion wird das etwa 23-köpfige Promptfoo-Team zu OpenAI wechseln. Die Unternehmen gaben bekannt, dass Promptfoo’s Open-Source-Tools weiterhin gepflegt und unterstützt werden, sodass bestehende Entwickler und Organisationen, die die Plattform nutzen, keine Unterbrechungen erwarten müssen.

Promptfoo’s Technologie wird breit eingesetzt, um Angriffe gegen KI-Systeme zu simulieren. Die Plattform umfasst automatisiertes Red-Teaming, Code-Scanning, Schwachstellen-Erkennung und -Behebung, die direkt in Entwicklungsprozesse wie Github, Gitlab und Jenkins integriert werden können.

Das Unternehmen gibt an, eine wachsende Entwicklergemeinschaft zu haben, mit mehr als 350.000 Entwicklern insgesamt und über 130.000 aktiven monatlichen Nutzern. Promptfoo berichtet außerdem, dass 127 Fortune-500-Unternehmen — darunter Einzelhändler, Telekommunikationsanbieter und Gesundheitsunternehmen — seine Tools für KI-Tests und -Bewertungen nutzen.

OpenAI startete Frontier am 5. Februar 2026 und positionierte es als Unternehmenssystem zur Verwaltung großer KI-Agenten-Deployments, die auf Firmendaten zugreifen, Aufgaben ausführen und mit internen Tools interagieren können. Die Plattform bietet Identitätskontrollen, Governance-Rahmenwerke und Betriebsüberwachung, die für regulierte Branchen entwickelt wurden.

Srinivas Narayanan, CTO von OpenAI für B2B-Anwendungen, sagte, die Übernahme werde dazu beitragen, die integrierten Bewertungs- und Sicherheitsfunktionen von Frontier zu stärken.

„Promptfoo bringt tiefgehende Engineering-Expertise in der Bewertung, Sicherung und dem Testen von KI-Systemen im Unternehmensmaßstab mit“, sagte Narayanan in einer Erklärung. „Wir freuen uns, diese Fähigkeiten direkt in Frontier zu integrieren.“

Promptfoo-CEO Ian Webster sagte, die Integration mit OpenAI könne die Bemühungen beschleunigen, zunehmend komplexe KI-Deployments abzusichern. Da Agenten Zugriff auf Unternehmensdaten und Betriebssysteme erhalten, wird es deutlich schwieriger, ihr Verhalten zu validieren.

„Da KI-Agenten immer stärker mit realen Daten und Systemen verbunden werden, ist die Sicherung und Validierung wichtiger denn je“, sagte Webster. „Der Beitritt zu OpenAI ermöglicht es uns, diese Arbeit zu beschleunigen.“

Der Schritt spiegelt eine breitere Verschiebung in der KI-Branche wider, bei der Unternehmen von experimentellen Chatbots zu autonomen Software-Agenten übergehen, die in der Lage sind, echte Geschäftsabläufe auszuführen. Der Erwerb von Promptfoo durch OpenAI folgt auf die kürzliche Übernahme des Openclaw-Erfinders Peter Steinberger.

Mit dieser Entwicklung steigen die Sicherheitsbedenken, von Datenlecks bis hin zu unbeabsichtigten Aktionen von Agenten innerhalb von Unternehmenssystemen. Analysten sagen, dass automatisierte Red-Teaming- und Bewertungstools zu einer unverzichtbaren Infrastruktur für Unternehmens-KI-Implementierungen werden.

Promptfoo hatte etwa 23 Millionen US-Dollar an Risikokapital aufgenommen, darunter Seed-Finanzierungen von Andreessen Horowitz und eine Series A in Höhe von 18,4 Millionen US-Dollar, die 2025 von Insight Partners angeführt wurde. Investoren beschrieben das Unternehmen als eine kategoriebestimmende Akteur im Bereich der KI-Anwendungs-Sicherheit.

Für OpenAI ergänzt die Übernahme eine Sicherheitsebene bei Frontier in einer Phase, in der die Unternehmensakzeptanz von KI-Agenten beschleunigt wird — und Unternehmen, die diese Agenten einsetzen, weniger Überraschungen und mehr Sicherheitsvorkehrungen wünschen.

FAQ 🔎

• Was ist Promptfoo?

Promptfoo ist eine KI-Sicherheitsplattform, die große Sprachmodelle und KI-Agenten auf Schwachstellen wie Prompt-Injection-Angriffe, Datenlecks und Jailbreak-Exploits testet.

• Warum übernimmt OpenAI Promptfoo?

OpenAI plant, die Sicherheits-Test- und Red-Teaming-Tools von Promptfoo in seine Enterprise-Plattform Frontier zu integrieren, um KI-Agenten-Deployments sicherer und einfacher zu verwalten.

• Bleibt Promptfoo Open Source?

Ja, OpenAI sagte, dass Promptfoo’s Open-Source-Tools weiterhin gepflegt und für Entwickler und bestehende Nutzer unterstützt werden.

• Was ist OpenAI Frontier?

Frontier ist OpenAIs Enterprise-Plattform zum Aufbau, Einsatz und Management von Flotten von KI-Agenten, die sich mit Unternehmenssystemen verbinden und automatisierte Arbeitsabläufe ausführen können.