OpenAI achiziționează platforma Promptfoo pentru a consolida securitatea aplicațiilor AI în mediul enterprise

Compania de inteligență artificială OpenAI a anunțat achiziția platformei Promptfoo, o soluție specializată în testarea și securizarea sistemelor bazate pe inteligență artificială. Tranzacția are ca scop îmbunătățirea capacităților de testare, securitate și guvernanță ale platformei enterprise dezvoltate de OpenAI, potrivit informațiilor publicate de Ziarul Financiar.

Tehnologia Promptfoo va fi integrată în OpenAI Frontier, platforma companiei destinată dezvoltării și operării asistenților digitali complecși, cunoscuți și ca AI coworkers.

Testarea vulnerabilităților din sistemele AI

Citește și: Deloitte încheie un parteneriat cu ElevenLabs pentru dezvoltarea agenților conversaționali AI în Europa Centrală

Instrumentele dezvoltate de Promptfoo sunt utilizate pentru a identifica și remedia vulnerabilități din aplicațiile AI, inclusiv probleme precum:

• injecții de prompturi
• încercări de jailbreak
• scurgeri de date
• utilizarea abuzivă a instrumentelor AI

Prin integrarea tehnologiei Promptfoo, OpenAI urmărește să introducă funcționalități native de testare automatizată a securității în procesul de dezvoltare a agenților AI.

Potrivit Srinivas Narayanan, expertiza Promptfoo în evaluarea și securizarea sistemelor AI la scară enterprise va ajuta companiile să dezvolte aplicații mai sigure și mai fiabile.

Tehnologie utilizată de companii Fortune 500

Platforma Promptfoo este deja utilizată de peste 25% dintre companiile din clasamentul Fortune 500.

Echipa fondatoare, condusă de Ian Webster și Michael D’Angelo, a dezvoltat o suită de instrumente care include:

• o interfață CLI open-source
• biblioteci pentru evaluarea și testarea securității aplicațiilor LLM
• instrumente de red-teaming pentru sisteme AI

Securitatea devine o prioritate pentru AI-ul enterprise

Pe măsură ce companiile implementează agenți AI în procesele lor operaționale, securitatea, evaluarea și conformitatea devin cerințe esențiale.

Integrarea Promptfoo în platforma OpenAI Frontier va permite organizațiilor să:

• testeze sistemele AI înainte de implementare
• identifice riscurile într-un stadiu incipient
• documenteze procesele de testare pentru audit și conformitate

În paralel, OpenAI și Promptfoo vor continua dezvoltarea proiectului open-source, în timp ce vor extinde funcționalitățile enterprise ale platformei Frontier.

Sursa foto: Bloomberg