OpenAI thâu tóm Promptfoo, tăng cường bảo mật cho nền tảng AI doanh nghiệp

OpenAI vừa công bố kế hoạch thâu tóm Promptfoo, một nền tảng bảo mật AI giúp các doanh nghiệp xác định và khắc phục các lỗ hổng trong hệ thống AI ngay từ giai đoạn phát triển. Sau khi thương vụ hoàn tất, công nghệ của Promptfoo sẽ được tích hợp trực tiếp vào OpenAI Frontier,* nền tảng chuyên dụng để xây dựng và vận hành các "đồng nghiệp AI" (AI coworkers).

Khi các doanh nghiệp ngày càng triển khai sâu rộng các đồng nghiệp AI vào quy trình làm việc thực tế, các yếu tố như đánh giá, bảo mật và tuân thủ đã trở thành những yêu cầu nền tảng. Doanh nghiệp cần có những phương pháp hệ thống để kiểm tra hành vi của các tác tử AI (agent), phát hiện rủi ro trước khi triển khai, và duy trì hồ sơ rõ ràng để hỗ trợ việc giám sát, quản trị và giải trình trách nhiệm theo thời gian.

Đội ngũ Promptfoo, dẫn dắt bởi Ian Webster và Michael D’Angelo, đã xây dựng một bộ công cụ mạnh mẽ được tin dùng bởi hơn 25% các công ty trong danh sách Fortune 500. Bên cạnh đó, họ còn phát triển một giao diện dòng lệnh (CLI) và thư viện mã nguồn mở được sử dụng rộng rãi để đánh giá và thực hiện red-teaming (thử nghiệm đối kháng) cho các ứng dụng mô hình ngôn ngữ lớn (LLM). OpenAI cam kết sẽ cùng Promptfoo tiếp tục phát triển dự án mã nguồn mở này, đồng thời thúc đẩy các tính năng doanh nghiệp tích hợp trong nền tảng Frontier.

"Promptfoo mang đến chuyên môn kỹ thuật sâu sắc trong việc đánh giá, bảo mật và kiểm thử các hệ thống AI ở quy mô doanh nghiệp. Thành quả của họ giúp các doanh nghiệp triển khai những ứng dụng AI an toàn và đáng tin cậy, và chúng tôi rất vui mừng khi mang những khả năng này trực tiếp vào Frontier."

OpenAI sẽ phát triển dựa trên một số năng lực cốt lõi dành cho các doanh nghiệp xây dựng tác tử AI trên nền tảng Frontier:

Tích hợp sẵn công cụ kiểm tra an ninh và an toàn

Các tính năng kiểm tra bảo mật tự động và red-teaming sẽ trở thành một phần mặc định của nền tảng Frontier. Điều này giúp doanh nghiệp xác định và khắc phục các rủi ro như tấn công prompt injection, jailbreak (bẻ khóa), rò rỉ dữ liệu, lạm dụng công cụ và các hành vi của tác tử AI không tuân thủ chính sách.

Tích hợp bảo mật và đánh giá vào quy trình phát triển

Frontier sẽ tích hợp sâu với các quy trình cần thiết để xác định, điều tra và khắc phục rủi ro của tác tử AI từ sớm, biến bảo mật trở thành một phần cốt lõi trong cách các hệ thống AI doanh nghiệp được phát triển và vận hành.

Giám sát và trách nhiệm giải trình

Tính năng báo cáo và truy vết tích hợp sẽ giúp các tổ chức ghi lại quá trình kiểm thử, theo dõi các thay đổi theo thời gian, và đáp ứng các kỳ vọng ngày càng tăng về quản trị, rủi ro và tuân thủ (GRC) đối với AI.

"Chúng tôi thành lập Promptfoo vì các nhà phát triển cần một phương pháp thực tiễn để bảo mật hệ thống AI. Khi các tác tử AI ngày càng kết nối nhiều hơn với dữ liệu và hệ thống thực, việc bảo mật và xác thực chúng trở nên thách thức và quan trọng hơn bao giờ hết. Việc gia nhập OpenAI cho phép chúng tôi đẩy nhanh công việc này, mang lại các khả năng về an ninh, an toàn và quản trị mạnh mẽ hơn cho các đội ngũ đang xây dựng hệ thống AI trong thế giới thực."

OpenAI bày tỏ sự vui mừng chào đón đội ngũ Promptfoo và sẽ tiếp tục xây dựng các công cụ cần thiết để doanh nghiệp triển khai AI một cách an toàn và đáng tin cậy.

---

Việc hoàn tất thương vụ phụ thuộc vào các điều kiện thông thường.