OpenAI tích hợp tính an toàn vào các tác nhân AI bằng cách mua lại công ty khởi nghiệp Promptfoo

OpenAI mua lại công ty khởi nghiệp Promptfoo

Công ty OpenAI đã ký thỏa thuận mua lại công ty khởi nghiệp Promptfoo, một doanh nghiệp hai năm tuổi đang phát triển các công cụ kiểm tra an ninh trí tuệ nhân tạo ngay từ giai đoạn thiết kế. Theo Bloomberg, mục tiêu của giao dịch là giảm thiểu rủi ro cho khách hàng sử dụng giải pháp AI và thu hút thị trường doanh nghiệp lớn.

Promptfoo là ai?

- Thành lập: 2022
- Địa điểm: San Francisco
- Dịch vụ: mã nguồn mở để kiểm tra mạng nơ-ron, bao gồm “đội ngũ đỏ” (red‑team), nơi các chuyên gia mô phỏng tấn công vào mô hình của mình, phát hiện điểm yếu trước khi kẻ xấu tìm ra.
- Khách hàng: khoảng 25 % doanh nghiệp trong danh sách Fortune 500.

Điều gì sẽ thay đổi sau khi tích hợp?

Công nghệ Promptfoo sẽ được triển khai vào nền tảng doanh nghiệp của OpenAI – Frontier. Điều này sẽ cung cấp cho Frontier khả năng kiểm tra tự động, giám sát các thay đổi và hệ thống báo cáo kiểm tra đáp ứng yêu cầu an ninh.

Phản ứng của nhà đầu tư

Ganesh Bell (CEO Insight Partners), người đã dẫn dắt vòng tài trợ Promptfoo trị giá 18,4 triệu đô la năm ngoái, cho biết: “Việc mua lại chứng minh cam kết rõ ràng của OpenAI trong việc xây dựng AI doanh nghiệp không chỉ mạnh mẽ mà còn an toàn và tin cậy khi mở rộng quy mô.” Các chi tiết tài chính của giao dịch vẫn chưa được công bố.

Tương lai của Promptfoo

OpenAI sẽ tiếp tục phát triển mã nguồn mở của Promptfoo song hành với việc tích hợp thương mại. Gần đây, công ty đã giới thiệu một tác nhân AI có khả năng tìm và khắc phục lỗ hổng trong cơ sở dữ liệu – một công cụ tương tự Anthropic PBC.