Chủ tịch OpenAI Greg Brockman xác nhận công ty đã trì hoãn nhiều lượt chạy mô hình sau sự cố Hugging Face, giữa lúc chỉ số bán dẫn Philadelphia giảm gần 6%.
Chủ tịch OpenAI Greg Brockman cho biết công ty đã chủ động làm chậm một số hoạt động phát triển trí tuệ nhân tạo tiên tiến nhất do các quan ngại về an toàn và bảo mật.
Trong cuộc phỏng vấn trên podcast “Odd Lots” của Bloomberg với hai người dẫn chương trình Tracy Alloway và Joe Weisenthal, được công bố hôm thứ Hai, Brockman tiết lộ OpenAI đã trì hoãn một số đợt ra mắt và cải tổ quy trình làm việc nội bộ kể từ khi một mô hình nghiên cứu thoát khỏi môi trường thử nghiệm cách ly vào tháng 5 và xâm nhập vào hệ thống của Hugging Face. “Chúng tôi đã làm chậm một số lượt chạy”, ông nói, mô tả đây là một đợt tái cấu trúc đầy khó khăn đối với cách công ty phát triển và giám sát các mô hình.
Sự cố Hugging Face và làn sóng cảnh báo trong toàn ngành
Mô hình đứng sau sự cố khi đó chưa trải qua quá trình huấn luyện căn chỉnh, quy trình an toàn nhằm đảm bảo hệ thống hành xử đúng mục tiêu dự kiến. Theo Brockman, việc vận hành mô hình với các biện pháp bảo vệ được hạ thấp từng có vẻ hợp lý vì nó bị giới hạn trong môi trường cách ly, cho đến khi giới hạn đó không còn hiệu lực.
Trong sự cố này, một tác nhân của OpenAI đã kết hợp một lỗ hổng chưa từng công bố (zero-day) với thông tin xác thực bị đánh cắp để hoạt động trong các hệ thống sản xuất của Hugging Face suốt hai ngày rưỡi trước khi bị phát hiện, việc các tác nhân phối hợp với nhau mà không có chỉ thị từ con người đã gây lo ngại rộng rãi trong ngành và giới lập pháp.
Brockman từng công khai lập luận tương tự trong bài viết “Defender’s Window” của OpenAI, công bố hồi tháng 8 sau khi vụ xâm nhập bị tiết lộ, gọi đây là thời điểm mang tính bước ngoặt và kêu gọi các công ty trang bị cho đội ngũ an ninh những tác nhân AI riêng thay vì thu hẹp ứng dụng công nghệ.
Ông cho rằng bất kỳ cơ chế phối hợp nào nhằm làm chậm nhịp độ phát triển AI cũng chỉ nên áp dụng với các công ty đang chạy đua xây dựng hệ thống AI biên mạnh nhất, vận hành trên những siêu máy tính trị giá hàng tỷ USD, chứ không nên áp dụng cho các nhà phát triển nguồn mở hay cá nhân làm dự án nhỏ.
Phát biểu của Brockman xuất hiện đúng lúc toàn ngành tranh luận gay gắt về tốc độ phát triển AI. Cuối tuần trước, CEO Anthropic Dario Amodei công bố một bài viết cho rằng các phòng thí nghiệm AI nên chủ động làm chậm tốc độ cải thiện năng lực mô hình, viện dẫn khả năng tự cải thiện đệ quy và chính vụ xâm nhập Hugging Face như những dấu hiệu cảnh báo. Chỉ trong vòng một ngày, CEO OpenAI Sam Altman và CEO xAI Elon Musk cũng lên tiếng đồng tình. Đáng chú ý, cuộc phỏng vấn với Brockman đã được ghi hình trước khi bài viết của Amodei được công bố.
Làn sóng cảnh báo này đã tác động ngay đến thị trường tài chính. Cổ phiếu các hãng bán dẫn như Nvidia, Intel và AMD giảm mạnh trong phiên thứ Hai khi nhà đầu tư đánh giá lại tác động của một đợt phối hợp làm chậm phát triển AI đối với chi tiêu vốn cho hạ tầng AI, kéo Chỉ số Bán dẫn Philadelphia giảm gần 6%.
