CEO Google DeepMind Demis Hassabis dự báo AGI xuất hiện trong vài năm tới, đề xuất lập cơ quan tiêu chuẩn AI tiên phong tại Mỹ theo mô hình FINRA.
Demis Hassabis, CEO Google DeepMind, vừa đưa ra dự báo lần thứ hai trong năm về thời điểm xuất hiện của trí tuệ nhân tạo tổng quát (AGI), nhưng lần này với một góc nhìn khác biệt về tầm mức tác động. Trong bài viết đăng trên nền tảng X vào thứ Ba, ông nhận định AGI “có lẽ chỉ còn cách chúng ta vài năm ngắn ngủi” và không nên bị so sánh với các cột mốc công nghệ như internet hay điện toán di động, mà cần được nhìn nhận ngang tầm với việc con người khám phá ra điện hoặc lửa.
Hassabis mô tả đây là thời khắc “đứng ở chân dốc của điểm kỳ dị công nghệ”, mở ra một kỷ nguyên mới của nền văn minh nhân loại, khi về bản chất con người đã “tìm ra cách khiến cát có thể tư duy”.
Song song với sự lạc quan đó, Hassabis cảnh báo năng lực AI đang phát triển nhanh hơn khả năng xã hội hiểu và kiểm soát các rủi ro đi kèm. Ông chỉ ra những mối đe dọa an ninh mạng đã hiện diện trong các mô hình tiên phong hiện tại, đồng thời cảnh báo các hệ thống tương lai có thể làm phát sinh rủi ro liên quan đến sinh học, hạt nhân và an ninh quốc gia.
Theo ông, khi AI ngày càng mang tính tác tử tự chủ và có khả năng tự cải tiến đệ quy, việc xây dựng các biện pháp bảo vệ kỹ thuật vững chắc hơn là điều cần thiết để con người duy trì quyền kiểm soát trước những vấn đề chưa xác định, chỉ dần trở nên rõ ràng theo thời gian.
Đề xuất lập cơ quan tiêu chuẩn AI theo mô hình FINRA
Để ứng phó với những rủi ro này, Hassabis đề xuất thành lập Cơ quan Tiêu chuẩn AI Tiên phong của Mỹ, xây dựng theo mô hình của Cơ quan Quản lý Ngành Tài chính (FINRA), một tổ chức tư nhân giám sát các công ty môi giới tại Mỹ. Mô hình hợp tác công – tư do liên bang giám sát này sẽ chủ yếu được ngành AI tài trợ, với đội ngũ chuyên gia kỹ thuật độc lập và đại diện cộng đồng nguồn mở đảm nhận việc đánh giá các mô hình AI tiên phong trước khi phát hành.
Đề xuất của Hassabis nối tiếp một loạt lời kêu gọi tương tự từ giới lãnh đạo ngành AI. Từ tháng 5/2023, CEO OpenAI Sam Altman đã đề nghị thành lập cơ quan liên bang có thẩm quyền cấp phép cho các hệ thống AI mạnh trước Ủy ban Tư pháp Thượng viện Mỹ.
Gần đây hơn, Tổng thống Donald Trump đã ký sắc lệnh hành pháp thiết lập khuôn khổ tự nguyện đánh giá mô hình AI tiên tiến trước khi phát hành, trong khi CEO Anthropic Dario AmodeI, người từng dự báo AI đạt trình độ con người có thể xuất hiện trong 1-5 năm, cũng kêu gọi các quy định an toàn tương tự FAA.
Hassabis nhấn mạnh thế giới chỉ còn một khoảng thời gian hữu hạn để thiết lập tiêu chuẩn chung trước khi AGI xuất hiện, và cách con người đưa công nghệ này vào thế giới một cách an toàn sẽ quyết định giai đoạn tiếp theo của nền văn minh.
