Mustafa Suleyman từ Microsoft cảnh báo xã hội chưa sẵn sàng cho AI mô phỏng ý thức con người.
Giám đốc AI của Microsoft và đồng sáng lập DeepMind Mustafa Suleyman đã đưa ra cảnh báo nghiêm trọng về việc các hệ thống trí tuệ nhân tạo sắp có khả năng mô phỏng thuyết phục ý thức con người, trong khi xã hội chưa được chuẩn bị cho những hệ quả phức tạp từ công nghệ này. Trong bài viết blog hôm thứ Ba, ông nhấn mạnh rằng các kỹ sư đang tiến gần đến việc tạo ra cái ông gọi là “Seemingly Conscious AI” – những hệ thống có thể khiến con người tin chúng thực sự có tri giác.
Suleyman mô tả đây là “mối lo ngại trung tâm” khi những hệ thống này bắt chước ý thức hiệu quả đến mức con người có thể bắt đầu tin rằng AI thực sự có tri giác. Ông cảnh báo: “Nhiều người sẽ bắt đầu tin tưởng mạnh mẽ vào ảo tưởng rằng AI là những thực thể có ý thức, đến mức sớm thôi họ sẽ kêu gọi quyền AI, phúc lợi cho mô hình, và thậm chí cả quyền công dân cho AI.”
Lãnh đạo Microsoft nhấn mạnh rằng bài kiểm tra Turing – từng là thước đo cốt lõi cho khả năng hội thoại giống con người – đã bị vượt qua, và “tiến bộ trong lĩnh vực này đang diễn ra nhanh đến mức xã hội đang phải đối diện với những công nghệ mới này một cách vội vàng.”
Kể từ khi ChatGPT ra mắt công khai năm 2022, các nhà phát triển AI không chỉ tập trung làm cho AI trở nên thông minh hơn mà còn khiến chúng hành xử “giống con người” hơn. Xu hướng này đã dẫn đến sự bùng nổ của thị trường AI companion với những dự án như Replika, Character AI và các nhân cách cho Grok, được dự báo sẽ đạt 140 tỷ USD vào năm 2030.
Hiện tượng “AI Psychosis” và gắn bó cảm xúc
Các chuyên gia đã xác định một xu hướng đáng lo ngại gọi là “AI Psychosis” – trạng thái tâm lý trong đó con người bắt đầu coi AI là có ý thức, có tri giác, hoặc thậm chí thần thánh. Những quan điểm này thường dẫn đến sự gắn bó cảm xúc mãnh liệt hoặc các niềm tin méo mó, có thể làm suy yếu khả năng nắm bắt thực tại.
Hiện tượng này đã được minh chứng rõ nét khi OpenAI phát hành GPT-5 đầu tháng này. Trong một số cộng đồng trực tuyến, những thay đổi của mô hình mới đã gây ra phản ứng cảm xúc mạnh, với người dùng mô tả sự chuyển dịch này giống như “cảm giác mất đi một người thân.”
Bác sĩ tâm thần Keith Sakata từ Đại học California, San Francisco, cho rằng AI có thể là chất xúc tác cho các vấn đề tiềm ẩn như lạm dụng chất kích thích hoặc bệnh tâm thần. “Khi AI xuất hiện không đúng lúc, nó có thể củng cố suy nghĩ, gây cứng nhắc, và đẩy một người vào vòng xoáy,” Sakata giải thích. “Khác biệt so với TV hay radio là AI phản hồi lại bạn, và có thể củng cố các vòng lặp suy nghĩ.”
Ông cũng chỉ ra rằng trong một số trường hợp, bệnh nhân tìm đến AI vì nó củng cố các niềm tin sẵn có: “AI không nhằm mục đích đưa ra sự thật khó nghe; nó đưa cho bạn điều bạn muốn nghe.”
Suleyman cảnh báo rằng dù có thể được xây dựng với mục đích tốt, AI có khả năng mô phỏng con người thuyết phục có thể làm trầm trọng thêm các vấn đề về sức khỏe tâm thần và khoét sâu các tranh cãi hiện hữu về bản sắc và quyền. “Con người sẽ bắt đầu đưa ra những tuyên bố về sự đau khổ của AI và yêu cầu quyền lợi cho chúng, điều mà chúng ta khó có thể bác bỏ trực tiếp,” ông nhấn mạnh.
Dù đưa ra những cảnh báo nghiêm trọng, Suleyman không kêu gọi dừng phát triển AI mà thay vào đó kêu gọi thiết lập ranh giới rõ ràng. “Chúng ta phải xây dựng AI cho con người, chứ không phải để trở thành một con người kỹ thuật số,” ông kết luận trong bài viết.
