Google rút tính năng Nano Banana trên Google Earth chỉ sau một ngày ra mắt, khi giới điều tra cảnh báo nguy cơ tràn ngập ảnh vệ tinh giả mạo.
Google vừa gỡ bỏ một tính năng trí tuệ nhân tạo vừa được triển khai trên Google Earth, chỉ khoảng một ngày sau khi phát hành, do vấp phải làn sóng phản đối nhanh chóng từ giới nhà báo và các nhà điều tra nguồn mở.
Công cụ mang tên Nano Banana, ra mắt ngày 30/7, cho phép người dùng phóng to đến bất kỳ địa điểm nào trên phiên bản web của Google Earth, nhấp vào nút “tạo hình ảnh” và tạo ra một khung cảnh vệ tinh từ câu lệnh văn bản. Tính năng này bị gỡ bỏ ngay ngày hôm sau, 31/7, sau khi giới chuyên môn cảnh báo rằng nó có thể khiến Internet tràn ngập các hình ảnh vệ tinh giả có độ thuyết phục cao.
Trong tuyên bố đăng trên nền tảng X, Google cho biết người dùng đặt niềm tin đặc biệt vào nền tảng này như một nguồn cung cấp hình ảnh đáng tin cậy về thế giới. Công ty thừa nhận rằng dù các chuyên gia dữ liệu không gian địa lý đã tìm thấy một số ứng dụng hữu ích, một số người dùng khác lại chia sẻ các hình ảnh được tạo ra có dấu hiệu vi phạm chính sách, khiến công ty phải rút lại tính năng trong thời gian xây dựng các cơ chế bảo vệ chặt chẽ hơn, dù không đưa ra mốc thời gian khôi phục cụ thể.
Nguy cơ xói mòn niềm tin vào hình ảnh xác thực
Mối lo ngại lớn nhất tập trung vào khả năng công cụ dễ dàng tạo ra các sự kiện chưa từng xảy ra trong thực tế. Trang tin công nghệ 404 Media đã chứng minh công cụ có thể tạo một hố nổ tại Los Angeles và thêm hình ảnh người biểu tình bên ngoài khuôn viên chính của Google tại Mountain View, trong khi NPR tạo ra các hình ảnh mô tả đảo Kharg của Iran chìm trong biển lửa và Điện Capitol Mỹ bị ngập lụt.
Nhà nghiên cứu nguồn mở Henk van Ess cho biết ông đã thử nghiệm các câu lệnh liên quan đến người tị nạn tại biên giới Mexico và một nhà máy điện hạt nhân ở Iran, nhưng không câu lệnh nào bị hệ thống từ chối.
Hình ảnh vệ tinh từ lâu vốn được xem là nguồn tham chiếu đáng tin cậy để xác minh tin tức nóng và các hành vi tàn bạo, chính bởi đây là loại hình ảnh rất khó làm giả. Nhà nghiên cứu Jake Godin của Bellingcat cảnh báo rằng khả năng tạo hình ảnh giả chỉ bằng một cú nhấp chuột sẽ đơn giản hóa quá trình sản xuất nội dung sai lệch và đẩy nhanh tốc độ lan truyền của chúng, đồng thời tạo điều kiện để các chính phủ bác bỏ những hình ảnh xác thực bằng cách tuyên bố đó là sản phẩm giả mạo.
Ban đầu, Google giảm nhẹ mức độ nghiêm trọng của lo ngại này khi cho biết mọi hình ảnh đều mang hình mờ SynthID, giúp các công cụ như Gemini xác định nguồn gốc AI, cùng hệ thống ngăn chặn nội dung về các chủ đề có hại. Tuy nhiên, giới phê bình cho rằng biện pháp này chưa đủ, bởi rất ít người dừng lại để xác minh hình ảnh trước khi chia sẻ trên mạng.
