Không lâu trước, chúng ta thảo luận về lợi ích của AI. Sáng nay, tôi thấy video "Slaughterbots" của Viện Tương lai Cuộc sống (Future of Life Institute) — tổ chức vận động cấm robot giết người. Phim ngắn này cảnh báo về mặt tối của vũ khí tự chủ.
Video có thể gây sốc, nhưng nó đặt câu hỏi nóng: "Chúng ta đang đi đâu với những tiến bộ công nghệ vĩ đại này?"
Vũ khí tự chủ là gì?
Là robot quân sự được thiết kế để chọn và tấn công mục tiêu mà không cần chỉ đạo của con người. Còn gọi: Lethal Autonomous Weapons (LAWs), Killer Robots. Chúng hoạt động trên không, mặt đất, nước, dưới nước, vũ trụ. Hiện nay đa số vẫn cần can thiệp của người, trừ một số hệ thống phòng thủ hoàn toàn tự động.
AI là xương sống của vũ khí tự chủ. Điều đáng sợ: chúng có khả năng ra quyết định tự chủ — điều có thể hủy hoại an ninh và tự do của nhân loại.
Slaughterbots — những con drone giết người kích thước bàn tay
Trong phim, Slaughterbots là drone nhỏ xíu, trang bị nhận diện khuôn mặt và vật질 nổ, thực hiện thảm sát không để lại dấu vết. Video bắt đầu bằng hội nghị ra mắt drone nhỏ giúp quốc phòng. Nhưng khi rơi vào tay sai, chúng thành công cụ ám sát chính trị gia, nhà hoạt động, sinh viên.
Công nghệ trong Slaughterbots đã có thực tế: nhận diện khuôn mặt, định vị tự động, AI, drone vũ trang, vi mô hóa mạch điện.
Sự tiến bộ công nghệ có gây ra sự diệt vong?
Khoa học nhằm giúp nhân loại, nhưng kẻ xấu dùng nó để tàn phá. Tình huống trong video chưa xảy ra hôm nay, nhưng không xa nếu công nghệ phát triển không kiểm soát.
Nỗ lực bảo vệ tương lai
Video phát hành trùng với Hội nghị Công ước Vũ khí Truyền thống của LHQ tại Geneva, Thụy Sĩ — nhằm kêu gọi cấm vũ khí tự chủ toàn cầu. Viện Tương lai Cuộc sống do các nhà khoa học, lãnh đạo kinh doanh thành lập, được Elon Musk, Stephen Hawking ủng hộ. 125 quốc gia (kể cả 5 thành viên thường trực Hội đồng An ninh LHQ) cam kết tuân thủ.
Nhiều công ty phát triển công nghệ chống drone. Chiến dịch "Stop Killer Robots" tổ chức sự kiện tại hội nghị LHQ đề xuất cấm vũ khí tự chủ chết người (drone bay, xe tăng tự lái, súng tự động).
GS Stuart Russell kết luận: "Chúng ta có cơ hội ngăn chặn tương lai vừa thấy, nhưng cửa sổ hành động đang nhanh chóng đóng lại. Cho phép máy móc quyết định giết người sẽ tàn phá an ninh và tự do."