Deepfake và video tạo bởi AI đã đến để ở lại. Nhưng qua vài năm qua, chúng đã tăng trưởng về chất lượng và số lượng, khiến nhiều người lo ngại về an ninh quốc gia và quyền riêng tư cá nhân.
Vẫn vậy, không يهم những người ẩn danh trực tuyến cố gắng làm video giả mạo thực tế đến đâu, họ chưa bao giờ vượt qua được phần mềm nhận diện khuôn mặt tiên tiến. Cho đến bây giờ.
Lừa Được Face Recognition APIs
Các nhà nghiên cứu tại Đại học Sungkyunkwan, Suwon, Hàn Quốc, đã kiểm tra chất lượng công nghệ deepfake hiện tại. Họ kiểm tra cả API của Amazon và Microsoft bằng phần mềm tạo video deepfake mã nguồn mở và phổ biến để xem chúng hoạt động tốt đến đâu.
Các nhà nghiên cứu dùng khuôn mặt của người nổi tiếng Hollywood. Để tạo deepfake chắc chắn, phần mềm cần rất nhiều hình ảnh chất lượng cao từ nhiều góc độ của cùng một người, thứ dễ đạt được hơn với người nổi tiếng thay vì người thường.
Các nhà nghiên cứu cũng quyết định dùng API của Microsoft và Amazon làm tiêu chuẩn cho nghiên cứu vì cả hai công ty đều cung cấp dịch vụ nhận diện khuôn mặt người nổi tiếng. họ dùng tập dữ liệu công khai và tạo ra hơn 8.000 deepfake. Từ mỗi video deepfake, họ trích xuất nhiều khuôn mặt (faceshots) và gửi đến các API đang được chất vấn.
Với Microsoft Azure Cognitive Services, các nhà nghiên cứu đã lừa hệ thống 78% thời gian dùng deepfake. Kết quả của Amazon tốt hơn một chút, với 68% khuôn mặt được gửi được nhận diện là thật.
Còn Deepfake Detectors (Bộ Phát Hiện Deepfake)?
Deepfake detectors hoạt động tương tự như deepfake. Bộ phát hiện là phần mềm được huấn luyện bằng mô hình machine learning về cách phát hiện video deepfake.
Thay vì tập trung tạo video siêu thực để lừa bộ phát hiện, deepfake giờ có thể bao gồm các ví dụ đối kháng (adversarial examples) trong mỗi khung hình để làm nhầm lẫn hệ thống AI. Thực tế, tấn công deepfake loại này có tỷ lệ thành công từ 78 đến 99%.
Đang Trở Nên Tệ Hơn
Deepfake là ứng dụng machine learning. Để tạo một cái kể cả thuyết phục từ xa, bạn cần hàng trăm hình ảnh khuôn mặt cùng một người từ nhiều góc độ và biểu hiện cảm xúc khác nhau.
Do nhu cầu lượng dữ liệu khổng lồ, người ta sẽ nghĩ chỉ người có hiện diện trực tuyến lớn mới bị rủi ro, như người nổi tiếng và chính trị gia. Nhưng không còn như vậy nữa.
Theo Deeptrace, số lượng deepfake trực tuyến tăng 330% trong chưa đầy một năm – từ tháng 10/2019 đến tháng 6/2020. Chưa nói đến phần mềm và thuật toán người tạo deepfake dùng ngày càng mạnh và sẵn sàng, dễ tiếp cận hơn.
Ai Có Rủi Ro Bị Deepfake?
Khi deepfake trở nên phổ biến, lo ngại chính là quyền riêng tư và an ninh quốc gia. Mọi người sợ rằng video của chính trị gia và công chức chính phủ không thể tin được nữa.
Nhưng dù không thể bỏ qua rủi ro an ninh deepfake đặt ra, nhiều khảo sát thấy người tạo deepfake không quan tâm lắm đến làm loạn chính trị hiện tại. Phần lớn video deepfake trực tuyến chia thành hai loại: video hài hước phỏng vấn người nổi tiếng, và phim/ nội dung khiêu dâm.
Mặc dù nghiên cứu gần đây dùng khuôn mặt người nổi tiếng để đảm bảo deepfake chất lượng cao để lừa API, nhưng không có nghĩa là bạn không thể tạo deepfake với ít dữ liệu hơn. Chắc chắn, chúng có thể không có cơ hội lừa hệ thống nhận diện khuôn mặt tiên tiến, nhưng chúng đủ thuyết phục để lừa người khác.
Ngày nay, deepfake của bất kỳ ai có hiện diện xã hội đều có thể tạo được thuyết phục. Chỉ cần vài bức ảnh của bạn và có thể một video bạn xuất hiện. Deepfake kết quả có thể thấp chất lượng, nhưng vẫn làm được và có thể gây hại.
Tương Lai Vẫn Chưa Rõ
Có nhiều dự đoán mâu thuẫn về trạng thái deepfake, vì chúng không đi đâu trong thời gian gần.
Một số kỳ vọng tương lai mạng tàn khốc (apocalyptic) nơi bạn không thể tin bất kỳ đoạn video nào trực tuyến. Những người khác lạc quan hơn, so sánh deepfake với hoạt hình và nói nó có thể có tương lai trong sản xuất nội dung.