Deepfakes và video do AI tạo vẫn ở đây. Nhưng trong vài năm qua, chúng đã phát triển về chất lượng và số lượng, khiến nhiều người lo lắng về an ninh quốc gia và quyền riêng tư cá nhân.
Tuy nhiên, cho dù người dùng trực tuyến ẩn danh có cố gắng biến video giả của họ thành hiện thực đến đâu, họ cũng không bao giờ có thể qua mặt được phần mềm nhận dạng khuôn mặt tiên tiến. Cho đến nay.
Đánh lừa API nhận dạng khuôn mặt
Các nhà nghiên cứu tại Đại học Sungkyunkwan ở Suwon, Hàn Quốc, đã kiểm tra chất lượng của công nghệ deepfake hiện tại. Họ đã thử nghiệm cả API của Amazon và Microsoft bằng phần mềm tạo video deepfake nguồn mở và thường được sử dụng để xem chúng hoạt động tốt như thế nào.
Các nhà nghiên cứu đã sử dụng khuôn mặt của những người nổi tiếng Hollywood. Để tạo ra những bức ảnh sâu sắc vững chắc, phần mềm cần nhiều hình ảnh chất lượng cao từ các góc độ khác nhau của cùng một người, những người nổi tiếng thay vì những người bình thường sẽ dễ dàng tiếp cận hơn nhiều.
Các nhà nghiên cứu cũng quyết định sử dụng API của Microsoft và Amazon làm tiêu chuẩn cho nghiên cứu của họ vì cả hai công ty đều cung cấp dịch vụ nhận dạng khuôn mặt người nổi tiếng. Họ đã sử dụng các bộ dữ liệu có sẵn công khai và chỉ tạo ra hơn 8.000 deepfakes. Từ mỗi video deepfake, họ trích xuất nhiều ảnh chụp khuôn mặt và gửi nó tới các API đang được đề cập.
Với Dịch vụ nhận thức Azure của Microsoft, các nhà nghiên cứu đã có thể đánh lừa hệ thống 78% thời gian bằng cách sử dụng deepfakes. Kết quả của Amazon tốt hơn một chút, với 68% khuôn mặt được gửi được xác định là thật.
Còn về Deepfake Detectors thì sao?
Máy dò Deepfake hoạt động ít nhiều giống như cách mà deepfake làm. Công cụ phát hiện là phần mềm đã được đào tạo bằng cách sử dụng mô hình học máy về cách phát hiện video deepfake.
Nhưng thay vì tập trung vào việc tạo ra một video siêu thực để đánh lừa các thiết bị phát hiện, các deepfakes giờ đây có thể bao gồm các ví dụ đối nghịch trong mọi khung hình để gây nhầm lẫn cho hệ thống AI. Trên thực tế, các cuộc tấn công deepfake kiểu này có tỷ lệ thành công nằm trong khoảng từ 78 đến 99%.
Mọi thứ càng tồi tệ hơn
Deepfakes là một ứng dụng học máy. Để tạo ra một bức ảnh có sức thuyết phục từ xa, bạn cần hàng trăm hình ảnh về khuôn mặt của cùng một người từ các góc độ khác nhau và thể hiện nhiều cảm xúc khác nhau.
Do nhu cầu về lượng lớn dữ liệu, người ta sẽ nghĩ rằng chỉ những người có sự hiện diện trực tuyến lớn mới gặp rủi ro, như những người nổi tiếng và chính trị gia. Nhưng đó không còn là trường hợp nữa.
Theo Deeptrace, số lượng deepfakes trực tuyến tăng 330 phần trăm trong vòng chưa đầy một năm — từ tháng 10 năm 2019 đến tháng 6 năm 2020. Chưa kể, phần mềm và thuật toán mà các nhà sản xuất deepfake sử dụng ngày càng trở nên mạnh mẽ và sẵn có và dễ tiếp cận hơn.
Ai có nguy cơ xảy ra Deepfakes?
Khi deepfakes lần đầu tiên trở thành xu hướng chủ đạo, những lo lắng hàng đầu là về quyền riêng tư và an ninh quốc gia. Mọi người sợ rằng cảnh quay video về các chính trị gia và nhân viên chính phủ không còn đáng tin cậy nữa.
Nhưng mặc dù không thể coi thường nguy cơ bảo mật mà deepfake đặt ra, nhưng nhiều cuộc khảo sát đã phát hiện ra rằng các nhà tạo deepfake không quan tâm đến việc gây rối chính trị. Phần lớn các video deepfakes trực tuyến có thể được chia thành hai loại:video hài hước về các cuộc phỏng vấn người nổi tiếng và phim và tài liệu khiêu dâm.
Mặc dù nghiên cứu gần đây được thực hiện bằng cách sử dụng khuôn mặt của những người nổi tiếng để đảm bảo deepfakes có chất lượng cao để đánh lừa các API, nhưng điều đó không có nghĩa là bạn không thể tạo deepfakes với ít dữ liệu hơn. Chắc chắn, chúng có thể không có cơ hội đánh lừa các hệ thống nhận dạng khuôn mặt tiên tiến, nhưng chúng có thể đủ thuyết phục để đánh lừa người khác.
Ngày nay, những lời nhận xét sâu sắc của bất kỳ ai có mặt trên mạng xã hội đều có thể được thực hiện một cách thuyết phục. Tất cả những gì họ cần là một vài bức ảnh về bạn và có thể là một video bạn xuất hiện trong đó. Kết quả là deepfake có chất lượng thấp, nhưng nó vẫn có thể làm được và có thể gây hại.
Tương lai vẫn chưa được biết
Có nhiều dự đoán trái ngược nhau về tình trạng bán sâu, vì chúng sẽ không sớm biến mất.
Một số người mong đợi một tương lai không gian mạng khải huyền, nơi bạn không thể tin tưởng vào bất kỳ cảnh quay nào mà bạn bắt gặp trực tuyến. Những người khác lạc quan hơn, so sánh deepfakes với hoạt hình và nói rằng nó có thể có tương lai trong sản xuất nội dung.