Trong thế giới danh tính trực tuyến liên kết trực tiếp với bạn, triễn vọng sao chép hoàn hảo là đáng lo ngại. Nhưng đó chính xác là điều chúng ta đối mặt với sự xuất hiện của công nghệ deepfake.
Khi công nghệ trở nên rẻ và dễ dùng hơn, nguy hiểm của deepfake là gì? Hơn nữa, làm sao phân biệt deepfake và thật?
Deepfake Là Gì?
Deepfake là tên gọi cho phương tiện mà người trong video hoặc hình ảnh bị thay thế bằng dung nhan của người khác. Thuật ngữ là blend (hợp thành) của "deep learning" (học sâu) và "fake" (giả) và dùng thuật toán học máy và trí tuệ nhân tạo để tạo phương tiện tổng hợp (synthetic) trông thật.
Ở mức cơ bản, bạn có thể tìm thấy khuôn mặt được chồng lên mô hình khác. Ở mức độ phát triển nhanh chóng tồi tệ nhất, công nghệ deepfake ghép nạn nhân không ngờ vào video người lớn giả, tin tức giả, trò lừa, và hơn nữa.
Bạn có thể đọc thêm về nguồn gốc công nghệ trong bài giải thích deepfake của chúng tôi.
Nguy Hiểm Của Deepfake Là Gì?
Ảnh giả luôn tồn tại. Tìm ra gì giả gì thật là phần phổ biến của cuộc sống, đặc biệt sau trỗi dậy phương tiện số字. Nhưng vấn đề deepfake tạo ra khác biệt, mang lại độ chính xác chưa từng có cho ảnh giả và video giả.
Một trong những video deepfake đầu tiên tiếp cận khán giả rộng là Jordan Peele đóng vai Barack Obama trong video thảo luận chính vấn đề này:
Video trông thô sơ, với giọng nói lạ và hiện tượng grainy (nhiễu) trên khuôn mặt được clone. Tuy nhiên, nó minh họa công nghệ deepfake.
Hay bạn từng tự hỏi sẽ ra sao nếu Will Smith đóng Neo trong The Matrix thay vì Keanu Reeves (tức là, ai cũng tự hỏi!)? Không cần tự hỏi nữa:
Hai video này không độc hại, mất hàng trăm giờ học máy để biên soạn. Nhưng cùng công nghệ đó có sẵn cho bất kỳ ai với đủ thời gian học và sức mạnh tính toán. Rào cản dùng công nghệ deepfake ban đầu khá cao. Nhưng khi công nghệ cải tiến và rào cản vào cửa giảm mạnh, người ta tìm ra cách dùng deepfake tiêu cực và có hại.
Trước khi đi sâu vào mặt tối của deepfake, đây là Jim Carrey thay thế Jack Nicholson trong The Shining:
1. Nội Dung Người Lớn Giả Với Người Nổi Tiếng
Một trong những mối đe dọa lớn từ công nghệ deepfake là nội dung người lớn tổng hợp, hay deepfake porn như người ta biết. Có hàng chục nghìn video người lớn giả với khuôn mặt nữ giới nổi tiếng như Emma Watson, Natalie Portman, và Taylor Swift.
Tất cả dùng thuật toán học máy deepfake ghép khuôn mặt người nổi tiếng lên cơ thể nữ diễn viên người lớn, và thu hút hàng chục triệu lượt xem trên nhiều trang web người lớn.
Nhưng không trang nào làm gì về deepfake người nổi tiếng.
"Cho đến khi có lý do mạnh mẽ để họ cố gắng gỡ bỏ và lọc chúng, không có gì sẽ xảy ra," Giorgio Patrini, CEO và khoa học gia trưởng tại Sensity, công ty phân tích và phát hiện deepfake, nói. "Mọi người vẫn tự do tải loại vật liệu này lên mà không có hậu quả cho các trang web được xem bởi hàng trăm triệu người."
Các video này bóc lột và xa từ vô hại, như một số người tạo deepfake 주장.
2. Nội Dung Người Lớn Giả Với Người Bình Thường
Gì tồi tệ hơn deepfake porn người nổi tiếng? Đúng: nội dung người lớn giả với phụ nữ không ngờ. Nghiên cứu của Sensity phát hiện bot deepfake trên ứng dụng nhắn tin xã hội Telegram đã tạo hơn 100.000 ảnh khiêu dâm giả. Nhiều ảnh bị đánh cắp từ tài khoản mạng xã hội, có bạn bè, bạn gái, vợ, mẹ, v.v.
Bot là bước tiến lớn trong công nghệ deepfake, vì người tải ảnh không cần kiến thức deepfake, học máy, hoặc AI. Là quá trình tự động chỉ cần một ảnh. Hơn nữa, bot Telegram dường như chỉ hoạt động với ảnh nữ, và gói premium (nhiều ảnh hơn, bỏ watermark) rẻ tiền đến mức đáng sợ.
Giống như deepfake người nổi tiếng, ảnh deepfake bot Telegram bóc lột, lạm dụng, và phi đạo đức. Chúng dễ dàng tìm đường đến hộp thư của chồng, bạn trai, người nhà, đồng nghiệp, hoặc sếp, phá hủy cuộc sống. Tiềm năng uy hiếp và các hình thức tống tiền khác rất cao và nó đẩy lên mối đe dọa từ các vấn đề hiện có, như revenge porn (porn trả thù).
Đăng deepfake trên Telegram tạo vấn đề khác. Telegram là dịch vụ nhắn tin tập trung quyền riêng tư không can thiệp nhiều vào người dùng. Nó có chính sách gỡ bot porn và bot khác liên quan nội dung người lớn nhưng chưa làm gì trong trường hợp này.
3. Vật Liệu Gian Lận (Hoax)
Bạn đã thấy Jordan Peele đóng Obama. Trong video đó, anh cảnh báo nguy hiểm deepfake. Một trong những lo ngại lớn về công nghệ deepfake là ai đó sẽ tạo và phát hành video thực tế đến mức dẫn đến bi kịch nào đó.
Ở mức cực đoan nhất, người ta nói nội dung video deepfake có thể kích động chiến tranh. Nhưng cũng có hậu quả lớn khác. Ví dụ, video deepfake CEO tập đoàn lớn hoặc ngân hàng phát biểu gây hại có thể gây sập chứng khoán. Lại cực đoan. Nhưng người thật có thể kiểm tra và xác thực video, trong khi thị trường toàn cầu phản ứng tức thì với tin tức, và bán tự động (automated selloffs) xảy ra.
Điều khác cần xem là khối lượng. Với nội dung deepfake ngày càng rẻ để tạo, nó nêu khả năng lượng lớn nội dung deepfake cùng một người, tập trung truyền đạt cùng thông điệp giả với giọng điệu, địa điểm, phong cách khác nhau.
4. Phối Nhận Vật Liệu Thật
Là phần mở rộng của vật liệu gian lận, bạn phải xem xét deepfake sẽ trở nên cực kỳ thực tế. Đến mức mọi người sẽ bắt đầu nghi ngờ video có thật hay không, bất kể nội dung.
Nếu ai đó phạm tội và bằng chứng duy nhất là video, gì ngăn họ nói "Đây là deepfake, bằng chứng giả"? Ngược lại, gieo bằng chứng video deepfake để ai đó tìm thấy thì sao?
5. Người Lãnh Đạo Tư Tưởng Và Liên Hệ Xã Hội Giả
Đã có một số trường hợp deepfake giả mạo người lãnh đạo tư tưởng. Hồ sơ LinkedIn và Twitter chi tiết vai trò cao cấp trong tổ chức chiến lược, nhưng những người này không tồn tại và có thể được tạo bằng công nghệ deepfake.
Điều đó nói, đây không phải vấn đề riêng của deepfake. Từ thời sơ khai, chính phủ, mạng lưới gián điệp, và tập đoàn đã dùng hồ sơ giả và nhân vật giả để thu thập thông tin, đẩy chương trình, và thao túng.
6. Lừa Đảo Phishing, Kỹ Thuật Xã Hội, Và Lừa Đảo Khác
Kỹ thuật xã hội (social engineering) đã là vấn đề về bảo mật. Người muốn tin người khác. Đó là bản năng. Nhưng niềm tin đó có thể dẫn đến vi phạm bảo mật, đánh cắp dữ liệu, và hơn nữa. Kỹ thuật xã hội thường yêu cầu tiếp xúc cá nhân, qua điện thoại, cuộc gọi video, v.v.
Giả sử ai đó dùng công nghệ deepfake bắt chước giám đốc để lấy mã bảo mật hoặc thông tin nhạy cảm khác. Trong trường hợp đó, nó có thể dẫn đến tràn lan lừa đảo deepfake.
Cách Nhận Diện Và Phát Hiện Deepfake
Với deepfake tăng chất lượng, tìm ra cách nhận diện deepfake quan trọng. Trong giai đoạn đầu, có một số dấu hiệu đơn giản: ảnh mờ, hỏng video và hiện tượng giả tạo (artifacts), và khuyết điểm khác. Tuy nhiên, các dấu hiệu báo động này đang giảm trong khi chi phí dùng công nghệ giảm nhanh.
Không có cách hoàn hảo phát hiện nội dung deepfake, nhưng đây là 4 mẹo tiện lợi:
- Chi tiết. Tùy tốt deepfake đến đâu, vẫn có phần nó vật lộn. Đặc biệt, chi tiết mảnh trong video, như chuyển động tóc, chuyển động mắt, cấu trúc má và chuyển động khi nói, và biểu cảm khuôn mặt không tự nhiên. Chuyển động mắt là dấu hiệu lớn. Mặc dù deepfake hiện có thể nháy mắt hiệu quả (ngày đầu đây là dấu hiệu lớn), chuyển động mắt vẫn là vấn đề.
- Cảm xúc. Gắn liền với chi tiết là cảm xúc. Nếu ai đó phát biểu mạnh mẽ, khuôn mặt sẽ hiển thị loạt cảm xúc khi trình bày chi tiết. Deepfake không thể truyền đạt cùng độ sâu cảm xúc như người thật.
- Không nhất quán. Chất lượng video ở đỉnh cao. Điện thoại trong túi bạn có thể quay và truyền 4K. Nếu lãnh đạo chính trị phát biểu, đó là trước phòng đầy thiết bị ghi hình hàng đầu. Do đó, chất lượng ghi hình kém, cả hình lẫn âm thanh, là sự không nhất quán đáng chú ý.
- Nguồn. Video có xuất hiện trên nền tảng đã xác thực không? Mạng xã hội dùng xác thực đảm bảo người nổi tiếng toàn cầu không bị bắt chước. Chắc chắn, hệ thống vẫn có vấn đề. Nhưng kiểm tra video đặc biệt tồi tệ đang phát hoặc được lưu trữ ở đâu sẽ giúp bạn tìm ra nó thật hay giả. Bạn cũng có thể thử tìm kiếm ảnh ngược (reverse image search) để tiết lộ các vị trí khác ảnh xuất hiện trên internet.
Công Cụ Nhận Diện Và Ngăn Chặn Deepfake
Bạn không đơn độc trong cuộc chiến phát hiện deepfake. Một số công ty công nghệ lớn đang phát triển công cụ phát hiện deepfake, trong khi các nền tảng khác采取 bước chặn deepfake vĩnh viễn.
Ví dụ, công cụ phát hiện deepfake của Microsoft, Microsoft Video Authenticator, sẽ phân tích trong giây lát, thông báo cho người dùng về độ xác thực (xem GIF dưới đây làm ví dụ). Cùng lúc, Adobe cho phép bạn ký số字 nội dung để bảo vệ khỏi thao túng.
Nền tảng như Facebook và Twitter đã cấm deepfake độc hại (deepfake như Will Smith trong The Matrix vẫn được phép), trong khi Google đang làm công cụ phân tích text-to-speech chống đoạn audio giả.
Nếu bạn muốn cải thiện kỹ năng phát hiện phương tiện giả, xem danh sách kiểm tra phát hiện giả của chúng tôi để học và thực hành.
Deepfake Đang Đến - Và Chúng Đang Tốt Hơn
Thực tế là kể từ khi deepfake trending vào năm 2018, việc sử dụng chính của chúng là bóc lột phụ nữ. Dù tạo porn giả dùng khuôn mặt người nổi tiếng hay cởi đồ người trên mạng xã hội, tất cả tập trung vào khai thác, thao túng, và hạ thấp phụ nữ trên toàn cầu.
Không nghi ngờ một cuộc nổi dậy deepfake đang hiện hữu trên đường chân trời. Sự trỗi dậy của công nghệ này đe dọa công chúng, nhưng ít biện pháp kháng lại hành trình tiến tới của nó.