Trong một thế giới mà danh tính trực tuyến của bạn liên kết trực tiếp với bạn, triển vọng nhân rộng hoàn hảo là điều đáng lo ngại. Nhưng đó chính xác là những gì chúng ta phải đối mặt với sự ra đời của công nghệ deepfake.
Khi công nghệ trở nên rẻ hơn và dễ sử dụng hơn, những nguy cơ của deepfakes là gì? Hơn nữa, làm thế nào bạn có thể phát hiện ra một giao dịch sâu sắc so với giao dịch thực sự?
Deepfake là gì?
Deepfake là tên đặt cho phương tiện truyền thông nơi một người trong video hoặc hình ảnh được thay thế bằng hình ảnh của người khác. Thuật ngữ này là từ ghép của "học sâu" và "giả mạo", đồng thời sử dụng các thuật toán học máy và trí tuệ nhân tạo để tạo ra phương tiện thực tế nhưng vẫn tổng hợp.
Ở mức cơ bản nhất, bạn có thể tìm thấy một khuôn mặt chồng lên một mô hình khác. Ở giai đoạn tồi tệ nhất đang phát triển nhanh chóng của nó, công nghệ deepfake kết hợp những nạn nhân không nghi ngờ vào các video khiêu dâm giả mạo, tin tức giả mạo, trò lừa bịp, v.v.
Bạn có thể đọc thêm về nguồn gốc của công nghệ trong trình giải thích deepfake của chúng tôi.
Mối nguy hiểm của Deepfakes là gì?
Hình ảnh giả đã luôn tồn tại. Tìm ra đâu là giả và đâu là giả là một phần phổ biến của cuộc sống, đặc biệt là sau sự trỗi dậy của các phương tiện truyền thông số hóa. Nhưng các vấn đề mà công nghệ deepfake tạo ra lại khác, mang lại độ chính xác vô song cho các hình ảnh giả mạo và video giả mạo.
Một trong những video deepfake đầu tiên thu hút được nhiều khán giả hơn là việc Jordan Peele đóng giả Barack Obama trong một video thảo luận về vấn đề hiện tại:
Đoạn video có vẻ thô thiển, với một giọng nói lạ và các hiện vật sần sùi trên khuôn mặt được nhân bản. Tuy nhiên, nó minh họa cho công nghệ deepfake.
Hoặc bạn đã bao giờ tự hỏi sẽ như thế nào nếu Will Smith đóng vai Neo trong The Matrix thay vì Keanu Reeves (ý tôi là, ai chưa ?!)? Không còn thắc mắc nữa:
Hai video này không độc hại, mất hàng trăm giờ máy học để biên dịch. Nhưng công nghệ tương tự sẽ có sẵn cho bất kỳ ai có đủ thời gian để học và khả năng tính toán để đi cùng với nó. Rào cản đối với việc sử dụng công nghệ deepfake ban đầu khá cao. Nhưng khi công nghệ được cải thiện và các rào cản gia nhập giảm đáng kể, mọi người nhận thấy việc sử dụng deepfakes là tiêu cực và có hại.
Trước khi chúng ta đi sâu vào mặt tối của deepfakes, đây là Jim Carrey thay thế Jack Nicholson trong The Shining:
1. Tài liệu người lớn giả có người nổi tiếng
Một trong những mối đe dọa chính từ công nghệ deepfake là tài liệu tổng hợp dành cho người lớn, hay còn gọi là phim khiêu dâm deepfake như người ta vẫn biết. Có hàng chục nghìn video người lớn giả mạo có khuôn mặt của những nữ nhân vật nổi tiếng, chẳng hạn như Emma Watson, Natalie Portman và Taylor Swift.
Tất cả đều sử dụng thuật toán máy học deepfake để ghép khuôn mặt người nổi tiếng vào cơ thể của một nữ diễn viên người lớn và tất cả đều thu hút hàng chục triệu lượt xem trên nhiều trang web nội dung người lớn.
Tuy nhiên, không có trang web nào trong số này làm bất cứ điều gì về ảnh sâu của người nổi tiếng.
Giorgio Patrini, Giám đốc điều hành và nhà khoa học trưởng tại Sensity, một công ty phân tích và phát hiện deepfake, cho biết:“Cho đến khi có lý do chính đáng để họ cố gắng loại bỏ và lọc chúng, thì sẽ không có gì xảy ra. "Mọi người sẽ vẫn tự do tải lên loại tài liệu này mà không có bất kỳ hậu quả nào lên các trang web được hàng trăm triệu người xem này."
Các video này mang tính chất bóc lột và không có nạn nhân như một số người sáng tạo deepfake cáo buộc.
2. Tài liệu người lớn giả mạo có người bình thường
Còn gì tệ hơn phim khiêu dâm tổng hợp có người nổi tiếng? Đúng vậy:chất liệu giả dành cho người lớn có những phụ nữ không nghi ngờ. Một nghiên cứu của Sensity đã phát hiện ra một bot deepfake trên ứng dụng nhắn tin xã hội, Telegram, đã tạo ra hơn 100.000 hình ảnh khỏa thân deepfake. Nhiều hình ảnh bị đánh cắp từ các tài khoản mạng xã hội, có bạn bè, bạn gái, vợ, mẹ, v.v.
Bot là một tiến bộ lớn trong công nghệ deepfake, vì người tải lên hình ảnh không cần kiến thức hiện có về deepfake, máy học hoặc AI. Đây là một quá trình tự động yêu cầu một hình ảnh duy nhất. Hơn nữa, bot Telegram dường như chỉ hoạt động với hình ảnh của phụ nữ và các gói đăng ký cao cấp (nhiều hình ảnh hơn, hình mờ đã bị xóa) có giá rất rẻ.
Giống như những bức ảnh sâu về người nổi tiếng, những bức ảnh sâu về bot Telegram mang tính chất bóc lột, lạm dụng và vô đạo đức. Họ có thể dễ dàng tìm thấy hộp thư đến của chồng, đối tác, thành viên gia đình, đồng nghiệp hoặc sếp, phá hủy cuộc sống trong quá trình này. Khả năng tống tiền và các hình thức tống tiền khác là rất cao và nó làm gia tăng mối đe dọa từ các vấn đề hiện có, chẳng hạn như khiêu dâm trả thù.
Việc đăng deepfakes trên Telegram cũng tạo ra một vấn đề khác. Telegram là một dịch vụ nhắn tin tập trung vào quyền riêng tư và không can thiệp quá nhiều vào người dùng. Nó có chính sách xóa bot khiêu dâm và các bot khác liên quan đến tài liệu người lớn nhưng không làm gì trong trường hợp này.
3. Chất liệu Hoax
Bạn đã thấy Jordan Peele đóng vai Obama. Trong video đó, anh ta đang cảnh báo về sự nguy hiểm của những trò chơi sâu. Một trong những lo lắng chính liên quan đến công nghệ deepfake là ai đó sẽ tạo và xuất bản một video thực tế đến mức dẫn đến một thảm kịch nào đó.
Ở thời điểm cuối cùng của quy mô, mọi người nói rằng nội dung video deepfake có thể gây ra một cuộc chiến. Nhưng cũng có những hậu quả lớn khác. Ví dụ:một video deepfake có cảnh một công ty lớn hoặc Giám đốc điều hành ngân hàng đưa ra một tuyên bố gây tổn hại có thể gây ra sự sụp đổ của thị trường chứng khoán. Một lần nữa, nó là cực đoan. Nhưng những người thực có thể kiểm tra và xác minh video, trong khi thị trường toàn cầu phản ứng tức thì với tin tức và tình trạng bán tự động xảy ra.
Điều khác cần xem xét là khối lượng. Với việc tạo ra nội dung deepfake ngày càng rẻ, điều này làm tăng khả năng có một lượng lớn nội dung deepfake của cùng một người, tập trung vào việc truyền tải cùng một thông điệp giả bằng các tông màu, địa điểm, phong cách khác nhau và hơn thế nữa.
4. Từ chối tài liệu thực
Là một phần mở rộng của tài liệu chơi khăm, bạn phải cân nhắc rằng những trò lừa bịp sẽ trở nên vô cùng thực tế. Nhiều đến mức mọi người sẽ bắt đầu đặt câu hỏi liệu video có thật hay không, bất kể nội dung như thế nào.
Nếu một người nào đó phạm tội và bằng chứng duy nhất là video, thì làm gì để ngăn họ nói, "Đó là lời nói sâu sắc, đó là bằng chứng giả"? Ngược lại, việc trồng bằng chứng video deepfake để ai đó tìm thấy thì sao?
5. Các nhà lãnh đạo tư tưởng giả mạo và các mối liên hệ xã hội
Đã có một số trường hợp liên quan đến nội dung deepfake đóng vai trò là nhà lãnh đạo tư tưởng. Hồ sơ trên LinkedIn và Twitter trình bày chi tiết các vai trò cấp cao trong các tổ chức chiến lược, tuy nhiên những người này không tồn tại và có khả năng được tạo ra bằng công nghệ deepfake.
Điều đó nói rằng, đây không phải là một vấn đề cụ thể. Kể từ buổi bình minh, các chính phủ, mạng lưới gián điệp và các tập đoàn đã sử dụng hồ sơ và cá tính giả để thu thập thông tin, thúc đẩy chương trình nghị sự và thao túng .
6. Lừa đảo lừa đảo, Kỹ thuật xã hội và các trò lừa đảo khác
Kỹ thuật xã hội đã là một vấn đề khi nói đến bảo mật. Mọi người muốn tin tưởng người khác. Nó nằm trong bản chất của chúng ta. Nhưng sự tin tưởng đó có thể dẫn đến vi phạm bảo mật, đánh cắp dữ liệu, v.v. Kỹ thuật xã hội thường yêu cầu liên hệ cá nhân, có thể là qua điện thoại, sử dụng cuộc gọi điện video, v.v.
Giả sử ai đó có thể sử dụng công nghệ deepfake để bắt chước giám đốc để có quyền truy cập vào mã bảo mật hoặc thông tin nhạy cảm khác. Trong trường hợp đó, nó có thể dẫn đến vô số các trò gian lận.
Cách phát hiện và phát hiện Deepfakes
Với việc chất lượng ngày càng tăng, việc tìm ra cách phát hiện ra món ăn sâu là điều quan trọng. Trong những ngày đầu tiên, có một số thông tin đơn giản:hình ảnh mờ, video bị lỗi và tạo tác, và các điểm không hoàn hảo khác. Tuy nhiên, những vấn đề về câu chuyện này đang giảm xuống trong khi chi phí sử dụng công nghệ đang giảm nhanh chóng.
Không có cách nào hoàn hảo để phát hiện nội dung deepfake, nhưng đây là bốn mẹo hữu ích:
- Chi tiết . Dù công nghệ deepfake đang trở nên tốt như thế nào, nó vẫn còn những điểm yếu mà nó phải đối mặt. Đặc biệt là các chi tiết nhỏ trong video, chẳng hạn như chuyển động của tóc, chuyển động của mắt, cấu trúc má và chuyển động khi nói cũng như biểu cảm khuôn mặt không tự nhiên. Chuyển động của mắt là một yếu tố quan trọng. Mặc dù deepfakes bây giờ có thể chớp mắt hiệu quả (trong những ngày đầu, đây là một điều quan trọng), chuyển động của mắt vẫn còn là một vấn đề.
- Cảm xúc . Ràng buộc vào chi tiết là cảm xúc. Nếu ai đó đang đưa ra một tuyên bố mạnh mẽ, khuôn mặt của họ sẽ hiển thị một loạt cảm xúc khi họ truyền tải các chi tiết. Deepfakes không thể mang lại cảm xúc sâu sắc như người thật.
- Không nhất quán . Chất lượng video cao nhất mọi thời đại. Điện thoại thông minh trong túi của bạn có thể ghi và truyền ở 4K. Nếu một nhà lãnh đạo chính trị đang đưa ra một tuyên bố, thì đó là trước một căn phòng có đầy đủ các thiết bị ghi âm cấp cao nhất. Do đó, chất lượng ghi âm kém, cả về hình ảnh và âm thanh, là một điểm mâu thuẫn đáng chú ý.
- Nguồn . Video có xuất hiện trên nền tảng đã được xác minh không? Các nền tảng truyền thông xã hội sử dụng xác minh để đảm bảo những người có thể nhận biết trên toàn cầu không bị bắt chước. Chắc chắn, có vấn đề với hệ thống. Nhưng việc kiểm tra xem một video đặc biệt nghiêm trọng đang phát trực tuyến từ đâu hoặc được lưu trữ sẽ giúp bạn biết được video đó có thật hay không. Bạn cũng có thể thử thực hiện tìm kiếm hình ảnh ngược để hiển thị các vị trí khác nơi hình ảnh được tìm thấy trên internet.
Công cụ phát hiện và ngăn chặn sâu
Bạn không đơn độc trong cuộc chiến chống lại những trò lừa bịp phát hiện. Một số công ty công nghệ lớn đang phát triển các công cụ để phát hiện deepfake, trong khi các nền tảng khác đang thực hiện các bước để chặn deepfake vĩnh viễn.
Ví dụ:công cụ phát hiện deepfake của Microsoft, Microsoft Video Authenticator, sẽ phân tích trong vòng vài giây, thông báo cho người dùng về tính xác thực của nó (xem ảnh GIF bên dưới để làm ví dụ). Đồng thời, Adobe cho phép bạn ký điện tử nội dung để bảo vệ nội dung khỏi bị thao túng.
Các nền tảng như Facebook và Twitter đã cấm các trò chơi sâu độc hại (những trò chơi sâu như Will Smith trong The Matrix vẫn là trò chơi công bằng), trong khi Google đang làm việc trên một công cụ phân tích văn bản thành giọng nói để chống lại các đoạn âm thanh giả mạo.
Nếu bạn muốn nâng cao kỹ năng phát hiện phương tiện giả mạo của mình, hãy xem danh sách các bài kiểm tra phát hiện giả mạo của chúng tôi để phát hiện và học hỏi.
Deepfakes sắp ra mắt — Và họ đang trở nên tốt hơn
Sự thật của vấn đề là kể từ khi deepfakes trở thành xu hướng chính vào năm 2018, mục đích chính của chúng là lạm dụng phụ nữ. Cho dù đó là tạo phim khiêu dâm giả bằng cách sử dụng khuôn mặt của người nổi tiếng hay lột quần áo của ai đó trên mạng xã hội, tất cả đều tập trung vào việc khai thác, thao túng và hạ thấp phụ nữ trên khắp thế giới.
Không còn nghi ngờ gì nữa, một cuộc nổi dậy của deepfakes đang nằm trên đường chân trời. Sự phát triển của công nghệ như vậy gây nguy hiểm cho công chúng, nhưng có rất ít sự lựa chọn để ngăn chặn bước tiến của nó.