Với đủ nguồn hình ảnh, không khó để biến Jordan Peele thành Tổng thống Obama, Jimmy Fallon thành John Oliver hoặc Jon Snow thành người phát ngôn cho những người hâm mộ Game of Thrones thất vọng. Lúc đầu, bắt sâu những bức ảnh sâu không quá khó - ngay cả những bức ảnh đẹp nhất cũng có quà tặng về hình ảnh như làm mờ, biến dạng và những khác biệt trên khuôn mặt khiến chúng có vẻ như bị “tắt”.
Tuy nhiên, đây là một trò chơi mèo vờn chuột và có vẻ như ngay sau khi chúng tôi học được một phương pháp để phát hiện lỗi sâu, thế hệ tiếp theo sẽ sửa lỗi. Để chống lại điều đó, có giải pháp đáng tin cậy nào để tìm ra video nào đang cố lừa chúng ta không?
Các manh mối trực quan
Đồ tạo tác không chỉ là những thứ Indiana Jones đặt trong viện bảo tàng - chúng còn là những sai lệch nhỏ để lại sau khi một hình ảnh hoặc video đã được xử lý. Ở những vết lõm ban đầu, chúng thường có thể bị bắt gặp bằng mắt người và những vết sâu xấu vẫn có thể có một vài dấu hiệu cảnh báo, chẳng hạn như làm mờ xung quanh các cạnh, khuôn mặt lệch, hai lông mày, rối mắt hoặc cảm giác nhìn chung là “không tự nhiên” về cách khuôn mặt phù hợp .
Tuy nhiên, đối với hầu hết các phần, các kỹ thuật hiện đã được cải thiện đến mức những tạo tác này chỉ hiển thị với các thuật toán khác thông qua dữ liệu video và kiểm tra mọi thứ ở cấp độ pixel. Một số người trong số họ có thể trở nên khá sáng tạo, chẳng hạn như một kỹ thuật kiểm tra xem hướng của mũi có khớp với hướng của khuôn mặt hay không. Sự khác biệt là quá nhỏ để con người có thể nhận ra, nhưng máy móc hóa ra lại khá tuyệt vời.
manh mối sinh trắc học
Trong một thời gian ngắn, có vẻ như chìa khóa để làm sáng tỏ những bức ảnh sâu là kiểu chớp mắt thiếu tự nhiên của chúng do sự khan hiếm tương đối của các hình ảnh nguồn "nhắm mắt". Tuy nhiên, không mất nhiều thời gian để thế hệ tiếp theo của công nghệ deepfake kết hợp chớp mắt tốt hơn, nhanh chóng làm giảm hiệu quả của kỹ thuật đó.
Tuy nhiên, các chỉ báo sinh trắc học khác vẫn chưa được giải mã hoàn toàn, giống như các câu hỏi kỳ quặc mà các thuật toán không thể dễ dàng tự động hóa thành một bản deepfake vì chúng yêu cầu một số hiểu biết theo ngữ cảnh về ngôn ngữ đang được sử dụng. Những thói quen nhỏ như chớp mắt nhanh khi bạn ngạc nhiên hoặc nhướng mày khi bạn đặt câu hỏi, có thể được deepfake chọn và sử dụng, nhưng không nhất thiết phải đúng lúc vì chúng không thể (chưa) tự động tìm ra khi nào triển khai các phong trào đó.
AI có thể đọc nhịp tim bằng hình ảnh video có rất nhiều ứng dụng ngoài khả năng phát hiện deepfake, nhưng việc tìm kiếm các chuyển động định kỳ và thay đổi màu sắc báo hiệu nhịp tim có thể giúp xác định những kẻ mạo danh do AI tạo ra. Món quà rõ ràng nhất là khi một món ăn sâu không có nhịp tim, nhưng những món ăn sâu thường có xung. Mặc dù vậy, những bất thường (như các bộ phận khác nhau trên khuôn mặt hiển thị nhịp tim khác nhau) vẫn có thể giúp xác định tình trạng sâu.
Các dự án AI
Rất nhiều tên tuổi lớn đang rất quan tâm đến việc giải quyết vấn đề deepfake. Facebook, Google, MIT, Oxford, Berkeley, và nhiều công ty khởi nghiệp và nhà nghiên cứu khác đang giải quyết vấn đề này bằng cách đào tạo trí tuệ nhân tạo để phát hiện video giả bằng các phương pháp được liệt kê ở trên, trong số các phương pháp khác.
Một điều mà cả Facebook và Google đang làm là tạo ra một tập dữ liệu về các video chất lượng cao về các diễn viên đang làm những việc, sau đó họ sẽ sử dụng để tạo ra các bức ảnh sâu. AI được đào tạo về những thứ này sau đó có thể tìm ra các dấu hiệu nhận biết của deepfakes là gì và được giao nhiệm vụ phát hiện chúng.
Tất nhiên, điều này chỉ hoạt động miễn là các nhà nghiên cứu tiếp tục tạo ra deepfake bằng cách sử dụng công nghệ cập nhật nhất, có nghĩa là sẽ luôn có một chút độ trễ giữa các thủ thuật deepfake mới nhất được phát hiện và các thuật toán này có thể bắt được chúng. Tuy nhiên, với bất kỳ sự may mắn nào, các thí nghiệm sử dụng chuột thực tế để xác định bánh sâu sẽ thành công và mang lại cho chúng ta lợi thế.
Xác thực
Tuy nhiên, các công nghệ phát hiện không phải là câu trả lời hoàn chỉnh cho các trò chơi sâu vì chúng có thể sẽ không bao giờ có tỷ lệ thành công 100%. Deepfakes đã dành một ít thời gian và tiền bạc để đầu tư vào chúng có thể sẽ vượt qua rất nhiều bài kiểm tra đánh hơi và các phương pháp AI hiện tại. Và hãy nhớ cách hoạt động của Internet:ngay cả khi những hàng giả này bị bắt, chúng vẫn có khả năng được tuần hoàn lại và được một số người tin tưởng.
Đó là lý do tại sao điều quan trọng là phải có một số hình thức cơ chế xác minh - một số bằng chứng về video nào là video gốc hoặc thứ gì đó có thể cho biết video đã được sửa đổi hay chưa. Đó là những gì các công ty như Factom, Ambervideo và Axiom đang thực hiện bằng cách mã hóa dữ liệu về video vào các blockchains bất biến.
Ý tưởng cơ bản đằng sau rất nhiều dự án này là dữ liệu có trong tệp video hoặc được tạo bởi một máy ảnh nhất định có thể được sử dụng để tạo chữ ký duy nhất sẽ thay đổi nếu video bị giả mạo. Cuối cùng, các video được tải lên phương tiện truyền thông xã hội có thể đi kèm với tùy chọn tạo mã xác thực mà người tải lên ban đầu có thể đăng ký trên blockchain để chứng minh rằng họ là chủ sở hữu video ban đầu.
Tất nhiên, các giải pháp này có một loạt vấn đề riêng, chẳng hạn như mã hóa video thay đổi dữ liệu trong tệp và thay đổi chữ ký mà nội dung video không thực sự thay đổi hoặc chỉnh sửa video hợp pháp làm rối chữ ký. Tuy nhiên, trong các tình huống đặt cược cao, chẳng hạn như các giao dịch thương mại trong đó hình ảnh được sử dụng để xác minh việc phân phối hoặc nhận hỗ trợ của nhà đầu tư, việc có một lớp xác thực như thế này có thể giúp ngăn chặn gian lận liên quan đến deepfake.
Deepfakes có nguy hiểm hơn Photoshop không?
Tại thời điểm này, tất cả chúng ta chỉ cho rằng hình ảnh có thể không có thật vì chúng ta hoàn toàn nhận thức được rằng công nghệ tồn tại để làm cho hầu hết mọi thứ trông giống thật trong một hình ảnh tĩnh. Cuối cùng, chúng ta có thể bắt đầu tiếp cận các video với cùng một kiểu hoài nghi vì việc làm giả chúng trở nên dễ dàng và thuyết phục như Photoshop hiện đang thực hiện chỉnh sửa hình ảnh. Tuy nhiên, ngay cả khi có nhận thức chung, bạn cũng dễ dàng hình dung ra rất nhiều sự cố trong đời thực bắt đầu bằng một chuyến đi sâu chất lượng cao, đúng thời gian trong tương lai không xa.