Facebook, Twitter, Microsoft, YouTube tuyên bố sẽ cùng xây dựng cơ sở dữ liệu khổng lồ. Cơ sở dữ liệu chứa hình ảnh và video mạng khủng bố dùng lan truyền tuyên truyền và tuyển người. Cơ sở dữ liệu cảnh báo các công ty khi nội dung trên trang có thể vi phạm điều khoản sử dụng.
Nghe như ý tưởng tốt, phải không?
Chi tiết
Hiện tại chi tiết hơi mơ hồ. Mỗi hình ảnh và video trong cơ sở dữ liệu sẽ có "vân tay số duy nhất" và công ty được cảnh báo khi nội dung đó xuất hiện. Ban đầu, chỉ thêm "hình ảnh và video khủng bố cực đoan và tệ hại nhất" vào cơ sở dữ liệu.
Ý tưởng là hình ảnh và video này có khả năng vi phạm điều khoản sử dụng tất cả nền tảng. Làm quyết định xóa dễ dàng nếu xuất hiện nơi khác. Mỗi công ty quyết định hình ảnh/video nào vào cơ sở dữ liệu. Cũng có quyền quyết định xóa nội dung nếu xuất hiện trên trang.
Đó là hầu hết những gì biết. Twitter hy vọng "hợp tác này dẫn đến hiệu quả lớn hơn khi tiếp tục thi hành chính sách giúp kiềm chế vấn đề toàn cầu nội dung khủng bố trực tuyến." Nhưng thực sự biết ít. Ai quyết định nội dung đóng góp? Công ty thành lập hội đồng xem xét độc lập? Hay chỉ thêm vài thứ khi rảnh?
Tiền sử kém
Quản lý nội dung trực tuyến thực sự khó. Dù tin sai, lạm dụng, video tuyển dụng khủng bố, hoặc hàng loại nội dung xấu khác, có mìn các vấn đề cố hữu. Ai quyết định nhóm nào đủ tiêu chí khủng bố? Quyết định xóa nội dung như thế nào? Công ty chủ động tìm hay dựa vào báo cáo người dùng?
Microsoft, trong tuyên bố nội dung khủng bố trực tuyến, nói:
Khi nội dung khủng bố trên dịch vụ tiêu dùng lưu trữ được báo cáo qua công cụ báo cáo trực tuyến, chúng tôi sẽ xóa.
Cung cấp liên kết biểu mẫu báo cáo nội dung khủng bố. Nhưng ai có khả năng thực sự tìm và dùng biểu mẫu? Cũng nói sẽ "xóa liên kết nội dung liên quan khủng bố từ Bing chỉ khi yêu cầu gỡ bỏ theo luật địa phương."
Điều này đẩy trách nhiệm nơi khác.
Vấn đề trách nhiệm
Quỹ Ranh giới Điện tử (EFF) viết nhiều về khó khăn quản lý loại nội dung này trực tuyến. Bài 2014 chỉ trích kế hoạch Anh bắt buộc ISP chặn "nội dung cực đoan" không minh bạch và trách nhiệm. Tổ chức nhân quyền chỉ trích Pháp, định nghĩa hoạt động khủng bố quá rộng.
Cả Twitter và Facebook tiền sử kém quản lý nội dung trang. Mặc dù Twitter xóa hơn 100.000 tài khoản ISIS và tăng cường kiểm soát nhóm căm thù, tiếng xấu để cực đoan và lạm dụng tràn lan. Facebook cũng vui vẻ tiếp tục cách tiếp tay trong tên tự do ngôn luận.
Tất nhiên, quản lý trách nhiệm này khó. Tôi không nói dễ. Nhưng công ty công nghệ giỏi tách mình khỏi việc công nghệ bị dùng làm gì. Bao gồm lan truyền hình ảnh, video, tuyển dụng khủng bố. Tháng 8/2016, báo cáo Anh nói Facebook, Twitter, YouTube "có ý thức không chống dùng trang web thúc đẩy khủng bố và giết người."
Thành lập cơ sở dữ liệu hình ảnh/video không có vẻ thay đổi điều đó. Khuyến khích họ hành động, nhưng khó tưởng tượng hơn nửa vời.
Có thể thành vấn đề quyền riêng tư?
Vì công ty thêm mục vào cơ sở dữ liệu thủ công sau báo cáo người dùng, không có vẻ cơ hội hình ảnh/video bạn vô tình lọt vào cơ sở dữ liệu. Khuyến khích. Tuy nhiên, tạo cơ sở dữ liệu trung tâm khổng lồ "nội dung xấu" được xác định duy nhất đáng lo ngại.
Largement vì người nắm quyền quyết định gì là "xác". Đặc biệt nếu có can thiệp chính phủ. Bạn có thể là đa số hôm nay, và thiểu số bị bách hại ngày mai. Triển khai công nghệ này làm thay đổi đó đáng sợ hơn.
Tất nhiên, không dấu hiệu công ty dùng cơ sở dữ liệu ngoài việc thi hành lỏng lẻo hướng dẫn điều khoản sử dụng. Nhưng việc tổ chức tư nhân phát triển và triển khai công nghệ này có thể khiến người lo ngại. Chính phủ chắc có công nghệ giám sát mạnh như vậy, nhưng lan truyền có thể báo hiệu công ty sẽ có công cụ thu thập thông tin nhiều hơn tương lai gần.
Nay, không lý do lo quyền riêng tư bị đe dọa bởi cơ sở dữ liệu khủng bố. Nhưng tổ chức quyền riêng tư và vận động nên theo dõi triển khai công nghệ này nơi khác.
Bước tiến?
Tốt thấy công ty công nghệ chủ động về nội dung khủng bố. Nhưng tiền sử đầy thi hành lỏng lẻo và bỏ mặc có ý chí. Công cụ này giúp đảo ngược? Có vẻ không. (Trừ khi tự động hóa, đi kèm cả tá vấn đề khác.) Theo tôi, cơ sở dữ liệu này không thay đổi nhiều, và Twitter, Facebook, Microsoft, YouTube rất có thể thiết kế nó như biện pháp quan hệ công chúng thay vì thực sự làm tốt.
Bạn nghĩ sao? Cơ sở dữ liệu này giúp chống lan truyền nội dung khủng bố trực tuyến? Hay là cử chỉ rỗng để kiếm sự ngưỡng mộ công chúng? Chia sẻ suy nghĩ bình luận!