Nghe giống như chuyện trong 1984 của George Orwell: một người gửi email riêng tư và bị bắt vì nó. Email không bị chặn bởi cảnh sát điều tra; người đó thậm chí không bị nghi ngờ trước khi bị bắt. Email được phân tích bởi hệ thống tự động mà ít người biết, và email vi phạm được đưa đến chú ý cơ quan thực thi pháp luật.
Đó có phải thế giới bạn muốn sống? Thế giới đó đã ở đây – và hệ thống đó được dùng bắt một người gửi nội dung trẻ em khiêu dâm.
Bắt quả tang
Vậy nó xảy ra như thế nào? John Skillern gửi ảnh khiêu dâm trẻ em cho bạn, và sớm bị bắt. Điều anh không biết là Google tự động quét hình ảnh gửi qua Gmail và so sánh với cơ sở dữ liệu khiêu dâm trẻ em đã khôi phục; nếu khớp, cảnh sát được thông báo. Trong trường hợp này, họ sau đó xin lệnh तलाश máy tính và máy tính bảng của anh, tìm thấy ảnh khiêu dâm trẻ em khác.
Luật Mỹ yêu cầu bất kỳ công ty nào phát hiện bằng chứng khiêu dâm trẻ em phải báo cảnh sát ngay. Điều này truyền thống áp dụng cho flusher ảnh, dịch vụ lưu trữ ảnh, và công ty liên quan nhiếp ảnh khác, nhưng áp dụng cho tất cả công ty, bao gồm công cụ tìm kiếm. Tất nhiên, điều này tốt – bóc lột tình dục trẻ em là tội ác tàn bạo, và chúng ta nên dùng mọi nguồn lực chống lại. Công ty vui vẻ tuân thủ luật này, và nói chung mọi người vui vì họ làm vậy.
Nhưng sự tồn tại của công nghệ này khiến một số người lo ngại.
Nó hoạt động như thế nào?
Công nghệ dùng cho quét khiêu dâm trẻ em của Gmail là phần mềm do Microsoft tạo gọi là PhotoDNA. Khi hình ảnh được thêm vào cơ sở dữ liệu PhotoDNA, một hàm băm toán học được tạo và dùng làm định danh duy nhất. Sau khi vài nghìn hình ảnh được thêm, nó trở nên rất giỏi nhận diện ảnh dựa trên các định danh này, ngay cả khi ảnh đã trải qua thay đổi nhỏ.
Microsoft phát triển PhotoDNA cùng Trung tâm Quốc gia cho Trẻ em Mất tích và Bị bóc lột (NCMEC), nên nó từ đầu đã định dùng chống khiêu dâm trẻ em. Và rõ ràng, nó hoạt động. Nó bắt Skillern, và được dùng bởi Bing, OneDrive, Facebook, Twitter, và Gmail, trong số khác.
Thật đáng tiếc, PhotoDNA chỉ nhận diện ảnh đã có trong cơ sở dữ liệu, nghĩa là giao dịch ảnh mới không kích hoạt cảnh báo. Nhưng với lượng vật liệu trái phép đã có, nó cực kỳ hữu ích nhận diện tiềm năng kẻ khiêu dâm trẻ em.
Đây có phải bí mật?
Từ khi tuyên bố bắt Skillern, đã có nhiều thảo luận về việc triển khai PhotoDNA bởi Gmail có phải lo ngại quyền riêng tư không. Gmail hiển thị quảng cáo cho người dùng, và quét nội dung email cá nhân để quyết định quảng cáo nào hiển thị. Google duy trì việc quét này được thực hiện ẩn danh, và tài khoản học sinh, doanh nghiệp, và chính phủ không bị quét. Lo ngại quyền riêng tư và pháp lý gần đây khiến Google lùi lại một chút việc quét, nhưng việc tiết lộ dùng PhotoDNA khiến nhiều người质疑我们是否知道全部故事。
Mặc dù Google chưa bao giờ phủ nhận quét tin nhắn Gmail tìm khiêu dâm trẻ em, họ rất kín miệng về nó. Dù người chắc chắn ủng hộ biện pháp chống khiêu dâm trẻ em, ý tưởng Google quét ảnh trong email có thể không được chấp nhận tốt. Nhưng tin tức đã lộ, và chúng ta phải tự hỏi Google có đang坦诚关于他们对我们的邮件做了什么。我们知道电子邮件本质上是不安全的，但发现Google的监视证据令人不安。
Panopticon Gmail
Cuối thế kỷ 18, Jeremy Bentham phát triển kế hoạch tòa nhà gọi là panopticon, trong đó tất cả học sinh, trẻ em, hoặc – áp dụng nhất – tù nhân trong tòa nhà có thể được giám sát bởi một người canh duy nhất. Không tù nhân nào biết được họ có bị xem hay không, nên phải giả định mình bị giám sát, khuyến khích họ điều chỉnh hành vi để không thu hút sự chú ý.
Đó có phải nơi Gmail dẫn chúng ta đến? Hiện tại, họ quét ảnh tìm khiêu dâm trẻ em. Nhưng, như một số nhà báo nhận ra, Google bị ràng buộc bởi luật pháp các quốc gia họ hoạt động, nghĩa là chính phủ có thể yêu cầu họ bàn giao thông tin khác tìm thấy trong quét. Điều này nghe có vẻ viển vông, nhưng bằng việc chấp nhận điều khoản Gmail, chúng ta đã cho Google nhiều quyền làm gì họ muốn với dữ liệu của chúng ta.
Và có khó tưởng tượng công nghệ này sẽ dùng truy đuổi kẻ phạm tội khác? Hiện tại, Google tuyên bố ai đó có thể công khai lập kế hoạch tội phạm khác qua Gmail và họ không bị rủi ro. Nhưng sẽ kéo dài bao lâu? Google hiện hợp tác với thực thi pháp luật bằng cách quét tin nhắn riêng tư. Bây giờ công nghệ này đã bắt được tội phạm và được công khai, có một liên kết rất mạnh.
Google sẽ quét gì tiếp theo? Đe dọa khủng bố? Âm mưu giết người? Ăn cắp hàng hóa? Ý kiến khác với đa số chính trị? Dấu hiệu ý định ngừng dùng dịch vụ Google? Chúng ta có thể thấy bước ngoặt lớn trong tương lai gần do yêu cầu tăng từ chính phủ. Và không chỉ chính phủ chúng ta – chính phủ đàn áp hơn sẽ yêu cầu Google bàn giao gì? Email chứa bằng chứng đồng tính? Kháng nghị chính trị? Nhiệm vụ nhân đạo?
Chúng ta chỉ không biết. Và khó nói Google sẽ phản ứng ra sao.
Và sẽ khó nói không sau khi họ đã chứng minh quét của họ bắt được kẻ khiêu dâm trẻ em. Ai sẽ yêu cầu họ dừng công nghệ này khi họ chắc chắn sẽ bị hỏi "Vậy bạn ủng hộ khiêu dâm trẻ em?" trong phản ứng? Có thể không có đường về – dư luận sẽ khó đảo ngược chống lại hệ thống bắt được những tội phạm ghê tởm nhất.
Đây có phải khởi đầu của sự kết thúc quyền riêng tư?
Nếu có một công ty đồng nghĩa với Internet, đó là Google. Và nếu họ quét email của chúng ta, quyền riêng tư trực tuyến có thể đang đến hồi kết (ít nhất trong các kênh chính; luôn có lựa chọn khác). Nếu bạn đọc bài của tôi về Ngày Hành động Đừng Theo dõi Chúng Tôi, bạn sẽ biết tôi sợ quyền riêng tư đối mặt tấn công nghiêm trọng từ nhiều hướng, cả công ty và chính phủ. Và sự hợp tác giữa hai bên có thể gây rắc rối cho quyền riêng tư và an ninh trực tuyến.
Mặc dù tôi không nghĩ chúng ta thấy một nước đi có tính toán của Google để cải thiện dư luận về quét của họ, tôi nghĩ họ sẽ cố gắng làm cho đây trở thành điều tích cực. Họ có thể không hy vọng quét này được công chúng chú ý, nhưng đây là cơ hội lớn để cho thế giới thấy họ có thể làm gì cho chúng ta đổi lấy một chút quyền riêng tư.
Bước tiếp theo Google làm để phản ứng chuyện này sẽ rất tiết lộ, và tôi mong theo dõi chuyện này xem họ nói gì. Bạn nghĩ sao? Google có vượt quá giới hạn bằng cách quét mọi ảnh chúng ta gửi? Hay bạn vui vẻ hy sinh quyền riêng tư để chống khiêu dâm trẻ em? Bạn có cảm thấy như vậy nếu Google bắt đầu quét tội phạm khác? Hay nếu chính phủ bắt đầu yêu cầu họ bàn giao email nhất định? Có nhiều chỗ cho tranh cãi và thảo luận – hãy bình luận cho chúng tôi biết suy nghĩ!
Nguồn ảnh: Mắt thấy tất cả. Phong cách doodle (đã chỉnh sửa) qua Shutterstock, Người đàn ông đen qua Shutterstock, Micah Baldwin qua flickr, DieBuche qua Wikimedia Commons, Robert Scoble qua flickr, Ben Roberts qua flickr.