Có vẻ như một cái gì đó từ 1984 của George Orwell :một người đàn ông gửi e-mail cá nhân và thấy mình bị bắt vì nó. E-mail đã không bị chặn bởi một cảnh sát điều tra; người đàn ông thậm chí không bị nghi ngờ trước khi bị bắt. Email được phân tích bởi một hệ thống tự động mà ít người biết đến, và email vi phạm đã được các cơ quan chức năng chú ý.
Đây có phải là một thế giới mà bạn muốn sống không? Thế giới đó đã có ở đây — và hệ thống đó đã được sử dụng để bắt một gã gửi nội dung khiêu dâm trẻ em.
Bị bắt bởi một tay đỏ
Vậy nó đã xảy ra như thế nào? John Skillern đang gửi những bức ảnh không đứng đắn về trẻ em cho một người bạn, và ngay sau đó bị bắt. Điều mà anh ta không biết là Google tự động quét các hình ảnh được gửi qua Gmail và so sánh chúng với cơ sở dữ liệu về nội dung khiêu dâm trẻ em đã được phục hồi; nếu một trận đấu được tìm thấy, cảnh sát sẽ được thông báo. Trong trường hợp này, sau đó, họ nhận được lệnh khám xét máy tính và máy tính bảng của anh ta, nơi họ tìm thấy các hình ảnh khiêu dâm khác của trẻ em.
Luật pháp Hoa Kỳ yêu cầu bất kỳ công ty nào phát hiện ra bằng chứng khiêu dâm trẻ em phải báo cảnh sát ngay lập tức. Điều này theo truyền thống được áp dụng cho các nhà phát triển ảnh, dịch vụ lưu trữ ảnh và các công ty liên quan đến nhiếp ảnh khác, nhưng nó áp dụng cho tất cả các công ty, bao gồm cả các công cụ tìm kiếm. Tất nhiên, điều này là tốt - bóc lột tình dục trẻ em là một tội ác ghê tởm, và chúng ta nên ném mọi nguồn lực mà chúng ta có vào nó. Các công ty vui lòng tuân thủ các luật này và nói chung, mọi người hài lòng vì họ.
Nhưng sự tồn tại của công nghệ này khiến một số người lo lắng.
Nó hoạt động như thế nào?
Công nghệ được sử dụng để quét nội dung khiêu dâm trẻ em của Gmail là một phần mềm do Microsoft tạo ra có tên PhotoDNA. Khi một hình ảnh được thêm vào cơ sở dữ liệu PhotoDNA, một hàm băm toán học sẽ được tạo và sử dụng làm mã định danh duy nhất. Sau khi một vài nghìn hình ảnh đã được thêm vào cơ sở dữ liệu, nó thực sự rất tốt trong việc xác định các bức ảnh dựa trên những dấu hiệu nhận dạng này, ngay cả khi những bức ảnh đó đã trải qua những thay đổi nhỏ.
Microsoft đã phát triển PhotoDNA kết hợp với Trung tâm Quốc gia về Trẻ em Mất tích và Bị bóc lột (NCMEC), vì vậy nó đã được định sẵn để chống lại nội dung khiêu dâm trẻ em ngay từ đầu. Và, rõ ràng, nó đang hoạt động. Nó bắt được Skillern và nó được Bing, OneDrive, Facebook, Twitter và Gmail, cùng những người khác tiềm năng sử dụng.
Thật không may, PhotoDNA chỉ có thể xác định các ảnh đã được thêm vào cơ sở dữ liệu, có nghĩa là việc giao dịch các hình ảnh mới sẽ không kích hoạt cảnh báo. Nhưng với số lượng tài liệu bất hợp pháp đã có, nó có thể cực kỳ hữu ích trong việc xác định những kẻ khiêu dâm trẻ em tiềm năng.
Có phải là Bí mật không?
Kể từ khi thông báo về việc Skillern bị bắt, đã có rất nhiều cuộc thảo luận về việc liệu việc triển khai PhotoDNA của Gmail có phải là mối quan tâm về quyền riêng tư hay không. Gmail phân phát quảng cáo cho người dùng và quét nội dung của các e-mail cá nhân để xác định quảng cáo nào sẽ hiển thị. Google khẳng định rằng quá trình quét này được thực hiện ẩn danh và tài khoản sinh viên, doanh nghiệp và chính phủ sẽ không được quét. Những lo ngại về quyền riêng tư và pháp lý gần đây đã khiến Google lùi lại quá trình quét của họ một chút, nhưng việc tiết lộ việc sử dụng PhotoDNA khiến nhiều người đặt câu hỏi rằng liệu chúng ta có đang nắm được toàn bộ câu chuyện hay không.
Mặc dù Google chưa bao giờ phủ nhận việc họ quét thư Gmail để tìm nội dung khiêu dâm trẻ em, nhưng họ lại rất kín tiếng về việc này. Mặc dù mọi người chắc chắn ủng hộ các biện pháp chống nội dung khiêu dâm trẻ em, nhưng ý tưởng cho rằng Google đang quét các hình ảnh trong e-mail của họ có thể không thành công như vậy. Nhưng bây giờ tin tức đã được đưa ra, và chúng ta phải tự hỏi liệu Google có đang tiến hành những gì họ đang làm với e-mail của chúng ta hay không. Chúng tôi biết rằng e-mail vốn dĩ không an toàn, nhưng việc tìm thấy bằng chứng về sự giám sát của Google là điều đáng kinh ngạc.
Gmail Panopticon
Vào cuối thế kỷ 18, Jeremy Bentham đã phát triển các kế hoạch cho một tòa nhà được gọi là panopticon, trong đó tất cả học sinh, trẻ em hoặc — dễ áp dụng nhất — tù nhân trong một toà nhà có thể được giám sát bởi một người canh gác duy nhất. Không ai trong số các tù nhân có thể biết liệu họ có bị theo dõi hay không, vì vậy họ phải cho rằng mình đang bị giám sát, khuyến khích họ tiết chế hành vi để không gây chú ý cho bản thân.
Đó có phải là những gì Gmail đang dẫn dắt chúng ta không? Hiện tại, họ đang quét hình ảnh để tìm nội dung khiêu dâm trẻ em. Tuy nhiên, như một số nhà báo đã lưu ý, Google bị ràng buộc bởi luật pháp của các quốc gia mà nó hoạt động, có nghĩa là các chính phủ có thể yêu cầu họ chuyển các loại thông tin khác được tìm thấy trong bản quét của họ. Điều này nghe có vẻ hơi dài, nhưng bằng cách chấp nhận các điều khoản và điều kiện của Gmail, chúng tôi đã trao cho Google rất nhiều quyền lực để thực hiện những gì họ muốn với dữ liệu của chúng tôi.
Và thật khó để tưởng tượng rằng công nghệ này sẽ được sử dụng để truy lùng thủ phạm của các tội ác khác? Như hiện tại, Google khẳng định rằng ai đó có thể lập kế hoạch trắng trợn cho một loại tội phạm khác qua Gmail và họ sẽ không gặp bất kỳ rủi ro nào. Nhưng trường hợp đó sẽ xảy ra trong bao lâu? Google hiện đang hợp tác với cơ quan thực thi pháp luật bằng cách quét các tin nhắn riêng tư của chúng tôi. Giờ đây, công nghệ này đã được sử dụng để bắt tội phạm và đã được công bố trước công chúng, nên có một mối liên kết rất bền chặt ở đó.
Google sẽ quét gì tiếp theo? Mối đe dọa khủng bố? Âm mưu giết người? Mua sắm? Ý kiến khác với ý kiến được đa số chính trị ủng hộ? Các dấu hiệu về ý định ngừng sử dụng các dịch vụ của Google? Chúng ta có thể thấy một bước ngoặt lớn trong tương lai gần được thúc đẩy bởi nhu cầu ngày càng tăng từ các chính phủ. Và không chỉ của chúng ta — những chính phủ đàn áp hơn sẽ yêu cầu Google từ bỏ điều gì? Những e-mail chứa bằng chứng về tình dục đồng giới? Bất đồng chính kiến? Nhiệm vụ nhân đạo?
Chúng tôi không biết. Và thật khó để nói Google sẽ phản hồi như thế nào.
Và sẽ rất khó để nói không sau khi họ cho thấy rằng việc quét của họ có thể bắt được những kẻ khiêu dâm trẻ em. Ai sẽ yêu cầu họ ngừng sử dụng công nghệ này khi họ chắc chắn sẽ được hỏi "Vậy bạn có ủng hộ nội dung khiêu dâm trẻ em không?" đáp lại? Điều này có thể không quay trở lại — dư luận sẽ khó có thể chống lại một hệ thống truy bắt một số tên tội phạm ghê tởm nhất trên thế giới.
Đây có phải là sự khởi đầu của sự kết thúc quyền riêng tư?
Nếu có một công ty đồng nghĩa với Internet, đó là Google. Và nếu họ đang quét e-mail của chúng tôi, quyền riêng tư trực tuyến có thể sắp kết thúc (ít nhất là trong các kênh chính; sẽ luôn có các tùy chọn khác). Nếu bạn đọc tác phẩm của tôi về Ngày hành động của tôi, bạn sẽ biết rằng tôi e rằng quyền riêng tư đang phải đối mặt với một số cuộc tấn công nghiêm trọng từ một số hướng, cả công ty và chính phủ. Và sự hợp tác này giữa hai bên có thể gây rắc rối cho quyền riêng tư và bảo mật trực tuyến.
Mặc dù tôi không nghĩ rằng chúng tôi đang thấy một động thái có tính toán của Google để cải thiện quan điểm của công chúng về việc quét của họ, nhưng tôi nghĩ họ sẽ cố gắng hết sức để biến điều này thành một điều tích cực. Họ có thể không hy vọng việc quét này thu hút được sự chú ý của công chúng, nhưng có rất nhiều cơ hội ở đây để cho cả thế giới thấy những gì họ có thể làm cho chúng tôi để đổi lấy một số quyền riêng tư của chúng tôi.
Bước tiếp theo mà Google thực hiện để trả lời câu chuyện này sẽ rất đáng kể và tôi mong muốn được theo dõi câu chuyện này để xem họ nói gì về nó. Bạn nghĩ sao? Google có đang vượt quá giới hạn của họ bằng cách quét mọi hình ảnh mà chúng tôi gửi không? Hay bạn vui khi hy sinh một số quyền riêng tư của mình để chống lại nội dung khiêu dâm trẻ em? Bạn có cảm thấy như vậy nếu Google bắt đầu quét các tội phạm khác không? Hoặc nếu các chính phủ bắt đầu yêu cầu họ chuyển một số e-mail nhất định? Có rất nhiều chỗ để tranh cãi và thảo luận ở đây — hãy gọi điện thoại bên dưới và cho chúng tôi biết suy nghĩ của bạn!
Tín dụng hình ảnh:Tất cả các mắt nhìn thấy. Kiểu vẽ nguệch ngoạc (đã chỉnh sửa) qua Shutterstock, Man in black qua Shutterstock, Micah Baldwin qua flickr, DieBuche qua Wikimedia Commons, Robert Scoble qua flickr, Ben Roberts qua flickr.