Tháng 8 năm 2021, Apple tiết lộ kế hoạch quét iPhone tìm hình ảnh lạm dụng tình dục trẻ em. Hành động nhận được sự vỗ tay từ nhóm bảo vệ trẻ em nhưng gây lo ngại cho chuyên gia quyền riêng tư và an ninh rằng tính năng có thể bị lạm dụng.
Apple ban đầu tính năng đưa công nghệ quét CSAM (Child Sexual Abuse Material - Vật liệu lạm dụng tình dục trẻ em) vào iOS 15; thay vào đó, họ đã trì hoãn vô thời hạn việc triển khai để thu thập phản hồi trước khi phát hành chính thức.
Vậy tại sao tính năng phát hiện CSAM trở thành đề tài tranh luận gay gắt, và điều gì khiến Apple trì hoãn triển khai?
Tính năng quét ảnh của Apple làm gì?
Apple công bố triển khai tính năng quét ảnh với hy vọng chống lạm dụng tình dục trẻ em. Tất cả ảnh trong thiết bị của người dùng Apple sẽ được quét tìm nội dung pedophilia (dâm ô với trẻ em) bằng thuật toán "NeuralHash" do Apple tạo ra.
Ngoài ra, bất kỳ thiết bị Apple nào được trẻ em sử dụng sẽ có tính năng an toàn tự động làm mờ ảnh người lớn nếu trẻ nhận được, và người dùng sẽ được cảnh báo hai lần nếu cố gắng mở chúng.
Bên cạnh việc giảm thiểu tiếp xúc nội dung người lớn, nếu phụ huynh đăng ký thiết bị con cái sở hữu để bảo vệ thêm, phụ huynh sẽ được thông báo nếu trẻ nhận được nội dung nhạy cảm từ bất kỳ ai trực tuyến.
Đọc thêm: Những gì bạn cần biết về Bảo vệ an toàn trẻ em của Apple
Đối với người lớn dùng Siri tìm kiếm bất kỳ thứ gì quyến rũ trẻ em, Siri sẽ không thực hiện tìm kiếm đó và gợi ý các lựa chọn khác.
Dữ liệu từ bất kỳ thiết bị nào chứa 10 ảnh trở lên bị thuật toán coi là đáng ngờ sẽ được giải mã và xem xét bởi con người.
Nếu những ảnh đó hoặc bất kỳ ảnh nào khác trong thiết bị khớp với bất kỳ thứ gì từ cơ sở dữ liệu do Trung tâm Quốc gia cho Trẻ em Mất tích và Bị bóc lột cung cấp, nó sẽ được báo cáo cho cơ quan chức năng và tài khoản người dùng sẽ bị khóa.
Các lo ngại chính liên quan đến tính năng quét ảnh
Tính năng phát hiện CSAM本来将在2021年9月随iOS 15发布上线，但在面对广泛的抗议声中，Apple决定花更多时间收集反馈并改进此功能。以下是Apple关于延迟的完整声明：
"Tháng trước chúng tôi công bố kế hoạch cho các tính năng nhằm giúp bảo vệ trẻ em khỏi kẻ săn mồi dùng công cụ giao tiếp để tuyển mộ và bóc lột, và hạn chế lan truyền Vật liệu Lạm dụng Tình dục Trẻ em.
Dựa trên phản hồi từ khách hàng, nhóm vận động, nhà nghiên cứu và những người khác, chúng tôi quyết định dành thêm thời gian trong những tháng tới để thu thập ý kiến và cải tiến trước khi phát hành các tính năng an toàn trẻ em cực kỳ quan trọng này".
Gần một nửa lo ngại liên quan đến tính năng quét ảnh của Apple xoay quanh quyền riêng tư; phần còn lại bao gồm độ chính xác có thể của thuật toán và lạm dụng tiềm ẩn của hệ thống hoặc lỗ hổng của nó.
Hãy phân tích thành bốn phần.
Lạm dụng tiềm ẩn
Biết rằng bất kỳ tài liệu nào khớp với nội dung dâm ô trẻ em hoặc hình ảnh lạm dụng tình dục trẻ em đã biết sẽ đưa thiết bị vào danh sách "đáng ngờ" có thể khiến tội phạm mạng hành động.
Chúng có thể cố ý ném nội dung không phù hợp cho một người qua iMessage, WhatsApp, hoặc bất kỳ phương tiện nào và khiến tài khoản của người đó bị khóa.
Apple đã đảm bảo người dùng có thể kháng cáo nếu tài khoản bị khóa do hiểu lầm.
Lạm dụng nội bộ
Mặc dù được thiết kế cho mục đích nhân đạo, tính năng này có thể biến thành thảm họa hoàn toàn đối với một số người nếu thiết bị của họ được đăng ký vào hệ thống, có hay không có sự biết của họ, bởi người thân quan tâm theo dõi giao tiếp của họ.
Ngay cả nếu điều đó không xảy ra, Apple đã tạo một "cửa sau" (backdoor) để dữ liệu người dùng có thể truy cập được vào cuối ngày. Bây giờ đó là vấn đề về động lực và quyết tâm của mọi người để truy cập thông tin cá nhân của người khác.
Nó không chỉ tạo điều kiện cho vi phạm quyền riêng tư lớn, mà còn mở đường cho người thân, người giám hộ, bạn bè, người yêu, người chăm sóc, và người yêu cũ độc tài, kiểm soát hoặc có hại xâm phạm thêm không gian cá nhân hoặc hạn chế tự do của ai đó.
Mặt một, nó nhằm chống lạm dụng tình dục trẻ em; mặt khác, nó có thể bị dùng để tiếp tục thực hiện các loại bóc lột khác.
Giám sát chính phủ
Apple luôn tự quảng bá là thương hiệu quan tâm quyền riêng tư hơn đối thủ. Nhưng bây giờ, nó có thể bước vào con đường trơn trượt phải đáp ứng những yêu cầu không bao giờ kết thúc về minh bạch dữ liệu người dùng từ chính phủ.
Hệ thống nó tạo ra để phát hiện nội dung dâm ô trẻ em có thể dùng để phát hiện bất kỳ loại nội dung nào trên điện thoại. Điều đó nghĩa là chính phủ với tư duy cuồng tín có thể theo dõi người dùng ở mức độ cá nhân hơn nếu họ nắm được nó.
Áp chế hay không, sự can thiệp của chính phủ vào đời sống hàng ngày và cá nhân của bạn có thể khiến người ta bất an, và là sự xâm phạm quyền riêng tư. Ý tưởng rằng bạn chỉ cần lo lắng về sự xâm phạm đó nếu bạn đã làm sai là tư duy sai lầm, và không thấy được con đường trơn trượt nói trên.
Báo động giả
Một trong những lo ngại lớn nhất khi dùng thuật toán khớp ảnh với cơ sở dữ liệu là báo động giả. Thuật toán hashing có thể nhầm lẫn nhận diện hai ảnh khớp nhau даже khi chúng không giống nhau. Những lỗi này, gọi là "va chạm" (collisions), đặc biệt đáng báo động trong bối cảnh nội dung lạm dụng tình dục trẻ em.
Nhà nghiên cứu tìm thấy một vài va chạm trong "NeuralHash" sau khi Apple công bố sẽ dùng thuật toán để quét hình ảnh. Apple trả lời các truy vấn về báo động giả bằng cách chỉ ra rằng kết quả sẽ được con người xem xét ở cuối, vì vậy mọi người không cần lo lắng về nó.
Việc tạm dừng CSAM của Apple có vĩnh viễn không?
Có nhiều ưu và nhược điểm của tính năng đề xuất của Apple. Mỗi cái đều thực sự và có trọng lượng. Vẫn chưa rõ Apple có thể wprowad những thay đổi cụ thể nào cho tính năng quét CSAM để thỏa mãn người phê bình.
Nó có thể giới hạn quét chỉ cho album iCloud chia sẻ thay vì liên quan đến thiết bị người dùng. Rất không太可能Apple会完全放弃这些计划，因为公司通常不倾向于在其计划上妥协。
Tuy nhiên, từ sự phản đối lan rộng và Apple hoãn lại kế hoạch, rõ ràng các công ty nên kết hợp cộng đồng nghiên cứu từ đầu, đặc biệt đối với công nghệ chưa được kiểm tra.