Vào tháng 8 năm 2021, Apple tiết lộ kế hoạch quét iPhone để tìm hình ảnh lạm dụng tình dục trẻ em. Động thái này đã thu hút sự hoan nghênh từ các nhóm bảo vệ trẻ em nhưng làm dấy lên lo ngại giữa các chuyên gia về quyền riêng tư và bảo mật rằng tính năng này có thể bị sử dụng sai mục đích.
Apple ban đầu dự định đưa công nghệ quét Tài liệu Lạm dụng Tình dục Trẻ em (CSAM) vào iOS 15; thay vào đó, nó đã trì hoãn vô thời hạn việc triển khai tính năng để lấy ý kiến phản hồi trước khi phát hành đầy đủ.
Vậy tại sao tính năng phát hiện CSAM lại trở thành chủ đề tranh luận sôi nổi và điều gì khiến Apple hoãn triển khai?
Tính năng Quét ảnh của Apple có tác dụng gì?
Apple tuyên bố triển khai tính năng quét ảnh với hy vọng chống lại nạn lạm dụng tình dục trẻ em. Tất cả ảnh trong thiết bị của người dùng Apple sẽ được quét để tìm nội dung ấu dâm bằng thuật toán "NueralHash" do Apple tạo ra.
Ngoài ra, bất kỳ thiết bị Apple nào được trẻ em sử dụng sẽ có tính năng an toàn sẽ tự động làm mờ ảnh người lớn nếu trẻ em nhận được và người dùng sẽ được cảnh báo hai lần nếu họ cố gắng mở chúng.
Ngoài việc giảm thiểu việc tiếp xúc với nội dung người lớn, nếu cha mẹ đăng ký thiết bị do con cái sở hữu để đảm bảo an toàn hơn, cha mẹ sẽ được thông báo trong trường hợp trẻ nhận được nội dung khiêu dâm từ bất kỳ ai trên mạng.
Đọc thêm:Những điều bạn cần biết về các biện pháp bảo vệ an toàn cho trẻ em của Apple
Đối với người lớn sử dụng Siri để tìm kiếm bất kỳ thứ gì kích dục trẻ em, Siri sẽ không thực hiện tìm kiếm đó và thay vào đó sẽ đề xuất các lựa chọn thay thế khác.
Dữ liệu từ bất kỳ thiết bị nào có chứa 10 ảnh trở lên theo thuật toán sẽ được giải mã và được con người xem xét.
Nếu những bức ảnh đó hoặc bất kỳ bức ảnh nào khác trong thiết bị trùng khớp với bất kỳ nội dung nào từ cơ sở dữ liệu do Trung tâm Quốc gia về Trẻ em mất tích và Bị bóc lột cung cấp, nó sẽ được báo cáo với cơ quan chức năng và tài khoản của người dùng sẽ bị tạm ngưng.
Mối quan tâm chính về tính năng quét ảnh
Tính năng phát hiện CSAM lẽ ra sẽ hoạt động khi iOS 15 ra mắt vào tháng 9 năm 2021, nhưng trước sự phản đối kịch liệt trên diện rộng, Apple đã quyết định dành thêm thời gian để thu thập phản hồi và thực hiện các cải tiến cho tính năng này. Đây là tuyên bố đầy đủ của Apple về sự chậm trễ:
"Tháng trước, chúng tôi đã công bố kế hoạch về các tính năng nhằm giúp bảo vệ trẻ em khỏi những kẻ săn mồi sử dụng các công cụ truyền thông để tuyển dụng và khai thác chúng, đồng thời hạn chế việc phát tán Tài liệu lạm dụng tình dục trẻ em.
Dựa trên phản hồi từ khách hàng, các nhóm vận động chính sách, các nhà nghiên cứu và những người khác, chúng tôi đã quyết định dành thêm thời gian trong những tháng tới để thu thập thông tin đầu vào và thực hiện các cải tiến trước khi phát hành các tính năng cực kỳ quan trọng về an toàn cho trẻ em này ".
Gần một nửa mối quan tâm liên quan đến tính năng quét ảnh của Apple xoay quanh quyền riêng tư; phần còn lại của các đối số bao gồm tính không chính xác có thể xảy ra của các thuật toán và khả năng sử dụng sai hệ thống hoặc các sơ hở của hệ thống.
Hãy chia nó thành bốn phần.
Khả năng Lạm dụng
Biết rằng bất kỳ tài liệu nào phù hợp với nội dung khiêu dâm trẻ em hoặc hình ảnh lạm dụng tình dục trẻ em đã biết sẽ đưa một thiết bị vào danh sách "đáng ngờ" có thể khiến tội phạm mạng bắt đầu hành động.
Họ có thể cố ý tấn công một người bằng nội dung không phù hợp thông qua iMessage, WhatsApp hoặc bất kỳ phương tiện nào khác và khiến tài khoản của người đó bị tạm ngưng.
Apple đã đảm bảo rằng người dùng có thể gửi đơn kháng cáo trong trường hợp tài khoản của họ bị tạm ngưng do hiểu nhầm.
Lạm dụng nội gián
Mặc dù được thiết kế cho mục đích nhân từ, tính năng này có thể trở thành thảm họa toàn diện đối với một số người nhất định nếu thiết bị của họ được đăng ký vào hệ thống, dù họ có hay không biết, bởi những người thân quan tâm theo dõi giao tiếp của họ.
Ngay cả khi điều đó không xảy ra, Apple đã tạo ra một cửa hậu để giúp dữ liệu của người dùng có thể truy cập vào cuối ngày. Bây giờ, vấn đề là động lực và quyết tâm để mọi người truy cập thông tin cá nhân của người khác.
Nó không chỉ tạo điều kiện cho sự vi phạm lớn về quyền riêng tư mà còn mở đường cho việc lạm dụng, độc hại hoặc kiểm soát người thân, người giám hộ, bạn bè, người yêu, người chăm sóc và người yêu cũ để xâm phạm thêm không gian cá nhân của ai đó hoặc hạn chế quyền tự do của họ.
Một mặt, nó có nghĩa là chống lạm dụng tình dục trẻ em; mặt khác, nó có thể được sử dụng để tiếp tục kéo dài các loại lạm dụng khác.
Sự giám sát của Chính phủ
Apple luôn tự coi mình là một thương hiệu có ý thức về quyền riêng tư hơn các đối thủ cạnh tranh. Nhưng bây giờ, nó có thể đang đi vào một con dốc trơn trượt khi phải đáp ứng các yêu cầu không ngừng về tính minh bạch trong dữ liệu người dùng của các chính phủ.
Hệ thống đã tạo ra để phát hiện nội dung ấu dâm có thể được sử dụng để phát hiện bất kỳ loại nội dung nào trên điện thoại. Điều đó có nghĩa là các chính phủ có tâm lý sùng bái có thể giám sát người dùng ở cấp độ cá nhân hơn nếu họ nhúng tay vào.
Có thể bị áp bức hay không, sự tham gia của chính phủ vào cuộc sống hàng ngày và cá nhân của bạn có thể là điều đáng lo ngại và là sự xâm phạm quyền riêng tư của bạn. Ý tưởng rằng bạn chỉ cần lo lắng về những cuộc xâm lược như vậy nếu bạn đã làm sai điều gì đó là suy nghĩ sai lầm và không nhìn thấy được cái dốc trơn trượt nói trên.
Báo động Sai
Một trong những mối quan tâm lớn nhất của việc sử dụng các thuật toán để khớp ảnh với cơ sở dữ liệu là báo động sai. Thuật toán băm có thể xác định nhầm hai ảnh là ảnh trùng khớp ngay cả khi chúng không giống nhau. Những lỗi này, được gọi là "va chạm", đặc biệt đáng báo động trong bối cảnh nội dung lạm dụng tình dục trẻ em.
Các nhà nghiên cứu đã tìm thấy một số va chạm trong "NeuralHash" sau khi Apple thông báo họ sẽ sử dụng thuật toán để quét hình ảnh. Apple đã trả lời các câu hỏi về cảnh báo sai bằng cách chỉ ra rằng kết quả sẽ được con người xem xét ở cuối, vì vậy mọi người không cần phải lo lắng về điều đó.
CSAM của Apple có phải là Tạm dừng vĩnh viễn không?
Có rất nhiều ưu và nhược điểm của tính năng do Apple đề xuất. Mỗi một trong số họ là chính hãng và có trọng lượng. Vẫn chưa rõ những thay đổi cụ thể nào mà Apple có thể giới thiệu cho tính năng quét CSAM để làm hài lòng các nhà phê bình.
Nó có thể giới hạn việc quét các album iCloud được chia sẻ thay vì liên quan đến thiết bị của người dùng. Rất khó để Apple từ bỏ hoàn toàn các kế hoạch này vì công ty thường không có khuynh hướng nhượng bộ các kế hoạch của mình.
Tuy nhiên, rõ ràng là từ phản ứng dữ dội lan rộng và việc Apple đang trì hoãn kế hoạch của mình, rằng các công ty nên kết hợp cộng đồng nghiên cứu ngay từ đầu, đặc biệt là đối với một công nghệ chưa được thử nghiệm.