Công nghệ Nhận diện khuôn mặt (Facial Recognition) và khả năng của nó đã phát triển vượt xa sức tưởng tượng kể từ khi các thuật toán mới củng cố công nghệ này trong thực thi pháp luật nổi lên. Hiện nay, công nghệ nhận diện khuôn mặt được lực lượng thực thi pháp luật ở các cấp độ thấp nhất của quy trình thu thập dữ liệu để xác định tội phạm giữa đám đông. Công nghệ dùng hình ảnh từ camera giám sát ở nơi công cộng và đường phố, sau đó đối chiếu dữ liệu thu thập với kho lưu trữ cơ quan để phát hiện khuôn mặt bị truy nã vì tội phạm.
Công nghệ này cũng đã được nhúng vào các thiết bị nhỏ nhất, bao gồm điện thoại thông minh và thiết bị đeo thông minh. Do đó, nó không chỉ bảo vệ bạn trên đường phố mà còn nhằm bảo vệ thông tin cá nhân lưu trên thiết bị thông minh. Việc dùng "faceprint" (dấu vân mặt) cho marketing và quảng cáo đã trở nên phổ biến trong kỷ nguyên chiến dịch mạng xã hội hiện đại. Và còn có giám sát riêng tư trong trung tâm thương mại, cửa hàng bán lẻ, v.v.
Từ góc độ này, ta dễ chỉ ra lợi ích không thể phủ nhận của công nghệ nhận diện khuôn mặt. Nhưng nó cũng bị soi mói vì đe dọa quyền riêng tư, bảo vệ dữ liệu, và tất nhiên, sự minh bạch giữa pháp luật và công chúng. Việc nhận thức cả ưu và nhược điểm của công nghệ xâm nhập này là tốt. Tuy nhiên, còn một nhược điểm nữa của công nghệ nhận diện khuôn mặt, mà người ta dường như bỏ qua, đó là hồ sơ chủng tộc (racial profiling) và phân biệt đối xử chủng tộc.
Trong bài này, chúng ta xem xét công nghệ này thúc đẩy định kiến và phân biệt chủng tộc như thế nào và hậu quả nghiêm trọng đến đâu của công nghệ xâm nhập này.
Cách Nhận diện khuôn mặt hoạt động?
Bước 1: Một bức ảnh của bạn được chụp từ camera, tài khoản, email, v.v. Đó hoặc là ảnh hồ sơ thẳng đứng hoặc chụp ngẫu nhiên trong đám đông.
Bước 2: Phần mềm nhận diện khuôn mặt sẽ chạy khuôn mặt bạn qua cơ sở dữ liệu các faceprint đã lưu. Faceprint được thu thập qua theo dõi hình học khuôn mặt.
Bước 3: Phần trăm khớp (match percentage) của ảnh bạn so với bất kỳ faceprint đã biết nào được tạo ra bằng thuật toán, và quyết định được đưa ra dựa trên đó.
Định kiến tự động hóa (Automation Bias): Một trong nhiều khiếm khuyết của Công nghệ Nhận diện khuôn mặt
Định kiến tự động hóa (Automation Bias) hoặc Định kiến máy (Machine Bias) là tình huống thuật toán máy thể hiện định kiến nhất định trong việc hiệu chuẩn dữ liệu đầu vào, từ đó cho ra kết quả không lợi. Điều này xảy ra khi có lỗi trong mã thuật toán, thiếu tập dữ liệu (data-sets) để hiệu chuẩn, giá trị đầu vào không chính xác, hoặc dữ liệu đầu vào quá nhiều vượt quá khả năng hiệu chuẩn của máy.
Hồ sơ chủng tộc (Racial Profiling) liên quan đến tất cả này như thế nào?
Hãy bắt đầu với sự cố cổ xưa lúc bấy giờ được coi là không đáng kể. Năm 2001, thành phố Tampa dùng phần mềm nhận diện khuôn mặt giám sát thành phố đông đúc khi du khách tràn đường phố do Super Bowl 2001. Theo báo cáo New York Times, phần mềm xác định 19 người bị cho là có lệnh 체포 (warrants) chưa giải quyết; tuy nhiên không có bắt giữ nào vì cơ sở hạ tầng sân vận động khiến không thể tiếp cận tội phạm được xác định trong đám đông chen chúc.
Mặc dù dấu hiệu hồ sơ chủng tộc không xuất hiện ở trường hợp cụ thể này, đó là lần đầu kỹ thuật giám sát bị đặt đối mặt với vi phạm tự do công dân và quyền riêng tư. Trong những năm sau, cảnh sát Tampa từ bỏ hệ thống giám sát này vì kết quả không đáng tin cậy.
Tiến nhanh tới tình huống gần đây hơn, Ali Breland báo cáo cho The Guardian về vụ bắt giữ Willie Lynch, người da đen bị buộc tội là buôn ma túy tiếng tăm ở khu Brentwood, nơi chủ yếu là người da màu. Bằng chứng duy nhất chống lại Lynch là ảnh trên điện thoại, được đối chiếu với cơ sở dữ liệu cảnh sát trước khi xác định hắn là thủ phạm. Lynch bị kết án 8 năm, hiện đã kháng cáo. Dù hắn có phải buôn ma túy hay không, điều này không thể không đặt ra lo ngại: liệu chỉ kết quả từ máy là đủ để ủng hộ án phạt bất kỳ ai đang được điều tra?
Năm 2019, theo báo cáo của Tom Perkins cho The Guardian, cảnh sát Detroit bị phát hiện dùng nhận diện khuôn mặt để bắt giữ đã 2 năm. Detroit là nơi hơn 80% dân số là người da đen. Tuyên bố từ một thành viên da đen của Ủy ban Cảnh sát Detroit nêu lo ngại. Ông nói người da đen có đặc điểm khuôn mặt chung làm hỏng thuật toán hệ thống, gọi đây là "techno-racism" (nghệ thuật chủng tộc/techno-chủng tộc).
Trong nghiên cứu 2019 cho Tạp chí Thông tin, Truyền thông và Đạo đức Xã hội, bởi Fabio Bacchini và Ludovica Lorusso, phát hiện hệ thống sinh trắc học và nhận diện khuôn mặt không 100% đáng tin cậy cho thực thi pháp luật. Hơn nữa, phân biệt chủng tộc là tác động tiêu cực lên tất cả các hệ thống đó, có ngụ ý xã hội ngược. Nghiên cứu nhắm vào xã hội phương Tây, nơi các hệ thống này dùng rộng rãi cho giám sát.
Đây chỉ là 3 trong nhiều ví dụ nơi sự chênh lệch chủng tộc do hệ thống nhận diện khuôn mặt bị phơi bày. Nhưng tại sao các hệ thống này lại kém cỏi như vậy dù độ chính xác thuật toán và công nghệ ngày càng tăng?
Châu Á trắng tại các bang phương Tây: Ngành công nghệ trắng chủ đạo
Năm 2014, đa số công ty công nghệ, bao gồm cả khổng lồ Apple Inc., được phát hiện tuyển dụng hầu như nhân viên trắng, nam giới. Ở Apple, 55% nhân viên là người trắng, và tương tự, ban lãnh đạo Apple gồm 63% người trắng. Các công ty chia sẻ báo cáo đa dạng tương tự bao gồm Facebook, Google, và Twitter. Năm năm sau, báo cáo trên Wired tiết lộ ít cải thiện về các con số này.
Mặc dù Facebook cải thiện đáng kể, tỷ lệ nhân viên kỹ thuật da đen của Apple không đổi, chỉ 6% tổng nhân sự. Amazon là tổ chức duy nhất ghi nhận 42% nhân viên da đen hoặc Latin ở văn phòng Mỹ.
Các thống kê này nghĩa gì? Ở Mỹ, hầu hết lập trình viên được giao dự án lớn như thiết kế thuật toán giám sát là người trắng. Họ là người đưa ra quyết định quan trọng nhất về sản phẩm/dịch vụ sẽ ra mắt. Vì vậy, quan điểm, cách tiếp cận, và tư duy của họ đi vào sản phẩm cuối cùng. Điều này KHÔNG ngụ ý người trắng là phân biệt chủng tộc và cố ý thiết kế hệ thống giám sát như vậy. KHÔNG!
Khi một kỹ sư trắng thiết kế thuật toán nhận diện khuôn mặt và chỉ có đồng nghiệp trắng tư vấn/hỗ trợ, họ không xem xét đặc điểm khuôn mặt người da màu khác trước khi hoàn tất mã. Vì kỹ sư trắng thống trị ngành công nghệ, kho dữ liệu dùng để chuẩn bị mã ban đầu cũng do kỹ sư trắng tạo và hiệu chuẩn. Do đó, chính mã nguồn được tạo ra với định kiến cốt lõi trong thuật toán tính toán, dẫn đến chênh lệch chủng tộc trong kết quả giám sát.
Mã đơn giản học những gì người trắng thể hiện trong nó. Không có góc độ hay đóng góp của bất kỳ người da màu nào khác.
Vấn đề Hiệu chuẩn (Calibration Issues)
Thực thi pháp luật Mỹ dựa nhiều vào giám sát và theo dõi dữ liệu. Có nhiều trường hợp người phơi bày thông tin tiết lộ giám sát trái phép thường dân. Vụ Edward Snowden tiết lộ giám sát bất hợp pháp của NSA là một ví dụ.
Các chương trình giám sát này được hỗ trợ bởi faceprint và thông tin cá nhân của hàng triệu công dân. Chỉ xét faceprint, có hàng triệu người Mỹ chia sẻ ảnh công khai trên mạng xã hội. Ngoài ra, camera giám sát ở mọi con đường cung cấp hình ảnh trực tiếp hàng trăm nghìn người qua đường. Hiện có khoảng 117 triệu ảnh trong cơ sở dữ liệu cảnh sát, trong khi FBI có hơn 400 triệu tập dữ liệu để hiệu chuẩn trong thuật toán nhận diện khuôn mặt giám sát.
Hãy tưởng tượng các tập dữ liệu này so khớp với một ảnh đơn lẻ có thể không nắm bắt hết đặc điểm khuôn mặt của người đó. Trong kịch bản đó, lỗi chắc chắn xảy ra. Quá nhiều dữ liệu để hiểu và đối chiếu với một faceprint. Không thuật toán nào đảm bảo 100% chắc chắn kết quả khi hiệu chuẩn phức tạp như vậy. Điều này cuối cùng cộng thêm vào hồ sơ chủng tộc do công nghệ nhận diện khuôn mặt gây ra.
Sự phụ thuộc quá lớn vào Nhận diện khuôn mặt
Vụ Willie Lynch nhắc nhở nhận diện khuôn mặt KHÔNG NÊN là kỹ thuật tin cậy duy nhất trình làm bằng chứng trong thực thi pháp luật. Đó là lý do cảnh sát Tampa từ bỏ công nghệ này.
Thực tế nhận diện khuôn mặt là nơi trú ẩn tuyệt vời và giúp ích cho cảnh sát. Thủ phạm vụ bom Marathon Boston được nhận diện nhờ phân tích chi tiết, mở rộng từ bản ghi giám sát. Nhưng đây KHÔNG THỂ là bằng chứng đơn lạ để kết án ai. Phải có bằng chứng hỗ trợ chứng minh kết quả thuật toán, và khái niệm định kiến tự động hóa phải được xem xét trước khi đưa ra quyết định cuối cùng.
Vấn đề Phần cứng: Nhận diện khuôn mặt trong Điện thoại và Camera
Hệ thống camera giám sát và phần cứng/phần mềm liên quan không do một công ty đơn lẻ thiết kế. Đó là ngành trị giá hàng tỷ USD với hàng chục công ty cạnh tranh để giành hợp đồng từ cơ quan thực thi pháp luật. Nhiều hệ thống đến từ nhà sản xuất Trung Quốc. Mọi thứ xoay quanh việc lấy công nghệ rẻ nhất với chất lượng tốt nhất. Đó là cách nó chủ yếu hoạt động. Vì vậy, luôn có cơ hội khác biệt hiệu chuẩn giữa các hệ thống, cũng như biến động chất lượng kết quả giám sát. Nhiều thuật toán camera giám sát kém hiệu quả trong hiệu chuẩn ảnh người da màu chỉ vì thiếu hụt kỹ thuật, từ đó vinh danh phân biệt chủng tộc.
Vấn đề kỹ thuật gây phân biệt chủng tộc qua nhận diện khuôn mặt cũng được nhận thấy trong tính năng Face Lock của Apple. Vụ việc từ Trung Quốc tiết lộ iPhone X Face Lock không phân biệt được 2 đồng nghiệp Trung Quốc khác nhau, làm tính năng vô dụng. Báo cáo tương tự bị bác bỏ, dẫn lý do vấn đề trong tính năng phân biệt 2 người da đen. Như đã nói, Apple chỉ có 6% người da đen trong nhóm kỹ thuật. Đây là ví dụ rõ ràng công nghệ nhận diện khuôn mặt thúc đẩy chủng tộc phân biệt ngay trên thiết bị cầm tay.
Kết luận
Có, Nhận diện khuôn mặt mang định kiến chủng tộc, và đó là tri thức chung hiện nay. Mặc dù công nghệ phát triển hàng ngày để khắc phục vấn đề này, kết quả vẫn như cũ. Công nghệ nên đoàn kết thế giới quanh mục tiêu chung là tiến bộ kỹ thuật và phát triển, nhưng một số kỹ thuật chỉ gây hại cho hòa hợp chủng tộc và cộng đồng.
Lúc này, điều tốt nhất quan chức thực thi pháp luật có thể làm là không ủng hộ vụ án dựa trên bằng chứng từ hiệu chuẩn thuật toán, thậm chí không đáng tin cậy. Hơn nữa, đã đến lúc đa dạng và hòa nhập (diversity and inclusion) tại nơi làm việc được coi trọng, để người mọi dân tộc cùng tạo ra sản phẩm không có chênh lệch chủng tộc. Có hàng nghìn chủng tộc trên thế giới, và con người đã học bỏ qua khác biệt chủng tộc quấy rối xã hội toàn cầu lâu nay. Nếu phải duy trì điều đó, thì những máy móc chúng ta phụ thuộc nhiều đến vậy phải được dạy điều tương tự.