Nhận dạng khuôn mặt công nghệ và khả năng của nó đã phát triển vượt xa sức tưởng tượng của chúng ta kể từ khi các thuật toán mới để củng cố công nghệ này trong việc thực thi pháp luật trở nên nổi bật. Hiện tại, công nghệ nhận dạng khuôn mặt được lực lượng thực thi pháp luật sử dụng ở mức thấp nhất trong quy trình thu thập dữ liệu để xác định tội phạm hình sự giữa các cuộc tụ tập đông người. Công nghệ này sử dụng cảnh quay từ camera quan sát ở những nơi công cộng và trên đường phố, sau đó chạy dữ liệu đã thu thập được đối chiếu với kho lưu trữ của cơ quan để phát hiện khuôn mặt bị truy nã về tội hình sự.
Công nghệ này đã tiếp tục được nhúng vào các tiện ích nhỏ nhất, bao gồm cả điện thoại di động và thiết bị đeo thông minh. Do đó, nó không chỉ bảo vệ bạn trên đường phố mà còn có ý định bảo vệ thông tin cá nhân được lưu trữ trên các thiết bị thông minh của bạn. Sử dụng “faceprint” cho các hoạt động tiếp thị và quảng cáo đã trở nên phổ biến trong thời đại hiện đại của chiến dịch truyền thông xã hội. Và sau đó, có sự giám sát riêng tại các trung tâm thương mại, cửa hàng bán lẻ, v.v.
Từ quan điểm này, người ta có thể nhanh chóng chỉ ra những lợi thế không thể phủ nhận của công nghệ nhận dạng khuôn mặt. Nhưng nó cũng đã được xem xét kỹ lưỡng về mối đe dọa mà nó gây ra đối với quyền riêng tư của người dùng, bảo vệ dữ liệu và tất nhiên là tính minh bạch giữa luật pháp và công chúng. Thật tốt khi nhận thức được cả ưu điểm và nhược điểm của một công nghệ xâm lấn như vậy. Tuy nhiên, có một nhược điểm nữa của công nghệ nhận dạng khuôn mặt mà mọi người dường như bỏ qua, đó là phân biệt chủng tộc và phân biệt chủng tộc .
Trong phần này, chúng ta xem xét cách công nghệ này khuyến khích thành kiến và phân biệt chủng tộc cũng như hậu quả nghiêm trọng của công nghệ xâm lấn đó.
Tính năng nhận dạng khuôn mặt hoạt động như thế nào?
Bước 1: Ảnh của bạn được chụp từ máy ảnh, tài khoản của bạn, email, v.v. Đó có thể là ảnh đại diện thẳng hoặc ảnh chụp ngẫu nhiên trong đám đông.
Bước 2: Phần mềm nhận dạng khuôn mặt sẽ chạy khuôn mặt của bạn thông qua cơ sở dữ liệu về các dấu vân tay được lưu trữ. Dấu vân tay được thu thập thông qua theo dõi hình học khuôn mặt của bạn.
Bước 3: Tỷ lệ phần trăm khớp của ảnh so với bất kỳ dấu vết khuôn mặt đã biết nào được tạo ra bằng cách sử dụng một thuật toán để đưa ra quyết định.
Xu hướng tự động hóa:Một trong nhiều lỗi của công nghệ nhận dạng khuôn mặt
Xu hướng tự động hóa hoặc Xu hướng máy đề cập đến tình huống trong đó thuật toán máy thể hiện một sai lệch nhất định trong việc hiệu chỉnh dữ liệu đầu vào, do đó cho kết quả đầu ra không thuận lợi. Điều này xảy ra khi có lỗi trong mã thuật toán, thiếu bộ dữ liệu được lưu trữ để hiệu chuẩn, giá trị đầu vào không chính xác hoặc dữ liệu đầu vào quá mức vượt quá khả năng hiệu chỉnh của máy móc.
Việc lập hồ sơ chủng tộc diễn ra như thế nào với tất cả những điều này?
Hãy bắt đầu với một sự cố cổ xưa mà vào thời điểm đó được coi là không đáng kể. Năm 2001, Thành phố Tampa đã sử dụng phần mềm nhận dạng khuôn mặt để giám sát thành phố đông đúc khi khách du lịch tràn ngập đường phố do trận Super Bowl 2001. Theo một báo cáo của New York Times, phần mềm đã xác định được 19 người được cho là có lệnh truy nã đối với họ; tuy nhiên, không có vụ bắt giữ nào được thực hiện do cơ sở hạ tầng của sân vận động khiến không thể xác định được thủ phạm giữa đám đông áp đảo.
Mặc dù các dấu hiệu phân biệt chủng tộc không được nhìn thấy ở bất kỳ đâu trong trường hợp cụ thể này, nhưng đây là lần đầu tiên các kỹ thuật giám sát được đưa ra để chống lại hành vi vi phạm quyền tự do dân sự và quyền riêng tư của các cá nhân. Trong những năm tới, Cảnh sát Tampa đã từ bỏ các hệ thống giám sát này với lý do kết quả không đáng tin cậy.
Chuyển nhanh đến một kịch bản gần đây hơn, Ali Breland đã báo cáo cho The Guardian, liên quan đến vụ bắt giữ Willie Lynch, một người đàn ông da đen bị buộc tội là một tay buôn ma túy khét tiếng ở khu vực Brentwood, nơi chủ yếu là khu dân cư của người da màu. Bằng chứng duy nhất chống lại Lynch là những bức ảnh của anh ta trên điện thoại di động, những bức ảnh này được đối chiếu với cơ sở dữ liệu của cảnh sát trước khi cảnh sát xác định anh ta là thủ phạm. Lynch đã bị kết án trong 8 năm, người hiện đã kháng cáo bản án. Cho dù anh ta có phải là đại lý bị cáo buộc hay không, điều này chắc chắn làm dấy lên lo ngại về việc liệu chỉ một kết quả dựa trên máy móc có đủ để duy trì kết tội của bất kỳ ai đang bị điều tra hay không?
Vào năm 2019, theo báo cáo của Tom Perkins cho The Guardian, cảnh sát Detroit đã bị phát hiện sử dụng tính năng nhận dạng khuôn mặt để thực hiện các vụ bắt giữ được cho là trong hai năm qua. Detroit là nơi có hơn 80% dân số là người da đen. Tuyên bố của một thành viên da đen từ Ủy ban Cảnh sát Detroit đã nêu lên những lo ngại về việc làm này. Anh ấy nói rằng người da đen có một đặc điểm chung trên khuôn mặt gây nguy hiểm cho thuật toán của hệ thống, gọi đây là “phân biệt chủng tộc kỹ thuật”.
Trong một nghiên cứu năm 2019 cho Tạp chí Hiệp hội Đạo đức và Truyền thông Thông tin, của Fabio Bacchini và Ludovica Lorusso, người ta thấy rằng các hệ thống nhận dạng khuôn mặt và sinh trắc học này không đáng tin cậy 100% đối với cơ quan thực thi pháp luật. Hơn nữa, phân biệt chủng tộc là một tác động tiêu cực đối với tất cả các hệ thống như vậy, điều này còn có những tác động xã hội ngược lại. Nghiên cứu nhắm mục tiêu cụ thể vào các xã hội phương Tây, nơi các hệ thống như vậy được sử dụng rộng rãi để giám sát.
Đây chỉ là ba trong số rất nhiều ví dụ về các trường hợp chênh lệch chủng tộc do hệ thống nhận dạng khuôn mặt gây ra đã được đưa ra ánh sáng. Nhưng tại sao những hệ thống này lại kém hiệu quả mặc dù độ chính xác ngày càng tăng trong các nâng cấp mã hóa thuật toán trong công nghệ.
Quyền lực tối cao của người da trắng ở các bang miền Tây:Ngành công nghệ do người da trắng chiếm ưu thế
Vào năm 2014, phần lớn các công ty công nghệ, bao gồm cả gã khổng lồ Apple Inc., bị phát hiện thuê hầu hết nhân viên là nam giới da trắng. Ở Apple, 55% nhân viên là người da trắng và tương tự, ban lãnh đạo Apple bao gồm 63% nhân viên da trắng. Các công ty đã chia sẻ các báo cáo đa dạng tương tự bao gồm cả Facebook, Google và Twitter. Năm năm sau, một báo cáo trên tờ Wired tiết lộ rằng những con số này chỉ có sự cải thiện tối thiểu.
Trong khi Facebook cho thấy sự cải thiện đáng kể về số lượng, tỷ lệ công nhân kỹ thuật da đen của Apple không thay đổi, chỉ chiếm 6% tổng lực lượng lao động. Amazon là tổ chức duy nhất đăng ký 42% công nhân da đen hoặc Mỹ Latinh tại các văn phòng ở Hoa Kỳ.
Những số liệu thống kê này biểu thị điều gì? Ở Mỹ, hầu hết các lập trình viên, những người được giao cho các dự án lớn như thiết kế thuật toán cho hệ thống giám sát, đều là người da trắng. Đây là những người đưa ra các quyết định quan trọng nhất liên quan đến sản phẩm hoặc dịch vụ sẽ được tung ra/công bố bởi một công ty. Và do đó, quan điểm, cách tiếp cận và quá trình suy nghĩ của họ sẽ đi vào quá trình sáng tạo cuối cùng. Điều này không có nghĩa là người da trắng là những người phân biệt chủng tộc và đã cố tình thiết kế các hệ thống giám sát như vậy. KHÔNG!
Khi một anh chàng da trắng thiết kế thuật toán nhận dạng khuôn mặt và chỉ có các đồng nghiệp da trắng tư vấn/hỗ trợ anh ta, họ không xem xét đặc điểm khuôn mặt của những người da màu khác trước khi hoàn thiện mã. Vì các kỹ sư da trắng thống trị ngành công nghệ nên kho lưu trữ dữ liệu được sử dụng để chuẩn bị mã ban đầu cũng do các kỹ thuật viên da trắng tạo và hiệu chỉnh. Do đó, bản thân mã được tạo ra với sự sai lệch trong thuật toán tính toán cốt lõi của nó, dẫn đến những khác biệt về chủng tộc trong kết quả giám sát.
Mã chỉ đơn giản là tìm hiểu những gì người da trắng thể hiện trong đó. Không có quan điểm hay đóng góp của bất kỳ người da màu nào khác.
Các vấn đề hiệu chuẩn
Cơ quan thực thi pháp luật của Mỹ chủ yếu dựa vào giám sát và theo dõi dữ liệu. Đã có nhiều trường hợp người tố giác tiết lộ thông tin liên quan đến việc giám sát trái phép dân thường. Tiết lộ của Edward Snowden về hoạt động giám sát bất hợp pháp của NSA là một ví dụ như vậy.
Các chương trình giám sát này được hỗ trợ bởi dấu vân tay và thông tin cá nhân khác của hàng triệu công dân. Nếu chúng ta chỉ xem xét dấu vân tay, thì có hàng triệu người Mỹ chia sẻ hình ảnh một cách công khai trên các nền tảng mạng xã hội. Sau đó, có các camera quan sát ở mọi đường phố trên toàn quốc cung cấp cảnh quay trực tiếp của hàng trăm nghìn người qua đường. Hiện tại, có khoảng 117 triệu hình ảnh trong cơ sở dữ liệu của cảnh sát, trong khi FBI có hơn 400 triệu bộ dữ liệu để hiệu chỉnh trong các thuật toán nhận dạng khuôn mặt giám sát.
Bây giờ, hãy tưởng tượng những bộ dữ liệu này được so sánh với một hình ảnh duy nhất có thể nắm bắt hoặc không nắm bắt được tất cả các đặc điểm trên khuôn mặt của một người cụ thể. Trong một kịch bản như vậy, lỗi có khả năng phát sinh. Có quá nhiều dữ liệu để hiểu và chạy nó trên một khuôn mặt. Không có thuật toán nào có thể đảm bảo chắc chắn một trăm phần trăm về kết quả của nó khi việc hiệu chuẩn quá phức tạp. Điều này cuối cùng làm tăng thêm hồ sơ chủng tộc do công nghệ nhận dạng khuôn mặt gây ra.
Khả năng nhận dạng khuôn mặt có độ tin cậy cao
Trường hợp của Willie Lynch là một lời nhắc nhở rằng nhận dạng khuôn mặt không nên là kỹ thuật đáng tin cậy duy nhất được đưa ra làm bằng chứng khi thực thi pháp luật. Đây là lý do cảnh sát thành phố Tampa từ bỏ công nghệ này.
Đúng là nhận dạng khuôn mặt là một giải pháp tuyệt vời và hữu ích cho cảnh sát. Thủ phạm của vụ đánh bom cuộc thi Marathon Boston đã được xác định bằng cách sử dụng phân tích sâu rộng và chi tiết về các bản ghi giám sát. Nhưng đây không thể là bằng chứng duy nhất để kết tội bất cứ ai. Phải có bằng chứng hỗ trợ để chứng minh kết quả của các thuật toán nhận dạng khuôn mặt và khái niệm sai lệch tự động hóa phải được xem xét trước khi đưa ra quyết định cuối cùng.
Sự cố phần cứng:Nhận dạng khuôn mặt trong thiết bị di động và máy ảnh
Các hệ thống camera giám sát và phần cứng và phần mềm liên quan không được thiết kế bởi một công ty duy nhất. Đó là một ngành công nghiệp trị giá hàng tỷ đô la, trong đó hàng chục tập đoàn cạnh tranh để giành được hợp đồng từ các cơ quan thực thi pháp luật. Nhiều hệ thống trong số này là của các nhà sản xuất Trung Quốc. Đó là tất cả về việc có được công nghệ rẻ nhất với chất lượng tốt nhất. Đó là cách nó chủ yếu hoạt động. Và do đó, luôn có khả năng xảy ra sự khác biệt trong hiệu chuẩn của các hệ thống khác nhau, cũng như sự khác biệt về chất lượng của kết quả giám sát. Nhiều thuật toán giám sát camera không hiệu quả trong việc hiệu chỉnh hình ảnh của người da màu chỉ vì thiếu năng lực kỹ thuật, do đó tôn vinh sự phân biệt chủng tộc.
Các vấn đề công nghệ gây ra phân biệt chủng tộc thông qua nhận dạng khuôn mặt cũng đã được chú ý trong tính năng Apple Face Lock. Một trường hợp từ Trung Quốc bị lật đổ rằng khóa mặt iPhone X không thể phân biệt giữa hai đồng nghiệp Trung Quốc khác nhau, khiến tính năng này trở nên vô dụng. Các báo cáo tương tự đã bị loại bỏ, trích dẫn các vấn đề trong tính năng tách hai người da đen với nhau. Như đã nêu ở trên, Apple chỉ có 6% người da đen trong đội kỹ thuật. Đây là một ví dụ rõ ràng về cách công nghệ nhận dạng khuôn mặt có thể thúc đẩy phân biệt chủng tộc ngay cả trong các thiết bị cầm tay của chúng ta.
Kết luận
Vâng, Nhận dạng khuôn mặt là phân biệt chủng tộc và đó là kiến thức phổ biến hiện nay. Mặc dù công nghệ đang phát triển hàng ngày để khắc phục những vấn đề như vậy, nhưng kết quả đều giống nhau. Công nghệ được cho là sẽ đoàn kết thế giới vì các mục tiêu chung là tiến bộ và phát triển kỹ thuật, nhưng một số kỹ thuật lại gây hại cho sự hòa hợp chủng tộc và cộng đồng.
Hiện tại, điều tốt nhất mà các quan chức thực thi pháp luật có thể làm là không hỗ trợ các trường hợp của họ dựa trên bằng chứng từ việc hiệu chỉnh thuật toán, vốn thậm chí còn không đáng tin cậy. Hơn nữa, đã đến lúc cần coi trọng sự đa dạng và hòa nhập tại nơi làm việc để mọi người thuộc mọi sắc tộc có thể cùng nhau tạo ra một sản phẩm không có sự chênh lệch chủng tộc. Có hàng nghìn chủng tộc trên thế giới và con người đã lớn lên để gạt bỏ sự khác biệt chủng tộc sang một bên, điều đã ám ảnh xã hội toàn cầu bấy lâu nay. Nếu điều đó phải được duy trì, thì những cỗ máy mà chúng ta dựa vào rất nhiều cũng phải được dạy như vậy.