Các quan chức biên giới không có dữ liệu để giải quyết sự thiên vị chủng tộc trong công nghệ nhận dạng khuôn mặt

Nhận dạng khuôn mặt công nghệ dễ bị lỗi và khi nói về khuynh hướng chủng tộc tại các sân bay, rất có thể nó không học hỏi từ những sai lầm của mình.

Debra Danisek, một nhân viên bảo mật của Cơ quan Hải quan và Biên phòng Hoa Kỳ, đã nói chuyện với khán giả vào thứ Sáu tại Hội nghị thượng đỉnh quốc tế về chuyên gia bảo mật về những dữ liệu mà công nghệ nhận dạng khuôn mặt của nó thu thập – nhưng quan trọng hơn là dữ liệu nào nó không thu thập được.

"Về mặt 'Công nghệ này có tác động khác nhau đến các nhóm chủng tộc khác nhau không?' chúng tôi không thu thập loại dữ liệu đó ", Danisek nói. "Về mặt giữ các số liệu về nhóm nào bị ảnh hưởng nhiều hơn, chúng tôi sẽ không có các số liệu đó để bắt đầu."

Nói cách khác, trong khi CBP thu thập dữ liệu có sẵn trên hộ chiếu của mọi người – tuổi, giới tính và quyền công dân – để giúp cải thiện thuật toán nhận dạng khuôn mặt, thì nó không thu thập dữ liệu về chủng tộc và sắc tộc, ngay cả khi hành khách bị nhầm lẫn.

Vì vậy, CBP không biết khi nào có sự không phù hợp dựa trên màu da của một người. Nó dựa vào các báo cáo từ Bộ An ninh Nội địa Chương trình khắc phục để xác định khi điều đó xảy ra.

"Nếu họ nhận thấy chúng tôi có một mô hình những người khiếu nại quá trình này, thì chúng tôi sẽ điều tra," Danisek nói.

Giới tính và chủng tộc đặt ra một thách thức cho nhận dạng khuôn mặt. Các nghiên cứu đã chỉ ra công nghệ có một khó xác định thời gian hơn phụ nữ và những người có làn da tối màu. Những người ủng hộ dân quyền cảnh báo rằng những thiếu sót có thể bất lợi ảnh hưởng đến dân tộc thiểu số.

Một số sân bay và hãng hàng không đã triển khai công nghệ sinh trắc học trên khắp Hoa Kỳ, cung cấp một cách nhanh hơn để lên chuyến bay của bạn. Công nghệ quét khuôn mặt của khách du lịch và đối chiếu với ảnh hộ chiếu do Bộ Ngoại giao cung cấp cho các hãng hàng không. Nó sẽ được sử dụng trong 20 sân bay hàng đầu của Mỹ vào năm 2021. CBP cho biết họ có tỷ lệ trùng khớp ở phân vị cao thứ 90, trong khi một nghiên cứu từ Văn phòng Tổng thanh tra của DHS cho thấy nó có tỷ lệ trùng khớp gần hơn 85%.

Hải quan và Bảo vệ Biên giới cho biết hệ thống đang trở nên tốt hơn. Một phát ngôn viên của cơ quan lưu ý rằng nghiên cứu OIG đã rút ra từ một bản demo vào năm 2017 xem xét tiềm năng của Dịch vụ xác minh khách du lịch.

"Trong triển khai TVS hiện tại," người phát ngôn nói, "CBP đã có thể chụp ảnh thành công và phù hợp với hơn 98% khách du lịch có ảnh trong các hệ thống của Chính phủ Hoa Kỳ."

Ngoài ra, CBP đang hợp tác với Viện Tiêu chuẩn và Công nghệ Quốc gia để phân tích hiệu suất của công nghệ phù hợp với khuôn mặt, "bao gồm các tác động do nhân khẩu học và chất lượng hình ảnh của khách du lịch", người phát ngôn nói.

Một thiếu dữ liệu đa dạng là nguyên nhân dẫn đến sự thiên vị chủng tộc với nhận dạng khuôn mặt để bắt đầu với. Các chuyên gia đã gợi ý rằng cơ sở dữ liệu ảnh để nhận dạng khuôn mặt có thể sử dụng nhiều hình ảnh của người da trắng hơn người da màu, điều này làm sai lệch hiệu quả của công nghệ đối với người thiểu số.

Jake Laperruque, một cố vấn cao cấp tại Dự án Hiến pháp, lo ngại rằng cơ quan này đang nhắm mắt làm ngơ trước khả năng thiên vị chủng tộc tại các sân bay.

"Các ý kiến ​​phản ánh sự thiếu quan tâm đáng lo ngại về vấn đề được chứng minh bằng văn bản của các hệ thống nhận dạng khuôn mặt có tỷ lệ lỗi cao hơn đối với người da màu", Laperruque nói trong email. "CBP không thể đơn giản bỏ qua một vấn đề nghiêm trọng và 'không thấy cách tiếp cận xấu xa' – nếu họ không sẵn sàng đối mặt với các vấn đề dân quyền nghiêm trọng và giải quyết chúng, họ không nên tin tưởng để vận hành một chương trình như thế này . "

Xuất bản lần đầu ngày 6 tháng 5.
Cập nhật ngày 8 tháng 5: Đã thêm nhận xét từ người phát ngôn của CBP.