Dự luật California sẽ tạm dừng nhận diện khuôn mặt trên Bodycam


Tháng trước, các thành viên của cơ quan lập pháp California đã phải chịu một thí nghiệm giám sát, với sự cho phép của Liên minh Tự do Dân sự Hoa Kỳ. Chân dung của họ đã được đưa vào phần mềm nhận dạng khuôn mặt Amazon Nhận Rekognition và được so sánh với cơ sở dữ liệu 25.000 bức ảnh chụp cốc bắt giữ. Hai mươi sáu nhà lập pháp đã được xác định không chính xác là phù hợp. Các nghi phạm có thể bao gồm Nghị sĩ Phil Ting, một đảng viên Dân chủ từ San Francisco. Ông hy vọng nó sẽ hỗ trợ cho dự luật của mình, AB 1215, để cấm nhận dạng khuôn mặt từ các camera của cảnh sát.

Vào thứ Tư, thượng viện tiểu bang đã thông qua một dự luật hơi khác biệt không phải là lệnh cấm mà là lệnh cấm hết hạn sau ba năm. Thay đổi đã đến trước thời hạn để sửa đổi trước khi phiên kết thúc vào tuần này. Một số người ủng hộ quyền riêng tư lo lắng rằng ngày hết hạn hóa đơn sẽ cung cấp cho các công ty, nhiều người trong số họ thừa nhận những hạn chế của công nghệ, thời gian để cải thiện thuật toán của họ và chiến thắng những người hoài nghi. Trong ba năm, nếu thử nghiệm ACLU, được phát lại, liệu các công ty nhận diện khuôn mặt có vượt qua nó không?

Dự luật cần được sự chấp thuận của Quốc hội bang và chữ ký của thống đốc điều tra để trở thành luật, đã được ACLU tôn vinh như một bước tích cực. Matt Cagle, một luật sư tại ACLU của Bắc California, nói rằng máy ảnh cơ thể, được quảng cáo là công cụ để giải trình sau khi bắn chết những người da màu không vũ trang, sẵn sàng biến thành công cụ giám sát. Một số người khác nói về vấn đề này. Dự luật sẽ cấm sử dụng các thuật toán nhận dạng khuôn mặt trong thời gian thực, khi các máy ảnh cơ thể đang quay và trong phân tích pháp y về các cảnh quay tiếp theo. Nó thực hiện miễn trừ cho các thuật toán phát hiện và sắp xếp lại khuôn mặt từ các cảnh quay trên cơ thể, để các quy tắc không làm chậm các yêu cầu hồ sơ công khai.

Các lệnh cấm xuất hiện trong bối cảnh mối lo ngại ngày càng tăng về nhận dạng khuôn mặt trong không gian công cộng. Các thành phố bao gồm San Francisco và Oakland đã thông qua các lệnh cấm rộng hơn về việc sử dụng nhận dạng khuôn mặt của chính phủ và Massachusetts đang xem xét một lệnh cấm toàn tiểu bang. Các dự luật đã bị thúc đẩy bởi những lo ngại về quyền riêng tư và thiên vị mà một số người tranh luận là cố hữu, nhưng cũng có những thiếu sót về kỹ thuật khiến ngay cả các công ty phát triển công nghệ cũng nói rằng nó đã sẵn sàng cho thời điểm chính.

Mùa xuân năm ngoái, Microsoft cho biết họ đã từ chối bán phần mềm nhận dạng khuôn mặt của mình cho một cơ quan cảnh sát California giấu tên. Vào tháng 6, Axon, nhà cung cấp máy ảnh cơ thể lớn nhất cho cơ quan thực thi pháp luật, cho biết họ sẽ bao gồm nhận diện khuôn mặt trong sản phẩm của mình, theo khuyến nghị của hội đồng đạo đức bên ngoài. Một phần, đó là một sự thừa nhận rằng công nghệ chỉ đơn giản là không hoạt động đủ tốt, ít nhất là chưa. Mặc dù nhận dạng khuôn mặt trong lịch sử đã được sử dụng để ghép các khuôn mặt trên các hình ảnh rõ ràng, hướng về phía trước, nhưng so sánh một cốc bắn với cơ sở dữ liệu về các vụ bắt giữ trước đó, điều đó rất khó thực hiện trong thời gian thực. Các sĩ quan thường thấy mình trong các tình huống liên quan đến ánh sáng xấu, góc độ khó hoặc chuyển động nhanh. Axon đã bỏ ngỏ khả năng nó có thể theo đuổi công nghệ nhận dạng khuôn mặt trong tương lai.

Hãy đọc tiếp



Mới nhất về trí tuệ nhân tạo, từ học máy đến thị giác máy tính và hơn thế nữa

Các công ty như Amazon đã lập luận rằng nhận dạng khuôn mặt nên được quy định, không bị cấm. Công ty đã đẩy lùi thử nghiệm ACLU tháng 8, nói rằng các trận đấu xấu sẽ không xảy ra nếu ACLU yêu cầu xác suất 99% cho một trận đấu. (ACLU cho biết họ đã sử dụng các tiêu chuẩn của nhà máy, dùng để thử nghiệm.) Quỹ Công nghệ thông tin và đổi mới, một nhóm ngành nhận được sự hỗ trợ từ các công ty bao gồm Microsoft và Amazon, phản đối AB 1215, cho rằng công nghệ này có thể chống lại sự thiên vị khi con người xem xét cảnh quay.

Tuy nhiên, sự phản đối mạnh mẽ nhất là từ các nhóm cảnh sát nói rằng họ tước đi một phần công nghệ quan trọng cho an toàn công cộng. Dự luật sai lầm giả định rằng những người ở nơi công cộng sở hữu hoặc có được sự kỳ vọng hợp lý về quyền riêng tư, Hiệp hội Cảnh sát trưởng Cảnh sát sông Riverside đã viết trong một phân tích về dự luật.

Sự chuyển đổi từ lệnh cấm sang lệnh cấm, theo Ting, xuất phát từ mối lo ngại từ các nhà lập pháp, những người mà ông muốn xem xét lại vấn đề khi công nghệ được cải thiện. Một ông nói rằng một lệnh cấm cân bằng hợp lý, giúp các quan chức và công nghệ có thêm thời gian và linh hoạt. Nếu bạn định triển khai máy ảnh trên khắp một thành phố cụ thể, bạn sẽ có một quy trình công cộng quan trọng. Ngay bây giờ, cơ quan thực thi pháp luật có thể làm điều đó mà không cần một quy trình công khai và có những camera đó quay vòng.