Iot
Cảnh sát Mỹ bị cho là "đang dùng công nghệ nhận diện gương mặt sai cách"
Cảnh sát Mỹ đã sử dụng một bức ảnh của Woody Harrelson để tìm kiếm thủ phạm trong một vụ án khi nghe theo lời khai của các nhân chứng là "trông hắn giống Woody Harrelson".

Công nghệ nhận diện gương mặt nghe có vẻ khá phức tạp với những người không am hiểu về công nghệ, nhưng thực chất cách thức hoạt động của nó cũng rất đơn giản. Thuật toán nhận diện sẽ thiết lập một số công đoạn để quét và so sánh các gương mặt, giống như cách công cụ tìm kiếm hay hệ thống nhận diện giọng nói hoạt động. Vấn đề là cách người ta ứng dụng công nghệ này như thế nào, chẳng hạn như trong việc quảng cáo, marketing hay đáng tranh cãi hơn là giúp cảnh sát bắt tội phạm.

Những vấn đề này trở nên nghiêm trọng hơn nếu hệ thống bị sử dụng sai cách, khác với định hướng thiết kế ban đầu của nó. Một nghiên cứu mới đây của Georgetown đã hé lộ sự thật là các sĩ quan cảnh sát tại sở cảnh sát New York (NYPD) đang có vấn đề với công nghệ nhận diện gương mặt. Cụ thể, họ thường "sáng tác" thêm các chi tiết của bức ảnh trước khi đưa vào hệ thống, chẳng hạn như sao chép thêm một con mắt hay một cái miệng cho khuôn mặt cần nhận diện, để tuân thủ các yêu cầu của hệ thống.

Một trường hợp nổi tiếng và nghiêm trọng nhất đó là khi các sĩ quan đã sử dụng một bức ảnh của diễn viên điện ảnh nổi tiếng Woody Harrelson để tìm kiếm thủ phạm trong một vụ án, chỉ vì theo lời khai của các nhân chứng là "trông hắn giống Woody Harrelson". 

Hệ thống nhận diện gương mặt chưa bao giờ được chế tạo để sử dụng theo cách như thế, và có thể dẫn đến một sự thật hiển nhiên: tỷ lệ lỗi sẽ tăng cao. Nếu bạn tin tưởng vào cách làm của cảnh sát, số lượng gương mặt được đưa vào diện tình nghi chắc chắn sẽ tăng lên sau khi trải qua sự phân tích của hệ thống. Nhưng nếu bạn không tin tưởng, thì vấn đề sẽ rất ảm đạm.

Sẽ có chuyện những người vô tội vô tình bị cảnh sát "hỏi thăm" khi đang đi trên đường do mặt họ giống với mặt của kẻ bị tình nghi, dù tỷ lệ một người bị bắt giữ và tuyên án chỉ dựa vào căn cứ của hệ thống nhận diện gương mặt là gần như không thể xảy ra. Nhưng thế là đủ cho một cuộc khủng hoảng pháp lý bởi đôi khi người vô tội sẽ bị giữ lại và thẩm vấn thêm, và thuật toán nhận diện gương mặt lúc này sẽ bị đặt dưới ánh mắt nghi ngờ của công chúng.

Nếu thuật toán nhận diện gương mặt được sử dụng không chính xác, cảnh sát phụ trách điều tra có thể tăng sự hoài nghi. Độ nhạy của các thuật toán này là hoàn toàn có thể điều chỉnh được (và những điều chỉnh đó là khó thực hiện), nên các sĩ quan cảnh sát khi đó sẽ có xu hướng sửa thêm vào một bức ảnh của kẻ tình nghi theo tỷ lệ nhất định cho đến khi có đối tượng giống được lọc ra. Đó là một vấn đề khó giải quyết, đặc biệt khi bạn không tin tưởng người vận hành các công cụ nhận diện gương mặt này. Và đối với những chỉ trích từ bên ngoài về công nghệ nhận dạng khuôn mặt, nó sẽ làm cho toàn bộ hệ thống trở nên "bất tín nhiệm" hơn.

Gửi bình luận
Có thể bạn quan tâm
Iot
Đến bệnh viện không dùng tiền mặt, không xếp hàng chờ đợi

Sáng nay, tại TT Hội nghị Quốc tế - TP.Hà Nội, Bộ Y tế tổ chức Hội nghị trực tuyến “Đẩy mạnh triển khai thanh toán điện tử không dùng tiền mặt trong y tế”, Bộ trưởng Bộ Y tế Nguyễn Thị Kim Tiến cho biết, cùng với Bệnh án điện tử, Thanh toán phí/Viện phí không dùng tiền mặt là nội dung quan trọng được Bộ Y tế đẩy mạnh triển khai.

Phát hiện 125 lỗ hổng bảo mật khiến các thiết bị IoT trong gia đình dễ bị tấn công

Lỗ hổng bảo mật trên các thiết bị “cửa ngõ” và dùng chung mạng internet có thể khiến hàng loạt thiết bị IoT khác trong gia đình như máy pha cà phê, ổ khoá thông minh bị tấn công.

Huawei công bố hệ thống đào tạo AI nhanh nhất thế giới?

Huawei cho biết hệ thống của mình chỉ mất 59,8 giây để đào tạo ResNet-50 - tiêu chuẩn vàng để đo hiệu suất đào tạo AI. Tốc độ này nhanh hơn 10 giây so với kỷ lục thế giới trước đó.

Cục An toàn thông tin cảnh báo chiến dịch lừa đảo mới

Kẻ tấn công sử dụng các trang SharePoint và tài liệu OneNote (các ứng dụng của Microsoft) để chuyển hướng người dùng từ ứng dụng ngân hàng đến trang lừa đảo.