PimEyes, một công cụ tìm kiếm công cộng sử dụng nhận dạng khuôn mặt để đối sánh ảnh của mọi người trực tuyến, hiện đã bị cấm đối với trẻ vị thành niên do lo ngại về sự an toàn của họ, The New York Times đưa tin. Ít nhất là về mặt lý thuyết. Hệ thống phát hiện mới của PimEyes, sử dụng AI phát hiện độ tuổi để xác định xem khuôn mặt có phải là khuôn mặt của trẻ em hay không, vẫn đang được phát triển. Sau khi thử nghiệm, tờ New York Times nhận thấy vẫn khó xác định liệu người được chụp ảnh có phải là trẻ em ở một số góc nhất định hay không và AI cũng không thể phát hiện chính xác liệu một thiếu niên có phải là người lớn hay không.
Giám đốc điều hành PimEyes Giorgi Gobronidze cho biết công ty đã lên kế hoạch thực hiện các biện pháp bảo vệ như vậy từ năm 2021. Nhưng sau khi cây bút Kashmir Hill của New York Times đăng một bài báo vào tuần trước về mối đe dọa mà AI gây ra đối với sự an toàn cá nhân của trẻ em, tính năng này cuối cùng đã được triển khai đầy đủ.
Hill viết trong bài báo rằng dịch vụ này đã cấm hơn 200 tài khoản thực hiện các tìm kiếm không phù hợp đối với trẻ em. Một phụ huynh nói với Hill rằng cô ấy thậm chí còn phát hiện ra những bức ảnh của con mình mà cô ấy chưa từng thấy khi sử dụng PimEyes trước đây. Để biết những hình ảnh này đến từ đâu, người mẹ phải trả phí đăng ký 29,99 USD/tháng.
PimEyes chỉ là một trong những công cụ nhận dạng khuôn mặt trên thế giới hiện đang bị giám sát vì vi phạm quyền riêng tư. Vào tháng 1 năm 2020, cuộc điều tra của Hill trên New York Times đã tiết lộ cách hàng trăm tổ chức thực thi pháp luật sử dụng công cụ nhận dạng khuôn mặt có tên Clearview AI mà không bị giám sát nhiều.
Chuyên gia công nghệ của Electronic Frontier Foundation, Daly Barnett, cho biết trong một cuộc phỏng vấn với The Intercept năm ngoái: "Đây chỉ là một ví dụ khác về một vấn đề tổng thể lớn trong công nghệ, cho dù nó có khả năng giám sát hay không." Ông cũng chỉ trích việc PimEyes thiếu các biện pháp bảo vệ trẻ em vào thời điểm đó: "(PimEyes) đã không xây dựng các biện pháp bảo vệ quyền riêng tư ngay từ đầu và người dùng phải chọn không để quyền riêng tư của họ bị xâm phạm."