Facebook và Instagram đang tung ra cơ chế nhận dạng trẻ vị thành niên mới sử dụng trí tuệ nhân tạo để phân tích các đặc điểm thị giác như chiều cao và cấu trúc xương trong ảnh và video do người dùng đăng trên nền tảng này nhằm xác định tài khoản của trẻ em dưới 13 tuổi và xóa chúng.
Trong một blog xuất bản hôm thứ Ba, Meta, công ty mẹ của Facebook và Instagram, cho biết hệ thống AI sẽ quét nội dung trên nền tảng để tìm "chủ đề chung và manh mối trực quan", bao gồm các thông tin như tỷ lệ cơ thể và cấu trúc xương của người dùng.
Meta nhấn mạnh trong blog rằng hệ thống này "không phải là nhận dạng khuôn mặt" và sẽ không xác định danh tính cá nhân cụ thể trong ảnh nhưng được sử dụng để hỗ trợ xác định xem người dùng có thể dưới độ tuổi hợp pháp hay không. Là một phần trong các biện pháp bảo vệ trẻ vị thành niên của nền tảng, hệ thống này cũng sẽ kết hợp các cập nhật, nhận xét, hồ sơ cá nhân và văn bản đi kèm của người dùng để trích xuất "manh mối ngữ cảnh" có thể cho thấy họ là trẻ vị thành niên.
Hiện tại, khả năng phân tích khuôn mặt và xương dựa trên AI này chỉ khả dụng ở một số quốc gia, bao gồm cả Hoa Kỳ và sẽ dần dần mở rộng sang nhiều khu vực hơn. Sau khi hệ thống xác định rằng tài khoản thuộc về người dùng dưới 13 tuổi, Facebook và Instagram sẽ vô hiệu hóa tài khoản đó và chủ tài khoản phải thực hiện quy trình xác minh độ tuổi bổ sung để tránh bị xóa hoàn toàn tài khoản.
Cách tiếp cận này hơi giống với công nghệ quét khuôn mặt được sử dụng bởi các dịch vụ xác minh độ tuổi của bên thứ ba như Yoti và k-ID, nhưng Meta cố gắng giảm bớt những lo ngại về quyền riêng tư và lạm dụng bằng cách nhấn mạnh vào thuộc tính "không nhận dạng khuôn mặt". Tuy nhiên, các cuộc thảo luận xung quanh việc xác minh độ tuổi trực tuyến và bảo vệ quyền riêng tư vẫn đang nóng lên trên toàn cầu và áp lực pháp lý và quy định liên quan cũng đang gia tăng.
Meta Thời điểm đưa ra thông báo này khá nhạy cảm. Chỉ vài ngày trước, bồi thẩm đoàn ở New Mexico đã ra phán quyết rằng Meta đã vi phạm luật tiểu bang khi gây hiểu lầm và cẩu thả trong tuyên bố rằng nền tảng của nó an toàn và bảo vệ trẻ em khỏi những kẻ săn mồi tình dục. Theo phán quyết, Meta phải trả 375 triệu USD tiền bồi thường và có thể thực hiện một loạt điều chỉnh đối với cơ chế nền tảng, điều này trước đây đã khiến Meta đe dọa “xem xét rút khỏi bang”.
Đồng thời, Meta cũng đang mở rộng công nghệ xếp hạng độ tuổi được sử dụng trước đây trên Instagram để quảng bá nó đến một nhóm người dùng lớn hơn. Công ty cho biết họ sẽ tự động xác định và phân loại người dùng trong độ tuổi từ 13 đến 18 vào cái gọi là “Tài khoản thanh thiếu niên” để áp đặt các cài đặt mặc định về quyền riêng tư và bảo mật chặt chẽ hơn, chẳng hạn như hạn chế tiếp xúc với đề xuất hơn, quyền nhận thông tin chặt chẽ hơn và kiểm soát tương tác chặt chẽ hơn.
Hàng loạt biện pháp mới này xuất hiện trong bối cảnh các nền tảng Internet toàn cầu đang phải đối mặt với sự giám sát ngày càng nghiêm ngặt trong việc bảo vệ trẻ vị thành niên. Các nhà lập pháp và cơ quan quản lý ở nhiều quốc gia khác nhau không ngừng thúc đẩy các công ty truyền thông xã hội đưa ra các chương trình xác minh độ tuổi, hạn chế sử dụng và xếp hạng nội dung để giải quyết rủi ro người dùng chưa đủ tuổi tiếp xúc với nội dung có hại, bị bắt nạt trên mạng và bị người lớn vô đạo đức lợi dụng. Khi công nghệ lặp đi lặp lại và các quy định thắt chặt, làm thế nào để đạt được sự cân bằng giữa việc xác định trẻ vị thành niên, ngăn chặn lạm dụng dữ liệu và bảo vệ quyền riêng tư đang trở thành một thách thức chính mà những gã khổng lồ công nghệ như Meta không thể tránh khỏi.