YouTube đang mở rộng công nghệ “phát hiện điểm giống” mới ra mắt của mình cho ngành giải trí để giúp các ngôi sao và nhóm của họ xác định cũng như xóa nội dung do AI tạo và video giả mạo sâu khỏi nền tảng, công ty tiết lộ trong một thông báo trên trang web chính thức của mình vào thứ Ba.
Công cụ này hoạt động tương tự như hệ thống Content ID hiện có của YouTube, tự động phát hiện tài liệu có bản quyền khi người dùng tải video lên, giúp chủ sở hữu bản quyền dễ dàng yêu cầu xóa hoặc tham gia chia sẻ quảng cáo cho video hơn. Tính năng phát hiện chân dung tập trung vào việc xác định khuôn mặt mô phỏng và nhằm mục đích bảo vệ người sáng tạo cũng như các nhân vật của công chúng khác khỏi bị khai thác danh tính mà không được phép - ví dụ: chân dung người nổi tiếng bị sử dụng để quảng cáo lừa đảo, một vấn đề ngày càng trở nên phổ biến trong những năm gần đây.
Công nghệ của YouTube ban đầu được cung cấp cho một nhóm người sáng tạo chọn lọc dưới dạng dự án thí điểm vào năm ngoái và kể từ đó đã dần dần mở rộng phạm vi phủ sóng. Mùa xuân này, YouTube đã mở rộng phạm vi phủ sóng của mình để bao gồm các chính trị gia, quan chức chính phủ và nhà báo để giúp họ chống lại việc lạm dụng các tác phẩm sâu của AI. Giờ đây, công ty đã thông báo rằng công cụ này sẽ được mở rộng hơn nữa cho những người tham gia trong ngành giải trí, bao gồm các công ty tài năng, công ty quản lý nghệ sĩ và các nghệ sĩ nổi tiếng mà họ đại diện. Một số cơ quan lớn của Hollywood — bao gồm CAA, UTA, WME và Untitled Management — đã tham gia cung cấp phản hồi và cải tiến công cụ mới.
Điều đáng chú ý là việc sử dụng công cụ nhận diện chân dung này không yêu cầu nghệ sĩ phải có kênh YouTube. Đằng sau hậu trường, hệ thống quét nội dung do AI tạo trên nền tảng để phát hiện bất kỳ sự trùng khớp nào với thông tin khuôn mặt của những người tham gia đã đăng ký. Sau khi tìm thấy nội dung trùng khớp, người dùng có thể chọn bắt đầu yêu cầu xóa theo chính sách bảo mật của YouTube, gửi yêu cầu gỡ bỏ do vi phạm bản quyền hoặc quyết định không thực hiện hành động nào. Tuy nhiên, nền tảng này cũng nhấn mạnh rằng không phải tất cả các video có liên quan sẽ bị xóa vì các quy tắc của nó vẫn cho phép một số hành vi nhại và châm biếm nhất định.
YouTube tuyên bố rằng công nghệ này cũng sẽ được mở rộng để hỗ trợ khía cạnh âm thanh trong tương lai, có nghĩa là công nghệ này dự kiến sẽ xác định và xử lý các âm thanh do AI tổng hợp trái phép cũng như các nội dung khác trong tương lai. Khi sản phẩm phát triển, YouTube cũng ủng hộ việc có nhiều biện pháp bảo vệ có hệ thống hơn ở cấp liên bang, ủng hộ "Đạo luật KHÔNG CÓ HÀNG GIẢ" hiện đang được thảo luận tại Quốc hội Hoa Kỳ. Dự luật nhằm mục đích quản lý việc sao chép trái phép giọng nói cá nhân và chân dung trực quan bằng công nghệ trí tuệ nhân tạo, đồng thời đưa ra ranh giới pháp lý rõ ràng hơn cho các nhân vật của công chúng và người dùng bình thường.
Hiện tại, YouTube chưa tiết lộ có bao nhiêu yêu cầu xóa nội dung deepfake AI mà công cụ này đã xử lý cho đến nay. Tuy nhiên, công ty cho biết vào tháng 3 rằng số lần gỡ xuống do công cụ phát hiện chân dung gây ra vẫn "rất thấp". Khi công nghệ do AI tạo ra ngày càng thâm nhập sâu vào ngành giải trí và quảng cáo, ngày càng có nhiều nhân vật của công chúng, từ người sáng tạo, chính trị gia đến các ngôi sao điện ảnh và truyền hình, bắt đầu dựa vào các phương tiện kỹ thuật cấp nền tảng để đối phó với nguy cơ lạm dụng hình ảnh và giọng nói của họ.