Với sự phổ biến của công nghệ AI, nền tảng video YouTube đang phải đối mặt với những thách thức quản lý nội dung chưa từng có. Một mặt, nền tảng này tích cực khuyến khích người sáng tạo giới thiệu các công cụ AI để nâng cao hiệu quả và ranh giới của việc sản xuất nội dung; mặt khác, nền tảng này cũng nói rõ rằng họ sẽ xử lý nghiêm khắc các video "rác AI" có mức đầu tư thấp, sản xuất hàng loạt và thiếu giá trị đáng kể.
Cách đạt được sự cân bằng tinh tế giữa cả hai đã trở thành vấn đề cốt lõi hiện nay đối với ban quản lý YouTube.
Giám đốc điều hành YouTube gần đây đã phản hồi về hiện tượng này trong một cuộc phỏng vấn với New York Times. Ông chỉ ra rằng AI với tư cách là một công cụ không chỉ có thể thúc đẩy việc tạo ra nội dung chất lượng cao và thúc đẩy việc phổ biến sáng tạo mà còn có thể dễ dàng dẫn đến sự gia tăng của nội dung chất lượng thấp. Ông nhấn mạnh rằng mặc dù các vấn đề như nội dung chất lượng thấp và "clickbait" luôn tồn tại trên nền tảng này nhưng sự ra đời của công nghệ AI đã mang lại những biến đổi quy mô chưa từng có. Hiện tại, YouTube đang tiếp tục tối ưu hóa chiến lược quản trị và cam kết tìm kiếm sự cân bằng giữa khuyến khích ứng dụng công nghệ và duy trì hệ sinh thái nội dung để đảm bảo người dùng sẽ không bị ngập trong một lượng lớn nội dung do AI tạo ra chất lượng thấp khi mở ứng dụng.
Phân tích một bài báo của kênh truyền thông Mỹ Digital Trends đã chỉ ra rằng khó khăn thực sự trong việc đánh giá nội dung không chỉ là xác định nội dung chất lượng thấp mà còn phải đối phó với số lượng nội dung ngày càng tăng theo cấp số nhân. Quá trình sản xuất video trước đây tiêu tốn rất nhiều thời gian và công sức giờ đây có thể dựa vào AI để đạt được sản xuất hàng loạt chỉ trong vài phút. Sự thay đổi trong phương pháp sản xuất này đã làm tăng vô số các vấn đề video tầm thường mà ban đầu nằm trong tầm kiểm soát, làm tăng đáng kể khó khăn trong việc đánh giá và quản trị nền tảng.
Ngoài ra, ranh giới giữa “rác AI” và “sử dụng hợp lý sự sáng tạo có sự hỗ trợ của AI” vẫn còn rất mờ nhạt. Đối với các video được AI tạo hoàn toàn tự động và sử dụng lồng tiếng cơ học, cơ chế nhận dạng và đánh chặn của nền tảng này tương đối hoàn thiện. Tuy nhiên, khi người sáng tạo sử dụng AI để viết kịch bản, chỉnh sửa tài liệu hoặc thiết kế bìa, được bổ sung thêm một chút tinh chỉnh thủ công, những nội dung như vậy trong vùng xám thường khó đánh giá chính xác là tác phẩm chiếu lệ và chi phí thấp. Khi nội dung do AI tạo ra ngày càng trở nên chân thực hơn, những video tầm thường chỉ đáp ứng tiêu chuẩn “vừa đủ” đang tràn vào nền tảng với tốc độ chưa từng thấy.
Hiện tượng này cũng bộc lộ xung đột tiềm ẩn giữa cơ chế đề xuất cơ bản của nền tảng và các mục tiêu quản trị nội dung. Trong một thời gian dài, cơ chế thuật toán của nền tảng video có xu hướng khuyến khích cập nhật tần suất cao và người sáng tạo có hiệu suất cao, đồng thời công nghệ AI đã cung cấp cho các tổ chức như trang trại nội dung một công cụ lý tưởng để sản xuất hàng loạt video. Do đó, mặc dù nền tảng này tiếp tục nhấn mạnh việc hạn chế nội dung chất lượng thấp ở cấp chiến lược, nhưng xét về cơ chế phân phối lưu lượng truy cập cơ bản, nó vẫn phải đối mặt với vấn đề mang tính hệ thống là làm thế nào để tránh khuyến khích trá hình việc sản xuất hàng loạt nội dung.
Trước sự hỗn loạn trong quá khứ như nội dung spam và lạm dụng lỗ hổng, YouTube đã nhiều lần điều chỉnh chiến lược đánh giá của mình và đạt được những kết quả nhất định. Nhưng trong kỷ nguyên AI, quy mô của vấn đề ban đầu đã được khuếch đại hoàn toàn. Các nhà quan sát thị trường tin rằng mặc dù nền tảng này đã thể hiện sự sẵn sàng tích cực trong việc quản lý hệ sinh thái nội dung, nhưng đây vẫn là thử thách khắc nghiệt nhất mà YouTube phải đối mặt trong việc xây dựng kế hoạch phản hồi rõ ràng và thực tế trước khi luồng thông tin bị tràn ngập hoàn toàn bởi nội dung đồng nhất.