Khi công nghệ do AI tạo ra trở nên phổ biến hơn, Google sẽ bắt đầu yêu cầu các ứng dụng Android cung cấp cách báo cáo nội dung bị phản đối do AI tạo ra và tuân thủ các quy tắc kiểm duyệt mới về loại nội dung do AI tạo ra được chấp nhận.

Các ứng dụng sử dụng trí tuệ nhân tạo để tạo nội dung phải thêm nút gắn cờ hoặc báo cáo nội dung xúc phạm vào đầu năm tới để vẫn có mặt trên Cửa hàng Play của Google.

Google muốn đơn giản hóa quy trình báo cáo để người dùng có thể báo cáo mà không cần rời khỏi ứng dụng, tương tự như hệ thống báo cáo trong ứng dụng hiện có.

Công ty cho biết chính sách nội dung do AI tạo ra bao gồm các chatbot AI, các ứng dụng sử dụng AI để tạo hình ảnh và các ứng dụng sử dụng AI để tạo nội dung thoại hoặc video trực tiếp. Các ứng dụng lưu trữ nội dung do AI tạo ra, các ứng dụng chỉ sử dụng AI để tóm tắt tài liệu như sách và các ứng dụng năng suất sử dụng AI làm tính năng sẽ không phải tuân theo chính sách mới.

Theo quan điểm của Google, nội dung AI có vấn đề bao gồm tài liệu tình dục giả mạo không có sự đồng thuận, bản ghi âm của người thật được sử dụng để lừa đảo, nội dung bầu cử sai trái hoặc lừa đảo, các ứng dụng do AI tạo ra “chủ yếu nhằm mục đích thỏa mãn ham muốn tình dục” và tạo mã độc.

Google thừa nhận trong thông báo rằng thế hệ AI "là một danh mục ứng dụng đang phát triển nhanh chóng", tạo ấn tượng rằng Google có thể xem xét lại các chính sách AI của mình khi công nghệ tiếp tục phát triển.

Ngoài các quy tắc mới xung quanh nội dung do AI tạo ra, Google cũng đã thắt chặt các chính sách về quyền đối với ảnh và video của Cửa hàng Play để hạn chế số lượng ứng dụng có thể truy cập dữ liệu.

Công ty cho biết: "Ảnh và video trên thiết bị người dùng được coi là dữ liệu cá nhân nhạy cảm của người dùng và phải được xử lý bằng các biện pháp tốt nhất để bảo vệ quyền riêng tư nghiêm ngặt nhất. Thông tin nhạy cảm này có thể khiến người dùng dễ trở thành mục tiêu của những kẻ rò rỉ hoặc khai thác. Vì vậy hãy cố gắng giảm thiểu việc có ít quyền truy cập như vậy sẽ giúp tránh gánh nặng cho các nhà phát triển trong việc xử lý dữ liệu nhạy cảm đó."

Chỉ những ứng dụng yêu cầu quyền truy cập rộng rãi vào ảnh và video sẽ tiếp tục nhận được các quyền chung, trong khi các ứng dụng có mức sử dụng tệp phương tiện hạn chế sẽ cần sử dụng công cụ chọn ảnh.