Một số thử nghiệm ban đầu của người dùng đối với công cụ nhãn dán mới do AI tạo ra của Meta đã tạo ra một số sáng tạo đáng ngờ (và khá vui nhộn). Người dùng X @Pioldes đã tạo ra một loạt hình ảnh nhãn dán không phù hợp sau khi có quyền truy cập vào công cụ nhãn dán mới do AI tạo ra trên Facebook Messenger, bao gồm các binh lính trẻ em, các nhân vật Nintendo cầm súng, chuột Mickey đang ị và hình minh họa khỏa thân của Thủ tướng Canada Justin Trudeau.
Các ví dụ khác cho thấy công cụ nhãn dán AI của Meta có thể gắn một cặp ngực vào hầu hết mọi thứ, chẳng hạn như hình ảnh của Sonic the Hedgehog và Karl Marx. Thậm chí còn có một nhãn dán hình một người phụ nữ đang cho Pikachu bú.
Những nhãn dán trò chuyện do AI tạo này đã được công bố tại sự kiện Meta's Connect vào tuần trước, cùng với trình chỉnh sửa ảnh mới được hỗ trợ bởi AI của Instagram. Các nhãn dán do AI tạo ra được hỗ trợ bởi mô hình ngôn ngữ quy mô lớn Llama2 của Meta (đối thủ ChatGPT của công ty), cho phép người dùng "tạo nhiều nhãn dán độc đáo, chất lượng cao trong vài giây" bằng cách sử dụng lời nhắc dựa trên văn bản.
Các nhãn dán do AI tạo hiện đang được triển khai cho "một số người dùng nói tiếng Anh" trên Facebook Stories, Instagram Stories và DM, Messenger và WhatsApp, đồng thời sẽ tiếp tục triển khai cho nhiều người hơn trong tháng này, vì vậy chưa rõ có bao nhiêu người dùng sẽ có quyền truy cập vào tính năng này.
Một số từ nhất định dường như bị chặn và việc sử dụng những từ này trong lời nhắc sẽ cảnh báo người dùng rằng mô tả của họ có thể vi phạm Nguyên tắc cộng đồng của Meta. Tuy nhiên, những người dùng X khác báo cáo rằng họ vẫn có thể tạo nội dung không phù hợp bằng cách sử dụng lỗi chính tả hoặc mô tả từ bị hạn chế. Trong một số trường hợp, những lời nhắc như "Trung tâm Thương mại Thế giới" sẽ tạo ra hình ảnh được đề cập mà không có bất kỳ mô tả bổ sung nào.
Kiểu chơi khăm này rất phổ biến trong quá trình ra mắt các công cụ trí tuệ nhân tạo, đây cũng có thể là lý do khiến Meta ra mắt hạn chế các nhãn dán do trí tuệ nhân tạo tạo ra. Bằng cách này, nó có thể giải quyết và khắc phục tình trạng lạm dụng trước khi nó lan rộng ra đại chúng.