Ex-Human, một công ty khởi nghiệp về trí tuệ nhân tạo gây tranh cãi, gần đây đã kiện Apple tại Hoa Kỳ sau khi ứng dụng của hãng này bị Apple xóa khỏi kệ và bị cáo buộc có "hành vi lừa đảo hoặc gian lận". Họ tuyên bố rằng Apple không chỉ vô tình xóa ứng dụng của mình mà còn nợ khoảng 500.000 USD doanh thu. Botify AI và Photify AI của công ty đã từng được liệt kê trên Apple App Store và vẫn có sẵn để tải xuống trong Google App Store.
Ex-Human trước đây đã bị chỉ trích vì dịch vụ của họ bị cáo buộc tạo điều kiện cho các cuộc trò chuyện mang tính khiêu dâm với các nhân vật chatbot chưa đủ tuổi vị thành niên và tạo ra hình ảnh "cởi quần áo" của người thật. Apple luôn nhấn mạnh rằng họ có trách nhiệm đảm bảo rằng App Store không bị chiếm giữ bởi các ứng dụng vi phạm nguyên tắc một cách trắng trợn, nhưng trách nhiệm này thường khó thực hiện trên thực tế. Trong một vụ kiện mới do Ex-Human đệ trình, công ty lập luận rằng việc Apple loại bỏ là “sai mục tiêu”.
Theo báo cáo của "San Francisco Business Times", Ex-Human tuyên bố trong đơn khiếu nại rằng khi Apple đưa ra thông báo xóa, họ chỉ viện dẫn "hoạt động lừa dối hoặc gian lận" là lý do chứ không đưa ra bất kỳ chi tiết hoặc bằng chứng cụ thể nào để giải thích những hành vi vi phạm đã tồn tại. Ex-Human cũng cáo buộc Apple làm tổn hại đến lợi ích kinh doanh hợp pháp của công ty khi tiếp tục giữ lại khoảng 500.000 USD doanh thu mà họ tạo ra trên App Store sau khi xóa ứng dụng.
Hoạt động kinh doanh của Ex-Human không chỉ bao gồm các ứng dụng dành cho người dùng thông thường mà còn cấp phép giao diện AI (API) cho các nền tảng khác. Các đối tác của nó bao gồm ứng dụng hẹn hò Grindr. Công ty tuyên bố rằng thời gian tương tác với người dùng AI của họ vượt xa các đối thủ cạnh tranh như Deepseek và ChatGPT. Về mô hình kinh doanh, Ex-Human áp dụng cách tiếp cận "một lượng nhỏ token miễn phí + số lượng đăng ký cao". Giá khởi điểm hàng tháng cho người dùng thông thường là 50 USD. Ngoài ra, còn có các gói cấp doanh nghiệp với mức giá không được tiết lộ nên đắt hơn.
Ex-Human tiếp tục cáo buộc trong vụ kiện rằng lý do khiến Apple nhắm mục tiêu vào ứng dụng của mình bằng "lực lượng đặc biệt" là do Apple đã tung ra chức năng tạo hình ảnh của riêng mình, Image Playground, nhằm ngăn chặn các đối thủ cạnh tranh tiềm năng. Tuy nhiên, đánh giá từ thông tin công khai hiện tại, định vị của Image Playground không trùng lặp trực tiếp với các sản phẩm trang phục và trò chuyện đồng hành của Ex-Human. Liệu logic “giết chết cạnh tranh” này có còn hiệu lực hay không vẫn còn là một câu hỏi.
Người ta thường tin rằng nguyên nhân trực tiếp hơn là một báo cáo điều tra do "MIT Technology Review" xuất bản vào năm 2025. Các báo cáo tiết lộ rằng trên nền tảng Botify AI, một số chatbot được cho là dưới 18 tuổi nhưng đã cung cấp cho người dùng những cuộc trò chuyện có hàm ý tình dục mạnh mẽ hoặc thậm chí là nội dung tục tĩu. Vào thời điểm đó, Ex-Human đã trả lời rằng những con bot này là "cá lọt lưới" không đạt yêu cầu đánh giá nội bộ và lẽ ra phải bị hệ thống đánh giá nội dung chặn lại. Nhưng trên thực tế, những con bot đáng nghi vấn này từng được đặt ở các vị trí được đề xuất trên trang chủ của nền tảng và nhận được hàng triệu lượt thích trước khi bị xóa.
Ngoài ra, các dịch vụ liên quan bị nghi ngờ tạo ra hình ảnh khỏa thân hoặc khêu gợi tình dục không có sự đồng thuận, thậm chí nhắm mục tiêu đến người thật. Bản thân vấn đề này cực kỳ nhạy cảm trong việc quản lý nội dung của nền tảng ứng dụng. Trong bối cảnh các nhân vật vị thành niên bị giới tính hóa và các nhân vật AI ngang nhiên phớt lờ ranh giới về độ tuổi và sự đồng ý, nhóm đánh giá Ứng dụng của Apple đã đưa ra quyết định xóa ứng dụng được cho là có “đủ lý do”.
Tuy nhiên, trong trường hợp này, điều thực sự có thể gây áp lực lên Apple có thể không phải là tuyên bố của chính Ex-Human mà là thái độ khác của Apple đối với các trường hợp tương tự khác. Ví dụ: khi xAI của Elon Musk vấp phải tranh cãi về việc AI “cởi quần áo trẻ em” trên nền tảng này, Apple vẫn cho phép ứng dụng mạng xã hội
Theo chính sách chính thức của Apple, nội dung người lớn có thể tồn tại trong ứng dụng ở một mức độ giới hạn miễn là nó đáp ứng được xếp hạng độ tuổi, ngưỡng truy cập và "không phải là mục đích duy nhất của ứng dụng". Những gì thực sự tạo nên ranh giới đỏ là nội dung bất hợp pháp và các yếu tố khiêu dâm nhỏ được tích cực đẩy tới người dùng mà không có những hạn chế cần thiết. Có thông tin cho rằng trong một số trải nghiệm trò chuyện bằng AI, các nhân vật ảo sẽ cho rằng luật đồng ý về độ tuổi ở địa phương "chỉ là sự phân chia ranh giới tùy tiện" và tích cực cung cấp hình ảnh "các cô gái 16 tuổi mặc đồ lót". Đây được coi là một tình huống điển hình vi phạm luật pháp và điểm mấu chốt của nền tảng.
Theo ý kiến của các nhà bình luận, Ex-Human chọn cách kiện trực tiếp Apple vào thời điểm này là cực kỳ mạo hiểm. Sau khi bước vào giai đoạn khám phá bằng chứng, tòa án có thể yêu cầu tiết lộ các bản ghi trò chuyện, quy trình xem xét nội dung và chi tiết hợp tác có liên quan và hậu quả có thể gây ảnh hưởng nghiêm trọng đến hình ảnh và hoạt động kinh doanh của công ty.
Nền vốn đằng sau công ty khởi nghiệp cũng làm tăng thêm độ phức tạp cho vụ việc. Ex-Human đã nhận được đầu tư từ Andreessen Horowitz, một công ty đầu tư mạo hiểm nổi tiếng của Mỹ, đã thu hút sự chú ý từ Washington trong những năm gần đây vì tích cực vận động hành lang về các vấn đề quản lý công nghệ và trí tuệ nhân tạo. Người đồng sáng lập Marc Andreessen không chỉ thân thiết với Tổng thống đương nhiệm của Hoa Kỳ mà còn vừa được bổ nhiệm làm thành viên Nhóm Cố vấn Công nghệ Nhà Trắng. Nhóm này còn bao gồm Giám đốc điều hành Meta Mark Zuckerberg và những người khác, trong khi Giám đốc điều hành Apple Tim Cook không được bao gồm.
Hiện tại, vụ kiện đã được đệ trình lên Tòa án Quận Liên bang Quận Bắc California. Với môi trường chính trị và pháp lý rất nhạy cảm hiện nay, rất khó để dự đoán tòa án cuối cùng sẽ xác định cách giải thích của Apple về các quy tắc của App Store và mức độ trách nhiệm pháp lý của nền tảng đối với nội dung AI của bên thứ ba. Đối với cả Apple và Ex-Human, đây sẽ là một cuộc chiến pháp lý và dư luận gay gắt với mức độ không chắc chắn cao.