Ngày 26 tháng 3 năm Theo Financial Times, OpenAI đã "vô thời hạn" gác lại kế hoạch phát hành một chatbot khiêu dâm để tập trung lại vào sản phẩm cốt lõi của mình. Trước đây, các nhân viên và nhà đầu tư của OpenAI đã bày tỏ lo ngại về tác động của nội dung AI khiêu dâm đối với xã hội.

Theo nhiều người quen thuộc với vấn đề này, OpenAI đã hoãn phát hành "chế độ người lớn" và đã thảo luận nội bộ về việc có nên từ bỏ hoàn toàn mô hình này hay không. Giờ đây, chatbot khiêu dâm đang phải đối mặt với sự phản đối ngày càng tăng. Có những lo ngại rằng nó có thể thúc đẩy sự phụ thuộc không lành mạnh vào hệ thống AI và khiến trẻ vị thành niên tiếp xúc với nội dung khiêu dâm có vấn đề.

OpenAI xác nhận rằng mô hình khiêu dâm này đã bị tạm dừng và chưa có lịch phát hành. Công ty AI trị giá 730 tỷ USD cho biết họ muốn tiến hành nghiên cứu dài hạn về tác động của trò chuyện khiêu dâm và gắn kết tình cảm trước khi đưa ra quyết định về sản phẩm, thừa nhận rằng hiện tại không có "bằng chứng thực nghiệm".

Động thái này đánh dấu quyết định của OpenAI từ bỏ các dự án mà các nhà điều hành gọi là “hoạt động kinh doanh không cốt lõi” và thay vào đó đầu tư nguồn lực vào các công cụ năng suất. Nó có kế hoạch tích hợp trợ lý mã, ChatGPT và các sản phẩm khác thành một “siêu ứng dụng”.

Theo hai người quen thuộc với vấn đề này, Những nỗ lực của OpenAI ở “chế độ dành cho người lớn” đã gây ra sự lo lắng cho một số nhà đầu tư vì những sản phẩm như vậy có rủi ro và mang lại lợi nhuận tương đối hạn chế cho hoạt động kinh doanh của họ.

Chế độ dành cho người lớn của OpenAI cũng gây lo ngại cho các nhân viên nội bộ, những người đặt câu hỏi liệu việc phát triển một sản phẩm khuyến khích những mục đích lãng mạn có xung đột với sứ mệnh sáng lập của nó là “đảm bảo rằng AI mang lại lợi ích cho toàn nhân loại hay không”.

"AI không nên thay thế bạn bè hoặc gia đình của bạn, cần có sự kết nối tình cảm giữa con người với nhau." Một cựu nhân viên cấp cao của OpenAI cho biết. Nhân viên này cho biết anh rời đi một phần vì vấn đề này.

Ngoài mối lo ngại ngày càng tăng về tác động xã hội của dự án, OpenAI còn phải đối mặt với những thách thức kỹ thuật trong việc tạo chế độ dành cho người lớn. Hai người quen thuộc với vấn đề này cho biết OpenAI đang gặp khó khăn trong việc đào tạo các mô hình AI của mình. Những người mẫu trước đây tránh những cuộc trò chuyện như vậy vì lý do an toàn, giờ đây đang được đào tạo để tạo ra nội dung tục tĩu. Họ nói thêm rằng có nhiều thách thức trong việc sử dụng các bộ dữ liệu chứa nội dung khiêu dâm, bao gồm cả cách lọc ra các hành vi bất hợp pháp như loạn luân.

Trong vài tháng qua, OpenAI đã ra mắt một hệ thống dự đoán tuổi mới sau khi nhiều gia đình thanh thiếu niên đệ đơn kiện cho rằng ChatGPT đã gây hại cho họ. Công nghệ này có tỷ lệ lỗi hơn 10%, theo một người quen thuộc với vấn đề này, làm tăng thêm lo ngại về việc trẻ vị thành niên tiếp xúc với nội dung. Tạp chí Phố Wall lần đầu tiên đưa tin về tỷ lệ lỗi, lưu ý rằng ủy ban cố vấn của OpenAI gồm các chuyên gia sức khỏe thể chất và tinh thần đã bày tỏ lo ngại về sản phẩm dành cho người lớn.