Vào ngày 15 tháng 11, Sinovation Ventures CMO đã đăng trên WeChat Moments để phản ứng lại sự cố “đạo văn LLaMA” của người mẫu Yi. Cô cho biết Zero One Wish đã đưa ra hướng dẫn huấn luyện mẫu Yi-34B nhằm đáp lại ý kiến dư luận về kiến trúc của mô hình. Sinovation Ventures CMO đã ban hành một tài liệu nói rằng theo sự phát triển của ngành và dần dần trở thành một cơ sở hạ tầng phổ quát và thân thiện với môi trường đã trở thành một "mô hình mô phỏng và sao chép"? (Giống như các nhà phát triển ứng dụng di động được hưởng lợi từ kiến trúc chung của iOS và Android). Lingyiwanwu sẽ tiếp tục khiêm tốn học hỏi từ cộng đồng và tiếp tục tiến bộ.
Theo mô tả, Zero Yiwu đã đào tạo Yi-3 từ đầu các mô hình 4B và Yi-6B, đồng thời triển khai lại mã đào tạo theo khung đào tạo thực tế và sử dụng đường dẫn dữ liệu tự xây dựng để xây dựng bộ dữ liệu đào tạo chất lượng cao (từ lựa chọn dữ liệu gốc 3PB đến dữ liệu chất lượng cao 3Ttoken).
Trong quá trình mã nguồn mở ban đầu của Zero One Thousand Things, chúng tôi nhận thấy rằng việc sử dụng kiến trúc LLaMA, vốn thường được cộng đồng nguồn mở sử dụng, sẽ thân thiện hơn với các nhà phát triển. Về sơ suất sử dụng một số mã suy luận của LLaMA sau khi thử nghiệm và đổi tên, xuất phát điểm ban đầu là kiểm tra đầy đủ mô hình chứ không cố tình che giấu nguồn gốc. Zero One Wan đã giải thích điều này và bày tỏ lời xin lỗi chân thành. Chúng tôi đang trong quá trình gửi lại các mô hình và mã tới các nền tảng nguồn mở khác nhau cũng như bổ sung các bản sao của giao thức LLaMA, đồng thời hứa sẽ hoàn thành các bản cập nhật phiên bản của từng cộng đồng nguồn mở trong thời gian sớm nhất.
Bài viết liên quan: