Mô hình mã nguồn mở lớn của công ty AI Zero One Thousand Things của Kaifu Lee bị cáo buộc sử dụng hoàn toàn kiến trúc LLaMA và chỉ sửa đổi tên của hai tensor (Tensor). Về vấn đề này, Lingyiwu cho biết: GPT là một kiến trúc trưởng thành được công nhận trong ngành, Llama đã tóm tắt về GPT.
Thiết kế cấu trúc của mô hình lớn R&D không-một-thứ dựa trên cấu trúc trưởng thành của GPT và dựa trên kết quả công khai cấp cao nhất trong ngành. Do sự phát triển của công nghệ mô hình lớn vẫn còn ở giai đoạn đầu nên một cấu trúc phù hợp với xu hướng chủ đạo của ngành sẽ có lợi hơn cho việc thích ứng tổng thể và lặp lại trong tương lai. Đồng thời, nhóm 01Wanyuan đã thực hiện rất nhiều công việc để tìm hiểu mô hình và đào tạo, đồng thời cũng đang tiếp tục khám phá những đột phá thiết yếu ở cấp độ cấu trúc mô hình.
Bài viết liên quan: