Gần đây, khi một số cư dân mạng sử dụng Beanbao để tìm kiếm Li Yuanhong, một nhân vật đến từ Trung Hoa Dân Quốc, một bức ảnh Photoshop của nam diễn viên Fan Wei đã xuất hiện. Sự cố ô long này nghe có vẻ buồn cười nhưng thực tế nó đã bộc lộ những lỗ hổng về tính xác thực của AI trong việc nhận dạng hình ảnh và truy xuất thông tin. Nhiều cư dân mạng phàn nàn rằng AI chưa đủ khắt khe và mắc lỗi giải trí khi truy xuất các nhân vật lịch sử quan trọng, ảnh hưởng đến độ chính xác của việc thu thập thông tin.
Theo lời giải thích chính thức, ô long có nguồn gốc từ một sự hiểu lầm lan truyền trên Internet: Li Yuanhong và Fan Wei có ngoại hình rất giống nhau. Bức ảnh PS giả mạo trong buổi casting phim "Thành lập Đảng" năm 2010 đã được phổ biến rộng rãi, mức độ phổ biến cao hơn nhiều so với những bức ảnh lịch sử có thật. Một số thư viện ảnh và bách khoa toàn thư đã bị đưa nhầm vào, khiến mức độ ưu tiên tìm kiếm của AI phù hợp với bức ảnh tổng hợp rất phổ biến này.
Việc xuất hiện những lỗi như vậy trong AI thực chất là một biểu hiện điển hình của ảo tưởng thông tin.
Các chuyên gia chỉ ra rằng các mô hình lớn dựa vào việc học dữ liệu mạng và thiếu khả năng tự xác minh. Khi thông tin sai xuất hiện liên tục trên mạng, AI có xu hướng xuất ra kết quả đúng, dẫn đến tình trạng "vô nghĩa nghiêm trọng".
Công nghệ hiện tại không thể loại bỏ hoàn toàn ảo giác. Tỷ lệ lỗi chỉ có thể được giảm bằng cách tối ưu hóa nguồn dữ liệu cũng như tăng cường khả năng truy xuất và xác minh.
Sự cố này cũng đã gây ra các cuộc thảo luận giữa cư dân mạng về độ tin cậy của AI. Một số người đã chế nhạo liệu có xảy ra lỗi tương tự khi tìm kiếm các nhân vật lịch sử khác hay không. Một số người dùng cũng đã chia sẻ trải nghiệm của họ khi bị thông tin sai lệch về AI đánh lừa và kêu gọi cải thiện độ chính xác của nội dung AI.
Hiện tại, các nền tảng có liên quan đang tối ưu hóa logic tìm kiếm, ưu tiên đẩy hình ảnh của các tài liệu lịch sử có căn cứ để giảm sự can thiệp của thông tin sai lệch trên Internet.
