Ảnh chụp hiển thị trang chính thức vào ngày chụp và có thể khác với thời điểm xuất bản bài viết. Chọn ảnh để phóng to.
Ngày 5/11/2026, tập đoàn công nghệ lớn của Trung Quốc Baidu (百度) đã công bố trọng số (dữ liệu tạo nên "ruột" của mô hình) của mô hình AI "ERNIE-5.5-Flash-Base" trên Hugging Face. Đây là mô hình ở thời điểm vừa xong giai đoạn tiền huấn luyện (giai đoạn học đầu tiên, giúp mô hình tiếp thu kiến thức ngôn ngữ từ lượng văn bản khổng lồ), chưa được tinh chỉnh để trả lời câu hỏi hay làm theo chỉ dẫn. Baidu giải thích rằng mô hình được công bố làm nền để nhà phát triển có thể bắt đầu huấn luyện bổ sung theo lĩnh vực và mục đích của mình mà không phải tốn chi phí tiền huấn luyện quy mô lớn.
Mô hình nền tảng là gì
Các trợ lý AI như ChatGPT được tạo ra bằng cách huấn luyện bổ sung nhiều lớp sau giai đoạn tiền huấn luyện, như tinh chỉnh để làm theo chỉ dẫn và học tăng cường. ERNIE-5.5-Flash-Base là mô hình ở giai đoạn trước đó. Nó chưa phù hợp để trò chuyện trực tiếp, mà hoạt động theo kiểu viết tiếp đoạn văn bản được đưa vào.
Baidu nêu các lợi ích của việc công bố ở dạng này như sau.
- Nhà phát triển tự do lựa chọn việc tinh chỉnh cho một lĩnh vực cụ thể, hoặc huấn luyện khả năng suy luận và tác tử
- Có thể dùng làm điểm xuất phát chung trong các nghiên cứu so sánh phương pháp huấn luyện
Công ty cho biết bản "ERNIE 5.5 Flash" đã được tinh chỉnh để làm theo chỉ dẫn sẽ được công bố sau.
Cấu trúc và quy mô
ERNIE-5.5-Flash-Base dùng cấu trúc gọi là "MoE", chỉ chọn kích hoạt những bộ phận chuyên môn nhỏ (chuyên gia) cần thiết trong số rất nhiều bộ phận.
- Tổng số tham số: 280 tỷ (14 tỷ hoạt động trên mỗi token)
- Dữ liệu huấn luyện: 33.500 tỷ token
- Lượng văn bản xử lý được trong một lần: tối đa 128.000 token khi huấn luyện, 1 triệu token khi huấn luyện bổ sung và sử dụng
- Định dạng trọng số: 2 loại là FP8 và BF16
Trong 43 lớp, có 37 lớp tham chiếu phần văn bản ở xa sau khi nén còn 1/128, chỉ 6 lớp còn lại nhìn toàn bộ một cách chi tiết. Nhờ thiết kế này, lượng tính toán và bộ nhớ khi xử lý văn bản dài được giảm bớt. Về dữ liệu huấn luyện, công ty cho biết đã chú trọng mã nguồn để hiểu toàn bộ kho mã phần mềm và khả năng hiểu văn bản dài.
Hiệu năng
Baidu đã công bố kết quả so sánh trong cùng điều kiện với các mô hình nền tảng có quy mô tương đương đã công bố trọng số, gồm DeepSeek-V4-Flash-Base, Hy3-preview-Base của Tencent và MiMo-V2.5-Base của Xiaomi. Tất cả đều là đánh giá của chính Baidu.
- MMLU-Pro, kiểm tra kiến thức rộng: 78,4 (DeepSeek 69,2, Tencent 66,9, Xiaomi 65,7)
- LiveCodeBench về lập trình: 40,1 (theo cùng thứ tự: 31,9, 33,5, 32,4)
- GPQA, các câu hỏi khoa học trình độ sau đại học: 60,2 (theo cùng thứ tự: 55,9, 50,2, 51,4)
Ở nhiều bài đánh giá, mô hình đạt kết quả cao nhất trong 4 mô hình, nhưng cũng có những hạng mục mà các mô hình như DeepSeek hay Tencent vượt trội, như kiến thức tiếng Trung, văn bản dài và một phần các bài về mã và suy luận.
Giấy phép và khu vực được sử dụng
Giấy phép là "ERNIE 5.5 Flash Base Model License Agreement v1.0" do Baidu tự soạn. Các điều kiện chính như sau.
- Sử dụng phi thương mại như nghiên cứu, giáo dục hay dùng thử cá nhân: miễn phí
- Sử dụng thương mại khi doanh thu hằng năm của sản phẩm hoặc dịch vụ liên quan từ 50 triệu USD trở xuống: miễn phí, nhưng cần thông báo việc sử dụng cho Baidu một lần và hiển thị dòng "Powered by ERNIE"
- Sử dụng thương mại khi doanh thu hằng năm vượt 50 triệu USD: cần có sự cho phép bằng văn bản của Baidu
- Cấm dùng mô hình này hoặc đầu ra của nó để cải thiện các mô hình AI khác
Ngoài ra, khu vực được giấy phép cho phép là "toàn thế giới, trừ EU, Anh và Hàn Quốc". Nhật Bản nằm trong diện được phép, nhưng tại EU, Anh và Hàn Quốc, việc sử dụng theo giấy phép này không được chấp nhận.
Góc nhìn của ban biên tập CoAI
Các công ty lớn của Trung Quốc không chỉ công bố trợ lý AI hoàn chỉnh mà còn liên tiếp công bố trọng số của các mô hình nền tảng ở giai đoạn trước đó. Đối tượng so sánh lần này cũng là các mô hình nền tảng của DeepSeek, Tencent và Xiaomi, cho thấy cuộc cạnh tranh về nền tảng cho huấn luyện bổ sung đang diễn ra giữa các công ty Trung Quốc.
Mặt khác, mô hình nền tảng không thể dùng ngay để trò chuyện, mà cần kiến thức và hạ tầng tính toán cho việc huấn luyện bổ sung. Đợt công bố này không nhắm đến người dùng phổ thông, mà dành cho doanh nghiệp và nhà nghiên cứu muốn tự xây dựng mô hình riêng. Khác với các giấy phép mã nguồn mở thông dụng như Apache 2.0, giấy phép này có các điều kiện như giới hạn khu vực, ngưỡng doanh thu và cấm dùng để cải thiện mô hình khác, vì vậy hãy đọc kỹ toàn văn giấy phép trước khi sử dụng.