Vào ngày 12 tháng 10, KLCII thông báo rằng loạt mô hình ngôn ngữ lớn Aquila Aquila đã được nâng cấp hoàn toàn lên Aquila2 và 34 tỷ tham số Aquila2-34B đã được thêm vào. Được biết, mô hình mới hoạt động tốt trong suy luận và khái quát hóa, và đã đạt được một loạt thành tựu trong các kịch bản như tác nhân, tạo mã và truy xuất tài liệu. Đồng thời, KLCII cũng phát hành một nhóm gia đình nguồn mở, bao gồm loạt mô hình Aquila2, phiên bản mới của mô hình vectơ ngữ nghĩa BGE, khung đào tạo song song hiệu quả FlagScale và tập hợp con tính toán sự chú ý hiệu suất cao FlagAttention. Các dự án nguồn mở này sẽ thúc đẩy sự đổi mới hợp tác trong nghiên cứu mô hình lớn.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
Vào ngày 12 tháng 10, KLCII thông báo rằng loạt mô hình ngôn ngữ lớn Aquila Aquila đã được nâng cấp hoàn toàn lên Aquila2 và 34 tỷ tham số Aquila2-34B đã được thêm vào. Được biết, mô hình mới hoạt động tốt trong suy luận và khái quát hóa, và đã đạt được một loạt thành tựu trong các kịch bản như tác nhân, tạo mã và truy xuất tài liệu. Đồng thời, KLCII cũng phát hành một nhóm gia đình nguồn mở, bao gồm loạt mô hình Aquila2, phiên bản mới của mô hình vectơ ngữ nghĩa BGE, khung đào tạo song song hiệu quả FlagScale và tập hợp con tính toán sự chú ý hiệu suất cao FlagAttention. Các dự án nguồn mở này sẽ thúc đẩy sự đổi mới hợp tác trong nghiên cứu mô hình lớn.