Tác giả｜Yao Qian "Giám đốc Cục giám sát công nghệ của Ủy ban điều tiết chứng khoán Trung Quốc"
Nguồn｜ "Tài chính Trung Quốc" Số 13, 2023
Nguồn hình ảnh: Được tạo bởi Unbounded AI
Bước sang năm 2023, các ứng dụng trí tuệ nhân tạo định hướng tạo nội dung như ChatGPT, GPT4 và Midjourney đã kích hoạt các làn sóng đổi mới. Một số người thậm chí còn nghĩ rằng mô hình lớn đang phát triển lặp đi lặp lại theo đơn vị ngày. Là một yếu tố sản xuất mới, sự phát triển ổn định và bền vững của dữ liệu đào tạo mô hình lớn là rất quan trọng đối với sự phát triển của ngành công nghiệp trí tuệ nhân tạo và mô hình lớn. Là một lĩnh vực quan trọng của dữ liệu lớn và ứng dụng trí tuệ nhân tạo, ngành tài chính nên chú ý đến những phát triển mới nhất trong công nghệ liên quan đến đào tạo mô hình lớn. Bài viết này trước tiên phân tích quá trình phát triển và nâng cấp của các mô hình lớn, sau đó thảo luận về các phương thức tương tác có thể có giữa các mô hình lớn và mô hình vừa và nhỏ, đồng thời giải thích hệ sinh thái dữ liệu và xây dựng mô hình sinh thái mô hình của các mô hình lớn. sinh thái cung cấp những ý tưởng có liên quan.
Phân tích lộ trình nâng cấp và phát triển của các mô hình lớn
Từ quan điểm dài hạn, sự phát triển của các mô hình lớn có nhiều nhánh. Gần đây, tốc độ lặp lại của các mô hình lớn không chỉ tăng nhanh mà ngày càng có nhiều người tham gia, về cơ bản bao gồm tất cả các công ty công nghệ lớn, và sự đa dạng và phức tạp của hệ sinh thái đã bước đầu xuất hiện.
Hiện tại, không có thay đổi cơ bản nào trong khung thuật toán cơ bản trong quá trình lặp đi lặp lại để nâng cấp mô hình lớn. Đầu vào của sức mạnh tính toán và sự phong phú của dữ liệu đào tạo vẫn là chìa khóa cho sự phát triển nhanh chóng của nó, nhưng GPT4 mới nhất trình bày một số điểm mới đặc trưng.
**Một là thuật toán phù hợp hơn cho các tác vụ hạ nguồn cụ thể. **GPT3 và GPT3.5 là các mô hình lớn với 175 tỷ tham số. Hiện tại GPT4 chưa công bố các thông số cụ thể, nhưng một số người suy đoán rằng các thông số của nó sẽ đạt hàng nghìn tỷ cấp độ, đồng thời nó cũng sẽ có sự cải thiện đáng kể trong việc học tăng cường và giải quyết các nhiệm vụ cụ thể. Thuật ngữ phổ biến hơn là "căn chỉnh" . Nếu các mô hình dòng GPT3 chứng minh cho mọi người thấy rằng trí tuệ nhân tạo có thể thực hiện nhiều tác vụ trong một mô hình, thì GPT4 đã đạt hoặc thậm chí vượt qua trình độ của con người trong nhiều tác vụ, nằm trong top 10% hoặc hơn thế.
**Thứ hai là có khả năng quản trị dữ liệu đào tạo được chuẩn hóa hơn và hỗ trợ đa phương thức. **GPT4 có khả năng đa phương thức "có thể so sánh với bộ não con người", không khác nhiều so với cơ chế đa phương thức được mô tả trong nhiều bài báo hiện tại, nhưng nó có thể kết hợp khả năng xử lý vài mẫu của mô hình văn bản với chuỗi suy nghĩ (Chain of Thought), CoT) cộng lại. Việc quản trị và cung cấp dữ liệu đào tạo GPT4 không thể tách rời khỏi việc gắn nhãn dữ liệu, quản lý và đánh giá dữ liệu, tự động hóa dữ liệu và tổng hợp dữ liệu.
Thứ ba là xây dựng cụm năng lực tính toán mạnh hơn để đáp ứng nhiều tập dữ liệu huấn luyện hơn và tham số đầu vào lớn hơn. ** Ví dụ: Microsoft đã dành hơn một nửa tài nguyên đám mây của mình cho các ứng dụng đào tạo mô hình lớn và nội dung được tạo bằng trí tuệ nhân tạo (AIGC). Nvidia thậm chí còn hợp tác với TSMC, ASML và Synopsys để tạo ra một nền tảng điện toán mới và GPU mạnh mẽ hơn.
Xây dựng một hệ sinh thái nơi các mô hình khác nhau được kết nối với nhau
Các mô hình lớn giống như GPT rất mạnh mẽ và sẽ trở thành một trong những cơ sở hạ tầng quan trọng trong nhiều ngành như Internet, tài chính và lĩnh vực y tế trong tương lai. Ví dụ, trong lĩnh vực tài chính, sau khi đào tạo với dữ liệu chuyên môn có liên quan, mô hình lớn có thể có khả năng hiểu kiến thức kinh doanh tài chính và có thể đề xuất giải pháp cho các tình huống cụ thể, hỗ trợ các tổ chức tài chính thực hiện tự động hóa tiếp thị, khai thác quan hệ khách hàng, thông minh nhận dạng rủi ro, dịch vụ Khách hàng thông minh, nghiên cứu đầu tư thông minh, v.v.
Tuy nhiên, trong quá trình triển khai các ứng dụng cụ thể, các mô hình lớn giống như GPT sẽ phải đối mặt với hàng loạt thách thức. Một là làm thế nào để đảm bảo số lượng và chất lượng của dữ liệu đào tạo. Nói chung, kho dữ liệu đào tạo của các mô hình lớn là kho dữ liệu có mục đích chung từ nhiều lĩnh vực, trong khi việc thu thập kho dữ liệu chuyên nghiệp thường tốn thời gian và công sức, đồng thời cũng có các vấn đề về quyền riêng tư. các lĩnh vực ứng dụng cá nhân. Thứ hai là làm thế nào để giảm chi phí vận hành và bảo trì của các mô hình lớn. Các mô hình lớn yêu cầu hỗ trợ sức mạnh tính toán khổng lồ và quản lý dữ liệu chặt chẽ, các tổ chức thông thường và bộ phận ứng dụng thường khó hỗ trợ vận hành và nâng cấp lặp lại các mô hình lớn. Để đạt được điều này, cần phải thiết lập một hệ sinh thái tương tác lành mạnh và cùng phát triển của các mô hình khác nhau để đảm bảo rằng ngành trí tuệ nhân tạo liên quan đến các mô hình lớn có thể được triển khai thành công trong các lĩnh vực ứng dụng khác nhau.
Từ quan điểm kỹ thuật, sự phát triển của các mô hình lớn phụ thuộc vào việc học tăng cường với phản hồi của con người (Học tăng cường từ phản hồi của con người, RLHF). Việc ghi nhãn dữ liệu mà nó sử dụng khác với công việc ghi nhãn dữ liệu đơn giản được thực hiện với nhân công chi phí thấp trong quá khứ Những người rất chuyên nghiệp sẽ viết các mục và đưa ra câu trả lời chất lượng cao phù hợp với logic và cách diễn đạt của con người cho các câu hỏi và hướng dẫn tương ứng. Tuy nhiên, do khoảng cách giữa tương tác giữa con người và máy móc, chế độ lý tưởng là thực hiện học tăng cường thông qua tương tác giữa các mô hình, tức là học tăng cường dựa trên phản hồi của mô hình (Học tăng cường từ Phản hồi mô hình, RLMF). Dựa trên sự tương tác của các mô hình khác nhau, hệ sinh thái dữ liệu và mô hình của toàn bộ mô hình lớn có thể được thống nhất thành một khuôn khổ.
Trước đây, theo mô hình phát triển mô hình phi tập trung, nhiều nhiệm vụ trong một kịch bản ứng dụng trí tuệ nhân tạo duy nhất cần được hỗ trợ bởi nhiều mô hình và mỗi việc xây dựng mô hình phải trải qua quá trình phát triển thuật toán, xử lý dữ liệu, đào tạo và điều chỉnh mô hình. Mô hình lớn được đào tạo trước giúp tăng cường tính linh hoạt và khả năng khái quát hóa của trí tuệ nhân tạo. Dựa trên mô hình lớn, tinh chỉnh với mẫu không hoặc mẫu nhỏ có thể đạt được kết quả tốt hơn trong các nhiệm vụ khác nhau. Mô hình lớn "đào tạo trước + tinh chỉnh" đã mang lại một mô hình tiêu chuẩn hóa mới cho nghiên cứu và phát triển trí tuệ nhân tạo, cho phép các mô hình trí tuệ nhân tạo đạt được sản xuất quy mô lớn một cách thống nhất và ngắn gọn hơn. Tập trung vào đổi mới công nghệ và triển khai ứng dụng, dữ liệu và hệ sinh thái công nghiệp của các mô hình lớn có thể được chia thành cơ sở hạ tầng (bao gồm kho dữ liệu chung và nền tảng điện toán), mô hình lớn cơ bản và dịch vụ mô hình lớn (bao gồm dữ liệu tổng hợp, cung cấp mô hình và trình cắm ứng dụng). -ins). Trong các ứng dụng xuôi dòng, người dùng có thể triển khai các mô hình nhỏ của riêng họ để cải thiện hiệu suất thông qua các dịch vụ khác nhau của mô hình lớn, đồng thời cung cấp các dịch vụ phản hồi tương ứng cho mô hình lớn ngược lại để giúp mô hình lớn phát triển lặp đi lặp lại (xem Hình 1).
Mô hình lớn cơ bản là động cơ cốt lõi của hệ sinh thái công nghiệp mô hình lớn. Ưu điểm của nó nằm ở tính cơ bản và tính linh hoạt. Nó được định hướng cho các nhiệm vụ điển hình như xử lý ngôn ngữ tự nhiên, thị giác máy tính và các nhiệm vụ đa phương thức. Nó kết hợp thêm các đặc điểm của nhiệm vụ , tối ưu hóa các thuật toán mô hình và tìm hiểu Dữ liệu và kiến thức liên quan để các mô hình lớn có thể hiển thị kết quả tốt hơn và thậm chí có thể được áp dụng trực tiếp với các mẫu bằng không.
Mô hình nhỏ có đặc điểm là kích thước nhỏ (thường ở mức hàng chục tỷ tham số), dễ đào tạo và bảo trì, vì vậy nó phù hợp với các lĩnh vực dọc khác nhau và phát triển nội bộ và sử dụng trong các ngành công nghiệp khác nhau. Nói chung, các mô hình nhỏ ít tốn kém hơn để đào tạo, nhưng hiệu suất kém hơn nhiều so với các mô hình lớn. Thông qua ứng dụng tương tác của các mô hình lớn và nhỏ, mô hình nhỏ có thể có được một phần khả năng của mô hình lớn hoặc nhận ra một số chức năng, nhờ đó hiệu suất của mô hình nhỏ có thể được cải thiện đáng kể mà không làm tăng chi phí vận hành và bảo trì, đồng thời đáp ứng các yêu cầu cụ thể yêu cầu ứng dụng. Các cách tương tác mô hình lớn và nhỏ có thể được chia thành ba loại: tương tác dữ liệu, tương tác mô hình và tương tác ứng dụng (xem Hình 2).
* Tương tác dữ liệu
Tương tác dữ liệu có nghĩa là các mô hình lớn và nhỏ không tham gia trực tiếp vào quá trình đào tạo hoặc suy luận của nhau mà tương tác gián tiếp thông qua dữ liệu do nhau tạo ra. Việc đào tạo các mô hình lớn thường yêu cầu kho dữ liệu đa năng quy mô lớn. Ví dụ: kho dữ liệu đào tạo của GPT3 đạt 753GB, lấy từ nhiều nguồn dữ liệu như Wikipedia. Kho ngữ liệu có mục đích chung đề cập đến kho dữ liệu bao gồm nhiều lĩnh vực và phạm vi kiến thức trong một số lĩnh vực cụ thể có thể không đủ. Sau khi quá trình đào tạo mô hình lớn hoàn tất, một số kho dữ liệu tổng hợp dành riêng cho miền có thể được tạo thông qua hướng dẫn, sau đó thông qua triển khai cục bộ, mô hình nhỏ có thể được đào tạo cùng với kho dữ liệu chuyên dụng của trường hoặc kho dữ liệu riêng của ngành. Lĩnh vực kho ngữ liệu đào tạo mô hình nhỏ tương đối tập trung nên kiến thức trong lĩnh vực này có thể được nắm vững một cách có hệ thống, nhờ đó đầu ra của mô hình chuyên nghiệp hơn, chi tiết hơn và chính xác hơn. Vai trò của mô hình lớn trong quá trình này là tạo ra kho dữ liệu tổng hợp chất lượng cao quy mô lớn, để việc đào tạo mô hình nhỏ có thể đầy đủ hơn và ngăn chặn tình trạng thừa mô hình do kích thước nhỏ của kho dữ liệu đặc biệt hoặc kho văn bản riêng. Ngược lại, kho dữ liệu chuyên nghiệp do mô hình nhỏ tạo ra cũng có thể được sử dụng như một phần bổ sung cho kho dữ liệu đào tạo của mô hình lớn để nâng cao khả năng chuyên môn của mô hình lớn trong các lĩnh vực khác nhau, để mô hình lớn có thể tiếp tục phát triển lặp đi lặp lại.
Để đạt được sự tương tác dữ liệu giữa các mô hình lớn và nhỏ, ngoài việc dựa vào tổ chức quản lý nguồn dữ liệu, cũng cần xem xét việc thành lập một tổ chức lưu ký và giao dịch dữ liệu để có thể kiểm soát dữ liệu đào tạo của các mô hình lớn và nhỏ và được luân chuyển một cách có trật tự, và phân bổ tương ứng cho các bên một cách hợp lý về quyền và lợi ích.
Tương tác mô hình
Ngoài tương tác dữ liệu gián tiếp, các mô hình lớn và nhỏ cũng có thể tương tác ở cấp độ mô hình, bằng cách tham gia vào quá trình đào tạo của nhau, cả hai bên có thể cùng có lợi và nâng cao hiệu quả lặp lại của các mô hình lớn. Một mặt, các mô hình lớn có thể hướng dẫn đào tạo các mô hình nhỏ và phương pháp thường được sử dụng là chắt lọc kiến thức. Trong chế độ học chưng cất, mô hình lớn được đào tạo có thể được sử dụng làm mô hình giáo viên và mô hình nhỏ được đào tạo có thể được sử dụng làm mô hình học sinh.Đối với cùng một lô dữ liệu đào tạo, bằng cách thiết kế hàm mất mát hợp lý, phần mềm các nhãn được tạo bởi mô hình lớn và chính dữ liệu huấn luyện Các nhãn cứng cùng hướng dẫn việc huấn luyện các mô hình nhỏ. Tương tự, mô hình nhỏ cũng có thể thực hiện quá trình chưng cất ngược trên mô hình lớn và sử dụng mô hình nhỏ để đưa ra các phán đoán về giá trị mẫu nhằm giúp mô hình lớn tăng tốc độ hội tụ—sau khi tinh chỉnh thêm mô hình nhỏ được đào tạo trên tập dữ liệu xuôi dòng, một mẫu mô hình đánh giá giá trị thu được.
Tương tác ứng dụng
Cách điển hình để các mô hình lớn và nhỏ tương tác ở cấp ứng dụng là chế độ phần bổ trợ, chế độ này đóng gói ứng dụng do mô hình xây dựng thành dịch vụ phần bổ trợ để các mô hình khác gọi. Chế độ plug-in có hai ưu điểm: một là thuận tiện và hiệu quả, không cần đào tạo lại mô hình; hai là cách ly tốt, có thể tránh rò rỉ chi tiết mô hình, từ đó bảo vệ tốt hơn quyền và lợi ích của người đào tạo mô hình và người dùng.
Một mặt, mô hình lớn về cơ bản áp dụng phương pháp đào tạo trước và hiệu suất thời gian thực không cao. Bằng cách gọi plug-in ứng dụng mô hình nhỏ, ứng dụng mô hình lớn không chỉ có thể cải thiện hiệu suất thời gian thực của kết quả đầu ra mà còn mở rộng kiến thức còn thiếu trong các lĩnh vực cụ thể. Mặt khác, các ứng dụng được xây dựng bằng các mô hình nhỏ cũng có thể trực tiếp có được khả năng lập luận và tạo mạnh mẽ của các mô hình lớn bằng cách gọi các trình cắm được cung cấp bởi các mô hình lớn giống như GPT. Phương pháp tương tác ứng dụng này có thể tiết kiệm mô hình nhỏ khỏi quá trình đào tạo kiến thức chung và tập trung vào sản xuất nội dung của các lĩnh vực cụ thể với chi phí thấp hơn, người dùng cũng có thể cảm nhận được phản ứng "hóa học" được tạo ra bởi sự kết nối của các mô hình khác nhau.
Các plugin ChatGPT sản phẩm mới được phát hành gần đây bởi Open AI (Open AI) có thể kết nối ChatGPT và các ứng dụng của bên thứ ba thông qua các plugin ứng dụng. Các ứng dụng của bên thứ ba này có thể được xây dựng từ các mô hình nhỏ của một miền duy nhất. Bằng cách này, mô hình nhỏ có thể hoàn thành nhiều chức năng mở rộng trong mô hình lớn giống như ChatGPT, chẳng hạn như truy xuất thông tin thời gian thực hoặc thông tin cơ sở tri thức và thay thế người dùng bằng "lập lịch thông minh" của thế giới thực.
Tiêu chuẩn hóa và kiểm soát bảo mật dữ liệu đào tạo mô hình lớn và chuỗi công cụ mô hình
Hiệu suất của một mô hình lớn phụ thuộc vào chất lượng của dữ liệu huấn luyện, đồng thời, các thông số kỹ thuật cơ bản mà mô hình yêu cầu trong các tình huống hạ cánh khác nhau cũng khác nhau. Do đó, để xây dựng một hệ sinh thái công nghiệp tốt với sự phát triển bền vững và tương tác lành mạnh của các mô hình lớn, cần phải thúc đẩy tiêu chuẩn hóa dữ liệu đào tạo mô hình lớn và các công nghệ cơ bản, đồng thời đẩy nhanh việc lặp lại và triển khai các mô hình.
Một mặt, tập dữ liệu đào tạo của chính mô hình lớn và giao diện dịch vụ dữ liệu xác định (API) sẽ trở thành tiêu chuẩn thực tế của ngành và các ứng dụng khác nhau truy cập mô hình lớn phải tuân theo tiêu chuẩn này. Hiện nay, mô hình “tiền đào tạo + tinh chỉnh” đã trở thành một quy trình và mô hình chuẩn thống nhất trong ngành. Trên cơ sở này, kết hợp với các kịch bản ứng dụng cụ thể và dữ liệu chuyên nghiệp, các mô hình nhỏ trong các lĩnh vực và ngành khác nhau có thể được tùy chỉnh và tối ưu hóa hơn nữa. Ở một mức độ nào đó, các tiêu chuẩn giao diện dịch vụ dữ liệu và dữ liệu đào tạo mô hình lớn sẽ trở thành một trong những cốt lõi của thế hệ tiêu chuẩn quốc tế tiếp theo.
Mặt khác, chuỗi công cụ theo yêu cầu của công nghệ cơ bản để xử lý dữ liệu đào tạo mô hình lớn cũng phải được sản xuất và tiêu chuẩn hóa. Với sự hỗ trợ mạnh mẽ của các dịch vụ kỹ thuật được tiêu chuẩn hóa, mô hình lớn có thể đưa ra các giải pháp kỹ thuật như thích ứng phần cứng, chắt lọc và nén mô hình, đào tạo và tăng tốc mô hình phân tán, cơ sở dữ liệu vectơ, cơ sở dữ liệu đồ thị và kết nối mô hình, cung cấp khả năng xử lý ngôn ngữ tự nhiên, thị giác máy tính, Các khả năng khác nhau như biểu đồ tri thức và mô hình chéo cho phép nhiều công ty và nhà phát triển áp dụng các mô hình lớn hơn cho doanh nghiệp của họ và xây dựng các mô hình ngành dọc với ngưỡng thấp, từ đó thúc đẩy triển khai rộng rãi trí tuệ nhân tạo trong các lĩnh vực khác nhau.
Cần lưu ý rằng mặc dù việc phát triển và áp dụng các mô hình lớn sẽ mang lại lợi ích to lớn cho sự phát triển kinh tế và công nghiệp, nhưng nếu không được kiểm soát phù hợp, nó cũng sẽ mang lại rủi ro cho an ninh quốc gia và công nghiệp. Một là nguy cơ rò rỉ dữ liệu. Việc đào tạo và triển khai các mô hình lớn cần được hỗ trợ bởi lượng dữ liệu khổng lồ, bao gồm cả thông tin nhạy cảm của ngành hoặc cá nhân. Nếu không có cơ chế giải mẫn cảm dữ liệu và lưu giữ dữ liệu hợp lý, nó có thể gây rò rỉ dữ liệu và gây tổn thất cho ngành và cá nhân. Thứ hai là rủi ro bảo mật mô hình. Ví dụ: các trình cắm có thể được cấy ghép nội dung có hại và trở thành công cụ lừa đảo và "đầu độc" của bọn tội phạm, gây nguy hiểm cho an ninh xã hội và công nghiệp.
Gợi ý liên quan
**Sử dụng dữ liệu đào tạo mô hình lớn làm điểm bắt đầu, xây dựng tiêu chuẩn và quản trị dữ liệu là hai hướng. ** Thúc đẩy sự phát triển tiêu chuẩn hóa của ngành bằng cách xây dựng các thông số kỹ thuật ứng dụng mô hình và các tiêu chuẩn giao diện thống nhất. Có thể xem xét lưu trữ dữ liệu tổng hợp của mô hình để tăng cường giám sát, đảm bảo tuân thủ nội dung dữ liệu, quyền và lợi ích rõ ràng, lưu thông thông suốt. Đồng thời, hoàn thiện luật pháp và quy định, tối ưu hóa chính sách và hệ thống, hình thành lực lượng điều tiết chung bằng nhiều cách thức và phương pháp khác nhau, đồng thời ngăn chặn triệt để hành vi giả mạo mô hình có ác ý và xâm nhập dữ liệu có hại.
**Xây dựng thị trường phần tử dữ liệu đào tạo mô hình lớn. ** Làm rõ chuỗi công nghiệp giữa thu thập và xử lý dữ liệu đào tạo, dịch vụ dữ liệu tổng hợp, kết nối giữa các mô hình lớn và nhỏ và API ứng dụng. Đẩy nhanh việc xây dựng thị trường phần tử dữ liệu, cung cấp định giá theo định hướng thị trường cho dữ liệu đào tạo, đồng thời tạo điều kiện phân phối và khuyến khích các quyền và lợi ích.
**Xây dựng một hệ sinh thái tốt cộng sinh phát triển và cùng thúc đẩy các mô hình lớn và nhỏ. ** Nhìn chung, không có sự khác biệt giữa các thế hệ về trình độ thuật toán của các mô hình lớn chính thống trong và ngoài nước, nhưng có một khoảng cách về sức mạnh tính toán và dữ liệu. Nên hỗ trợ mạnh mẽ các công ty công nghệ hàng đầu trong nước phát triển các mô hình quy mô lớn trong nước độc lập và có thể kiểm soát trong lĩnh vực chung, đồng thời khuyến khích tất cả các lĩnh vực ngành dọc sử dụng các công cụ nguồn mở để xây dựng chuỗi công cụ độc lập được tiêu chuẩn hóa và có thể kiểm soát trên cơ sở của các mô hình lớn, để khám phá "lớn và mạnh" Nó cũng phát triển mô hình ngành dọc "nhỏ và đẹp", để xây dựng một hệ sinh thái tốt về sự cộng sinh tương tác và tiến hóa lặp đi lặp lại giữa mô hình lớn cơ bản và mô hình nhỏ chuyên nghiệp.
(Trương Lâm chủ biên)
Xem bản gốc
Nội dung chỉ mang tính chất tham khảo, không phải là lời chào mời hay đề nghị. Không cung cấp tư vấn về đầu tư, thuế hoặc pháp lý. Xem Tuyên bố miễn trừ trách nhiệm để biết thêm thông tin về rủi ro.
Yao Qian: Một số suy nghĩ về việc xây dựng sinh thái của các mô hình quy mô lớn
Tác giả｜Yao Qian "Giám đốc Cục giám sát công nghệ của Ủy ban điều tiết chứng khoán Trung Quốc"
Nguồn｜ "Tài chính Trung Quốc" Số 13, 2023
Bước sang năm 2023, các ứng dụng trí tuệ nhân tạo định hướng tạo nội dung như ChatGPT, GPT4 và Midjourney đã kích hoạt các làn sóng đổi mới. Một số người thậm chí còn nghĩ rằng mô hình lớn đang phát triển lặp đi lặp lại theo đơn vị ngày. Là một yếu tố sản xuất mới, sự phát triển ổn định và bền vững của dữ liệu đào tạo mô hình lớn là rất quan trọng đối với sự phát triển của ngành công nghiệp trí tuệ nhân tạo và mô hình lớn. Là một lĩnh vực quan trọng của dữ liệu lớn và ứng dụng trí tuệ nhân tạo, ngành tài chính nên chú ý đến những phát triển mới nhất trong công nghệ liên quan đến đào tạo mô hình lớn. Bài viết này trước tiên phân tích quá trình phát triển và nâng cấp của các mô hình lớn, sau đó thảo luận về các phương thức tương tác có thể có giữa các mô hình lớn và mô hình vừa và nhỏ, đồng thời giải thích hệ sinh thái dữ liệu và xây dựng mô hình sinh thái mô hình của các mô hình lớn. sinh thái cung cấp những ý tưởng có liên quan.
Phân tích lộ trình nâng cấp và phát triển của các mô hình lớn
Từ quan điểm dài hạn, sự phát triển của các mô hình lớn có nhiều nhánh. Gần đây, tốc độ lặp lại của các mô hình lớn không chỉ tăng nhanh mà ngày càng có nhiều người tham gia, về cơ bản bao gồm tất cả các công ty công nghệ lớn, và sự đa dạng và phức tạp của hệ sinh thái đã bước đầu xuất hiện.
Hiện tại, không có thay đổi cơ bản nào trong khung thuật toán cơ bản trong quá trình lặp đi lặp lại để nâng cấp mô hình lớn. Đầu vào của sức mạnh tính toán và sự phong phú của dữ liệu đào tạo vẫn là chìa khóa cho sự phát triển nhanh chóng của nó, nhưng GPT4 mới nhất trình bày một số điểm mới đặc trưng.
**Một là thuật toán phù hợp hơn cho các tác vụ hạ nguồn cụ thể. **GPT3 và GPT3.5 là các mô hình lớn với 175 tỷ tham số. Hiện tại GPT4 chưa công bố các thông số cụ thể, nhưng một số người suy đoán rằng các thông số của nó sẽ đạt hàng nghìn tỷ cấp độ, đồng thời nó cũng sẽ có sự cải thiện đáng kể trong việc học tăng cường và giải quyết các nhiệm vụ cụ thể. Thuật ngữ phổ biến hơn là "căn chỉnh" . Nếu các mô hình dòng GPT3 chứng minh cho mọi người thấy rằng trí tuệ nhân tạo có thể thực hiện nhiều tác vụ trong một mô hình, thì GPT4 đã đạt hoặc thậm chí vượt qua trình độ của con người trong nhiều tác vụ, nằm trong top 10% hoặc hơn thế.
**Thứ hai là có khả năng quản trị dữ liệu đào tạo được chuẩn hóa hơn và hỗ trợ đa phương thức. **GPT4 có khả năng đa phương thức "có thể so sánh với bộ não con người", không khác nhiều so với cơ chế đa phương thức được mô tả trong nhiều bài báo hiện tại, nhưng nó có thể kết hợp khả năng xử lý vài mẫu của mô hình văn bản với chuỗi suy nghĩ (Chain of Thought), CoT) cộng lại. Việc quản trị và cung cấp dữ liệu đào tạo GPT4 không thể tách rời khỏi việc gắn nhãn dữ liệu, quản lý và đánh giá dữ liệu, tự động hóa dữ liệu và tổng hợp dữ liệu.
Thứ ba là xây dựng cụm năng lực tính toán mạnh hơn để đáp ứng nhiều tập dữ liệu huấn luyện hơn và tham số đầu vào lớn hơn. ** Ví dụ: Microsoft đã dành hơn một nửa tài nguyên đám mây của mình cho các ứng dụng đào tạo mô hình lớn và nội dung được tạo bằng trí tuệ nhân tạo (AIGC). Nvidia thậm chí còn hợp tác với TSMC, ASML và Synopsys để tạo ra một nền tảng điện toán mới và GPU mạnh mẽ hơn.
Xây dựng một hệ sinh thái nơi các mô hình khác nhau được kết nối với nhau
Các mô hình lớn giống như GPT rất mạnh mẽ và sẽ trở thành một trong những cơ sở hạ tầng quan trọng trong nhiều ngành như Internet, tài chính và lĩnh vực y tế trong tương lai. Ví dụ, trong lĩnh vực tài chính, sau khi đào tạo với dữ liệu chuyên môn có liên quan, mô hình lớn có thể có khả năng hiểu kiến thức kinh doanh tài chính và có thể đề xuất giải pháp cho các tình huống cụ thể, hỗ trợ các tổ chức tài chính thực hiện tự động hóa tiếp thị, khai thác quan hệ khách hàng, thông minh nhận dạng rủi ro, dịch vụ Khách hàng thông minh, nghiên cứu đầu tư thông minh, v.v.
Tuy nhiên, trong quá trình triển khai các ứng dụng cụ thể, các mô hình lớn giống như GPT sẽ phải đối mặt với hàng loạt thách thức. Một là làm thế nào để đảm bảo số lượng và chất lượng của dữ liệu đào tạo. Nói chung, kho dữ liệu đào tạo của các mô hình lớn là kho dữ liệu có mục đích chung từ nhiều lĩnh vực, trong khi việc thu thập kho dữ liệu chuyên nghiệp thường tốn thời gian và công sức, đồng thời cũng có các vấn đề về quyền riêng tư. các lĩnh vực ứng dụng cá nhân. Thứ hai là làm thế nào để giảm chi phí vận hành và bảo trì của các mô hình lớn. Các mô hình lớn yêu cầu hỗ trợ sức mạnh tính toán khổng lồ và quản lý dữ liệu chặt chẽ, các tổ chức thông thường và bộ phận ứng dụng thường khó hỗ trợ vận hành và nâng cấp lặp lại các mô hình lớn. Để đạt được điều này, cần phải thiết lập một hệ sinh thái tương tác lành mạnh và cùng phát triển của các mô hình khác nhau để đảm bảo rằng ngành trí tuệ nhân tạo liên quan đến các mô hình lớn có thể được triển khai thành công trong các lĩnh vực ứng dụng khác nhau.
Từ quan điểm kỹ thuật, sự phát triển của các mô hình lớn phụ thuộc vào việc học tăng cường với phản hồi của con người (Học tăng cường từ phản hồi của con người, RLHF). Việc ghi nhãn dữ liệu mà nó sử dụng khác với công việc ghi nhãn dữ liệu đơn giản được thực hiện với nhân công chi phí thấp trong quá khứ Những người rất chuyên nghiệp sẽ viết các mục và đưa ra câu trả lời chất lượng cao phù hợp với logic và cách diễn đạt của con người cho các câu hỏi và hướng dẫn tương ứng. Tuy nhiên, do khoảng cách giữa tương tác giữa con người và máy móc, chế độ lý tưởng là thực hiện học tăng cường thông qua tương tác giữa các mô hình, tức là học tăng cường dựa trên phản hồi của mô hình (Học tăng cường từ Phản hồi mô hình, RLMF). Dựa trên sự tương tác của các mô hình khác nhau, hệ sinh thái dữ liệu và mô hình của toàn bộ mô hình lớn có thể được thống nhất thành một khuôn khổ.
Trước đây, theo mô hình phát triển mô hình phi tập trung, nhiều nhiệm vụ trong một kịch bản ứng dụng trí tuệ nhân tạo duy nhất cần được hỗ trợ bởi nhiều mô hình và mỗi việc xây dựng mô hình phải trải qua quá trình phát triển thuật toán, xử lý dữ liệu, đào tạo và điều chỉnh mô hình. Mô hình lớn được đào tạo trước giúp tăng cường tính linh hoạt và khả năng khái quát hóa của trí tuệ nhân tạo. Dựa trên mô hình lớn, tinh chỉnh với mẫu không hoặc mẫu nhỏ có thể đạt được kết quả tốt hơn trong các nhiệm vụ khác nhau. Mô hình lớn "đào tạo trước + tinh chỉnh" đã mang lại một mô hình tiêu chuẩn hóa mới cho nghiên cứu và phát triển trí tuệ nhân tạo, cho phép các mô hình trí tuệ nhân tạo đạt được sản xuất quy mô lớn một cách thống nhất và ngắn gọn hơn. Tập trung vào đổi mới công nghệ và triển khai ứng dụng, dữ liệu và hệ sinh thái công nghiệp của các mô hình lớn có thể được chia thành cơ sở hạ tầng (bao gồm kho dữ liệu chung và nền tảng điện toán), mô hình lớn cơ bản và dịch vụ mô hình lớn (bao gồm dữ liệu tổng hợp, cung cấp mô hình và trình cắm ứng dụng). -ins). Trong các ứng dụng xuôi dòng, người dùng có thể triển khai các mô hình nhỏ của riêng họ để cải thiện hiệu suất thông qua các dịch vụ khác nhau của mô hình lớn, đồng thời cung cấp các dịch vụ phản hồi tương ứng cho mô hình lớn ngược lại để giúp mô hình lớn phát triển lặp đi lặp lại (xem Hình 1).
Mô hình nhỏ có đặc điểm là kích thước nhỏ (thường ở mức hàng chục tỷ tham số), dễ đào tạo và bảo trì, vì vậy nó phù hợp với các lĩnh vực dọc khác nhau và phát triển nội bộ và sử dụng trong các ngành công nghiệp khác nhau. Nói chung, các mô hình nhỏ ít tốn kém hơn để đào tạo, nhưng hiệu suất kém hơn nhiều so với các mô hình lớn. Thông qua ứng dụng tương tác của các mô hình lớn và nhỏ, mô hình nhỏ có thể có được một phần khả năng của mô hình lớn hoặc nhận ra một số chức năng, nhờ đó hiệu suất của mô hình nhỏ có thể được cải thiện đáng kể mà không làm tăng chi phí vận hành và bảo trì, đồng thời đáp ứng các yêu cầu cụ thể yêu cầu ứng dụng. Các cách tương tác mô hình lớn và nhỏ có thể được chia thành ba loại: tương tác dữ liệu, tương tác mô hình và tương tác ứng dụng (xem Hình 2).
Tương tác dữ liệu có nghĩa là các mô hình lớn và nhỏ không tham gia trực tiếp vào quá trình đào tạo hoặc suy luận của nhau mà tương tác gián tiếp thông qua dữ liệu do nhau tạo ra. Việc đào tạo các mô hình lớn thường yêu cầu kho dữ liệu đa năng quy mô lớn. Ví dụ: kho dữ liệu đào tạo của GPT3 đạt 753GB, lấy từ nhiều nguồn dữ liệu như Wikipedia. Kho ngữ liệu có mục đích chung đề cập đến kho dữ liệu bao gồm nhiều lĩnh vực và phạm vi kiến thức trong một số lĩnh vực cụ thể có thể không đủ. Sau khi quá trình đào tạo mô hình lớn hoàn tất, một số kho dữ liệu tổng hợp dành riêng cho miền có thể được tạo thông qua hướng dẫn, sau đó thông qua triển khai cục bộ, mô hình nhỏ có thể được đào tạo cùng với kho dữ liệu chuyên dụng của trường hoặc kho dữ liệu riêng của ngành. Lĩnh vực kho ngữ liệu đào tạo mô hình nhỏ tương đối tập trung nên kiến thức trong lĩnh vực này có thể được nắm vững một cách có hệ thống, nhờ đó đầu ra của mô hình chuyên nghiệp hơn, chi tiết hơn và chính xác hơn. Vai trò của mô hình lớn trong quá trình này là tạo ra kho dữ liệu tổng hợp chất lượng cao quy mô lớn, để việc đào tạo mô hình nhỏ có thể đầy đủ hơn và ngăn chặn tình trạng thừa mô hình do kích thước nhỏ của kho dữ liệu đặc biệt hoặc kho văn bản riêng. Ngược lại, kho dữ liệu chuyên nghiệp do mô hình nhỏ tạo ra cũng có thể được sử dụng như một phần bổ sung cho kho dữ liệu đào tạo của mô hình lớn để nâng cao khả năng chuyên môn của mô hình lớn trong các lĩnh vực khác nhau, để mô hình lớn có thể tiếp tục phát triển lặp đi lặp lại.
Để đạt được sự tương tác dữ liệu giữa các mô hình lớn và nhỏ, ngoài việc dựa vào tổ chức quản lý nguồn dữ liệu, cũng cần xem xét việc thành lập một tổ chức lưu ký và giao dịch dữ liệu để có thể kiểm soát dữ liệu đào tạo của các mô hình lớn và nhỏ và được luân chuyển một cách có trật tự, và phân bổ tương ứng cho các bên một cách hợp lý về quyền và lợi ích.
Ngoài tương tác dữ liệu gián tiếp, các mô hình lớn và nhỏ cũng có thể tương tác ở cấp độ mô hình, bằng cách tham gia vào quá trình đào tạo của nhau, cả hai bên có thể cùng có lợi và nâng cao hiệu quả lặp lại của các mô hình lớn. Một mặt, các mô hình lớn có thể hướng dẫn đào tạo các mô hình nhỏ và phương pháp thường được sử dụng là chắt lọc kiến thức. Trong chế độ học chưng cất, mô hình lớn được đào tạo có thể được sử dụng làm mô hình giáo viên và mô hình nhỏ được đào tạo có thể được sử dụng làm mô hình học sinh.Đối với cùng một lô dữ liệu đào tạo, bằng cách thiết kế hàm mất mát hợp lý, phần mềm các nhãn được tạo bởi mô hình lớn và chính dữ liệu huấn luyện Các nhãn cứng cùng hướng dẫn việc huấn luyện các mô hình nhỏ. Tương tự, mô hình nhỏ cũng có thể thực hiện quá trình chưng cất ngược trên mô hình lớn và sử dụng mô hình nhỏ để đưa ra các phán đoán về giá trị mẫu nhằm giúp mô hình lớn tăng tốc độ hội tụ—sau khi tinh chỉnh thêm mô hình nhỏ được đào tạo trên tập dữ liệu xuôi dòng, một mẫu mô hình đánh giá giá trị thu được.
Cách điển hình để các mô hình lớn và nhỏ tương tác ở cấp ứng dụng là chế độ phần bổ trợ, chế độ này đóng gói ứng dụng do mô hình xây dựng thành dịch vụ phần bổ trợ để các mô hình khác gọi. Chế độ plug-in có hai ưu điểm: một là thuận tiện và hiệu quả, không cần đào tạo lại mô hình; hai là cách ly tốt, có thể tránh rò rỉ chi tiết mô hình, từ đó bảo vệ tốt hơn quyền và lợi ích của người đào tạo mô hình và người dùng.
Một mặt, mô hình lớn về cơ bản áp dụng phương pháp đào tạo trước và hiệu suất thời gian thực không cao. Bằng cách gọi plug-in ứng dụng mô hình nhỏ, ứng dụng mô hình lớn không chỉ có thể cải thiện hiệu suất thời gian thực của kết quả đầu ra mà còn mở rộng kiến thức còn thiếu trong các lĩnh vực cụ thể. Mặt khác, các ứng dụng được xây dựng bằng các mô hình nhỏ cũng có thể trực tiếp có được khả năng lập luận và tạo mạnh mẽ của các mô hình lớn bằng cách gọi các trình cắm được cung cấp bởi các mô hình lớn giống như GPT. Phương pháp tương tác ứng dụng này có thể tiết kiệm mô hình nhỏ khỏi quá trình đào tạo kiến thức chung và tập trung vào sản xuất nội dung của các lĩnh vực cụ thể với chi phí thấp hơn, người dùng cũng có thể cảm nhận được phản ứng "hóa học" được tạo ra bởi sự kết nối của các mô hình khác nhau.
Các plugin ChatGPT sản phẩm mới được phát hành gần đây bởi Open AI (Open AI) có thể kết nối ChatGPT và các ứng dụng của bên thứ ba thông qua các plugin ứng dụng. Các ứng dụng của bên thứ ba này có thể được xây dựng từ các mô hình nhỏ của một miền duy nhất. Bằng cách này, mô hình nhỏ có thể hoàn thành nhiều chức năng mở rộng trong mô hình lớn giống như ChatGPT, chẳng hạn như truy xuất thông tin thời gian thực hoặc thông tin cơ sở tri thức và thay thế người dùng bằng "lập lịch thông minh" của thế giới thực.
Tiêu chuẩn hóa và kiểm soát bảo mật dữ liệu đào tạo mô hình lớn và chuỗi công cụ mô hình
Hiệu suất của một mô hình lớn phụ thuộc vào chất lượng của dữ liệu huấn luyện, đồng thời, các thông số kỹ thuật cơ bản mà mô hình yêu cầu trong các tình huống hạ cánh khác nhau cũng khác nhau. Do đó, để xây dựng một hệ sinh thái công nghiệp tốt với sự phát triển bền vững và tương tác lành mạnh của các mô hình lớn, cần phải thúc đẩy tiêu chuẩn hóa dữ liệu đào tạo mô hình lớn và các công nghệ cơ bản, đồng thời đẩy nhanh việc lặp lại và triển khai các mô hình.
Một mặt, tập dữ liệu đào tạo của chính mô hình lớn và giao diện dịch vụ dữ liệu xác định (API) sẽ trở thành tiêu chuẩn thực tế của ngành và các ứng dụng khác nhau truy cập mô hình lớn phải tuân theo tiêu chuẩn này. Hiện nay, mô hình “tiền đào tạo + tinh chỉnh” đã trở thành một quy trình và mô hình chuẩn thống nhất trong ngành. Trên cơ sở này, kết hợp với các kịch bản ứng dụng cụ thể và dữ liệu chuyên nghiệp, các mô hình nhỏ trong các lĩnh vực và ngành khác nhau có thể được tùy chỉnh và tối ưu hóa hơn nữa. Ở một mức độ nào đó, các tiêu chuẩn giao diện dịch vụ dữ liệu và dữ liệu đào tạo mô hình lớn sẽ trở thành một trong những cốt lõi của thế hệ tiêu chuẩn quốc tế tiếp theo.
Mặt khác, chuỗi công cụ theo yêu cầu của công nghệ cơ bản để xử lý dữ liệu đào tạo mô hình lớn cũng phải được sản xuất và tiêu chuẩn hóa. Với sự hỗ trợ mạnh mẽ của các dịch vụ kỹ thuật được tiêu chuẩn hóa, mô hình lớn có thể đưa ra các giải pháp kỹ thuật như thích ứng phần cứng, chắt lọc và nén mô hình, đào tạo và tăng tốc mô hình phân tán, cơ sở dữ liệu vectơ, cơ sở dữ liệu đồ thị và kết nối mô hình, cung cấp khả năng xử lý ngôn ngữ tự nhiên, thị giác máy tính, Các khả năng khác nhau như biểu đồ tri thức và mô hình chéo cho phép nhiều công ty và nhà phát triển áp dụng các mô hình lớn hơn cho doanh nghiệp của họ và xây dựng các mô hình ngành dọc với ngưỡng thấp, từ đó thúc đẩy triển khai rộng rãi trí tuệ nhân tạo trong các lĩnh vực khác nhau.
Cần lưu ý rằng mặc dù việc phát triển và áp dụng các mô hình lớn sẽ mang lại lợi ích to lớn cho sự phát triển kinh tế và công nghiệp, nhưng nếu không được kiểm soát phù hợp, nó cũng sẽ mang lại rủi ro cho an ninh quốc gia và công nghiệp. Một là nguy cơ rò rỉ dữ liệu. Việc đào tạo và triển khai các mô hình lớn cần được hỗ trợ bởi lượng dữ liệu khổng lồ, bao gồm cả thông tin nhạy cảm của ngành hoặc cá nhân. Nếu không có cơ chế giải mẫn cảm dữ liệu và lưu giữ dữ liệu hợp lý, nó có thể gây rò rỉ dữ liệu và gây tổn thất cho ngành và cá nhân. Thứ hai là rủi ro bảo mật mô hình. Ví dụ: các trình cắm có thể được cấy ghép nội dung có hại và trở thành công cụ lừa đảo và "đầu độc" của bọn tội phạm, gây nguy hiểm cho an ninh xã hội và công nghiệp.
Gợi ý liên quan
**Sử dụng dữ liệu đào tạo mô hình lớn làm điểm bắt đầu, xây dựng tiêu chuẩn và quản trị dữ liệu là hai hướng. ** Thúc đẩy sự phát triển tiêu chuẩn hóa của ngành bằng cách xây dựng các thông số kỹ thuật ứng dụng mô hình và các tiêu chuẩn giao diện thống nhất. Có thể xem xét lưu trữ dữ liệu tổng hợp của mô hình để tăng cường giám sát, đảm bảo tuân thủ nội dung dữ liệu, quyền và lợi ích rõ ràng, lưu thông thông suốt. Đồng thời, hoàn thiện luật pháp và quy định, tối ưu hóa chính sách và hệ thống, hình thành lực lượng điều tiết chung bằng nhiều cách thức và phương pháp khác nhau, đồng thời ngăn chặn triệt để hành vi giả mạo mô hình có ác ý và xâm nhập dữ liệu có hại.
**Xây dựng thị trường phần tử dữ liệu đào tạo mô hình lớn. ** Làm rõ chuỗi công nghiệp giữa thu thập và xử lý dữ liệu đào tạo, dịch vụ dữ liệu tổng hợp, kết nối giữa các mô hình lớn và nhỏ và API ứng dụng. Đẩy nhanh việc xây dựng thị trường phần tử dữ liệu, cung cấp định giá theo định hướng thị trường cho dữ liệu đào tạo, đồng thời tạo điều kiện phân phối và khuyến khích các quyền và lợi ích.
**Xây dựng một hệ sinh thái tốt cộng sinh phát triển và cùng thúc đẩy các mô hình lớn và nhỏ. ** Nhìn chung, không có sự khác biệt giữa các thế hệ về trình độ thuật toán của các mô hình lớn chính thống trong và ngoài nước, nhưng có một khoảng cách về sức mạnh tính toán và dữ liệu. Nên hỗ trợ mạnh mẽ các công ty công nghệ hàng đầu trong nước phát triển các mô hình quy mô lớn trong nước độc lập và có thể kiểm soát trong lĩnh vực chung, đồng thời khuyến khích tất cả các lĩnh vực ngành dọc sử dụng các công cụ nguồn mở để xây dựng chuỗi công cụ độc lập được tiêu chuẩn hóa và có thể kiểm soát trên cơ sở của các mô hình lớn, để khám phá "lớn và mạnh" Nó cũng phát triển mô hình ngành dọc "nhỏ và đẹp", để xây dựng một hệ sinh thái tốt về sự cộng sinh tương tác và tiến hóa lặp đi lặp lại giữa mô hình lớn cơ bản và mô hình nhỏ chuyên nghiệp.
(Trương Lâm chủ biên)