Mới đây, Andrej Karpathy, người đồng sáng lập OpenAI, đã có bài phát biểu ngắn tại một sự kiện dành cho nhà phát triển, nói về quan điểm nội bộ của ông và OpenAI về AI Agents (trí tuệ nhân tạo).
Andrej Karpathy so sánh những khó khăn khi phát triển AI Agent trước đây với những cơ hội mới được phát triển dưới các công cụ công nghệ mới, đồng thời không quên trêu chọc công việc tại Tesla là do anh bị "lái tự động" làm xao nhãng. Anh ấy coi lái xe tự động và VR là những ví dụ về tác nhân AI xấu.
Đối với những cơ hội mới, Andrej Karpathy tin rằng đây là thời điểm để quay trở lại khoa học thần kinh một lần nữa và tìm kiếm nguồn cảm hứng từ nó - giống như những gì đã xảy ra trong những ngày đầu của deep learning.
Mặt khác, Andrej Karpathy tin rằng những người bình thường, doanh nhân và chuyên viên máy tính có nhiều lợi thế hơn so với các công ty như OpenAI trong việc xây dựng Đại lý AI.
Sau đây là toàn văn bài chia sẻ này:
Xin chào tất cả mọi người. Tôi đã được mời phát biểu một số lời động viên về chủ đề Đại lý AI.
Tôi nghĩ AI Agents gần gũi với tôi theo một cách nào đó, hãy để tôi bắt đầu bằng một câu chuyện, đây là câu chuyện về OpenAI từ rất sớm, OpenAI có lẽ chỉ có hơn chục người vào thời điểm đó, khoảng năm 2016, lúc đó xu hướng thực sự là RL Agents ( Reinforcement Learning Agents). Mọi người đều rất quan tâm đến việc xây dựng các đại lý, nhưng vào thời điểm đó, nó chủ yếu dựa trên trò chơi và sự phấn khích xoay quanh các công ty trò chơi như Atari, và dự án của tôi tại OpenAI đang cố gắng tập trung vào Đại lý RL trên bàn phím và chuột được sử dụng trên máy tính , không phải trò chơi. Tôi muốn làm cho chúng trở nên hữu ích hơn và làm được nhiều việc hơn, dự án có tên là World of Bits. Cuối cùng tôi và một số đồng nghiệp đã xuất bản một bài báo.
Nó không phải là một bài báo tuyệt vời, bởi vì nó thực sự dựa trên các phương pháp học tăng cường RL. Các trang web của chúng tôi rất đơn giản và cho phép mọi người đặt chuyến bay hoặc đặt một số món ăn, v.v. Rõ ràng là không cái nào trong số này sẽ hoạt động vì công nghệ chưa sẵn sàng và sẽ không khôn ngoan nếu làm những thứ này vào thời điểm đó. Sự thật đã chứng minh rằng chúng ta nên quên hoàn toàn về AI Agents và thực hiện các mô hình ngôn ngữ.
Chúng tôi quay lại đây 5 năm sau và tôi hơi bị phân tâm bởi việc lái xe tự động, nhưng giờ đây, các Đại lý AI đã hoạt động trở lại, hộp công cụ của chúng tôi hoàn toàn khác và cách chúng tôi tiếp cận những vấn đề này cũng hoàn toàn khác. Trên thực tế, tất cả các bạn đang làm việc trên AI Agents, nhưng có thể bạn không sử dụng bất kỳ phương pháp học tăng cường nào. Thật điên rồ, tôi không nghĩ rằng chúng ta sẽ thấy điều này sắp xảy ra. Nó chỉ là quá nhiều niềm vui.
Hãy để tôi dành một chút thời gian để nói về lý do tại sao Đại lý AI lại rất phổ biến. Tôi nghĩ nhiều người rõ ràng rằng AGI (trí tuệ tổng hợp nhân tạo) sẽ tận dụng tối đa khả năng của các Đặc vụ AI, không phải một mà là nhiều. Có thể sẽ có những tổ chức hoặc nền văn minh của các thực thể kỹ thuật số, điều mà tôi nghĩ là rất truyền cảm hứng, thậm chí hơi điên rồ. Tuy nhiên, tôi cũng muốn dội một gáo nước lạnh vào chuyện này. Tôi nghĩ có rất nhiều vấn đề dễ hình dung, dễ xây dựng, dễ chứng minh, nhưng thực sự khó để tạo ra một sản phẩm. Rất nhiều thứ thuộc loại này, tôi nghĩ lái xe tự động là một ví dụ.
Việc lái xe tự động rất dễ hình dung và dễ dàng xây dựng bản demo về một chiếc ô tô chạy quanh một khu nhà, nhưng phải mất một thập kỷ để biến điều đó thành một sản phẩm. Theo cách tương tự, tôi nghĩ VR cũng vậy, sẽ mất một thập kỷ để nó hoạt động.
Tôi nghĩ điều này cũng đúng ở một mức độ nào đó với các Đại lý AI. Thật dễ dàng để tưởng tượng ra các kịch bản cho nó, và nó rất thú vị, nhưng tôi nghĩ nếu bạn đang ở trong đó, bạn nên đầu tư một thập kỷ để nó thực sự hoạt động.
Một điều nữa mà tôi muốn nói là tôi nghĩ thật thú vị khi quay trở lại với khoa học thần kinh bây giờ và lấy lại cảm hứng từ nó theo một cách nào đó, những ngày đầu của học sâu được lấy cảm hứng từ khoa học thần kinh. Thật thú vị khi nghĩ về mối quan hệ giữa chúng, đặc biệt là tôi nghĩ rằng nhiều người xem các mô hình ngôn ngữ như một phần của giải pháp, nhưng làm thế nào để bạn xây dựng một thực thể kỹ thuật số hoàn chỉnh có tất cả khả năng nhận thức của con người? Rõ ràng, tất cả chúng ta đều đồng ý rằng chúng ta cần một số loại hệ thống cơ bản để lập kế hoạch, suy nghĩ và phản ánh những gì chúng ta đang làm, và đây là lúc khoa học thần kinh phát huy tác dụng.
Ví dụ, vùng hippocampus rất quan trọng, trong AI Agents, vùng hippocampus đóng vai trò gì, được sử dụng để lưu trữ bộ nhớ, đánh dấu truy xuất, v.v.? Chúng tôi có hiểu biết chung về cách xây dựng vỏ não thị giác và thính giác, nhưng có nhiều điều chúng tôi không biết ý nghĩa của nó trong AI Agents. Giống như trò chơi trực quan trông như thế nào trong AI Agents? Tương đương với đồi thị, vị trí của tiềm thức, trong AI Agents là gì? Nó rất thú vị.
Tôi thực sự đã mang theo một cuốn sách khoa học thần kinh hôm nay, Bộ não và Hành vi của David Eagleman, cuốn sách mà tôi thấy rất thú vị và khai sáng. Lấy một số nguồn cảm hứng thú vị từ khoa học thần kinh, như chúng ta đã làm trong những ngày đầu khi thiết kế các tế bào thần kinh riêng lẻ, có lẽ chúng ta nên làm lại điều đó ngày hôm nay.
Cuối cùng tôi muốn kết thúc bằng một vài lời khích lệ. Một điều thú vị nhưng không rõ ràng là các Tác nhân AI mà bạn xây dựng (ám chỉ khán giả trực tiếp) thực sự đi đầu về khả năng của các Tác nhân AI đương thời.Tất cả các tổ chức LLM lớn như OpenAI, DeFi, v.v., tôi nghi ngờ họ đang ở vị trí hàng đầu. Bạn đang đi đầu.
Ví dụ, OpenAI rất giỏi trong việc đào tạo các mô hình ngôn ngữ lớn Transformer. Nếu một bài báo đề xuất một số loại phương pháp đào tạo khác, cuộc thảo luận trong nhóm Slack của chúng tôi bên trong OpenAI sẽ giống như, ồ đúng rồi, ai đó đã thử nó trong hai năm rưỡi và nó không hoạt động, chúng tôi không quan tâm đến phương pháp này Rất hiểu biết về các chi tiết bên trong và bên ngoài. Nhưng khi báo AI Agents mới ra mắt, chúng tôi rất thích thú và nghĩ rằng nó rất tuyệt, bởi vì nhóm của chúng tôi đã không dành 5 năm cho nó, chúng tôi không biết gì hơn bạn, chúng tôi đang làm việc với tất cả các bạn. Mọi người thi đua với nhau. Đó là lý do để nghĩ rằng bạn đang đi đầu trong những gì mà Đại lý AI có thể làm.
Xem bản gốc
Nội dung chỉ mang tính chất tham khảo, không phải là lời chào mời hay đề nghị. Không cung cấp tư vấn về đầu tư, thuế hoặc pháp lý. Xem Tuyên bố miễn trừ trách nhiệm để biết thêm thông tin về rủi ro.
Đồng sáng lập OpenAI Karpathy chia sẻ: Các tác nhân AI có thể mất 10 năm để thực sự hoạt động
Tổ chức: Tài khoản Twitter "@GPTDAOCN"
Mới đây, Andrej Karpathy, người đồng sáng lập OpenAI, đã có bài phát biểu ngắn tại một sự kiện dành cho nhà phát triển, nói về quan điểm nội bộ của ông và OpenAI về AI Agents (trí tuệ nhân tạo).
Andrej Karpathy so sánh những khó khăn khi phát triển AI Agent trước đây với những cơ hội mới được phát triển dưới các công cụ công nghệ mới, đồng thời không quên trêu chọc công việc tại Tesla là do anh bị "lái tự động" làm xao nhãng. Anh ấy coi lái xe tự động và VR là những ví dụ về tác nhân AI xấu.
Đối với những cơ hội mới, Andrej Karpathy tin rằng đây là thời điểm để quay trở lại khoa học thần kinh một lần nữa và tìm kiếm nguồn cảm hứng từ nó - giống như những gì đã xảy ra trong những ngày đầu của deep learning.
Mặt khác, Andrej Karpathy tin rằng những người bình thường, doanh nhân và chuyên viên máy tính có nhiều lợi thế hơn so với các công ty như OpenAI trong việc xây dựng Đại lý AI.
Xin chào tất cả mọi người. Tôi đã được mời phát biểu một số lời động viên về chủ đề Đại lý AI.
Tôi nghĩ AI Agents gần gũi với tôi theo một cách nào đó, hãy để tôi bắt đầu bằng một câu chuyện, đây là câu chuyện về OpenAI từ rất sớm, OpenAI có lẽ chỉ có hơn chục người vào thời điểm đó, khoảng năm 2016, lúc đó xu hướng thực sự là RL Agents ( Reinforcement Learning Agents). Mọi người đều rất quan tâm đến việc xây dựng các đại lý, nhưng vào thời điểm đó, nó chủ yếu dựa trên trò chơi và sự phấn khích xoay quanh các công ty trò chơi như Atari, và dự án của tôi tại OpenAI đang cố gắng tập trung vào Đại lý RL trên bàn phím và chuột được sử dụng trên máy tính , không phải trò chơi. Tôi muốn làm cho chúng trở nên hữu ích hơn và làm được nhiều việc hơn, dự án có tên là World of Bits. Cuối cùng tôi và một số đồng nghiệp đã xuất bản một bài báo.
Nó không phải là một bài báo tuyệt vời, bởi vì nó thực sự dựa trên các phương pháp học tăng cường RL. Các trang web của chúng tôi rất đơn giản và cho phép mọi người đặt chuyến bay hoặc đặt một số món ăn, v.v. Rõ ràng là không cái nào trong số này sẽ hoạt động vì công nghệ chưa sẵn sàng và sẽ không khôn ngoan nếu làm những thứ này vào thời điểm đó. Sự thật đã chứng minh rằng chúng ta nên quên hoàn toàn về AI Agents và thực hiện các mô hình ngôn ngữ.
Chúng tôi quay lại đây 5 năm sau và tôi hơi bị phân tâm bởi việc lái xe tự động, nhưng giờ đây, các Đại lý AI đã hoạt động trở lại, hộp công cụ của chúng tôi hoàn toàn khác và cách chúng tôi tiếp cận những vấn đề này cũng hoàn toàn khác. Trên thực tế, tất cả các bạn đang làm việc trên AI Agents, nhưng có thể bạn không sử dụng bất kỳ phương pháp học tăng cường nào. Thật điên rồ, tôi không nghĩ rằng chúng ta sẽ thấy điều này sắp xảy ra. Nó chỉ là quá nhiều niềm vui.
Hãy để tôi dành một chút thời gian để nói về lý do tại sao Đại lý AI lại rất phổ biến. Tôi nghĩ nhiều người rõ ràng rằng AGI (trí tuệ tổng hợp nhân tạo) sẽ tận dụng tối đa khả năng của các Đặc vụ AI, không phải một mà là nhiều. Có thể sẽ có những tổ chức hoặc nền văn minh của các thực thể kỹ thuật số, điều mà tôi nghĩ là rất truyền cảm hứng, thậm chí hơi điên rồ. Tuy nhiên, tôi cũng muốn dội một gáo nước lạnh vào chuyện này. Tôi nghĩ có rất nhiều vấn đề dễ hình dung, dễ xây dựng, dễ chứng minh, nhưng thực sự khó để tạo ra một sản phẩm. Rất nhiều thứ thuộc loại này, tôi nghĩ lái xe tự động là một ví dụ.
Việc lái xe tự động rất dễ hình dung và dễ dàng xây dựng bản demo về một chiếc ô tô chạy quanh một khu nhà, nhưng phải mất một thập kỷ để biến điều đó thành một sản phẩm. Theo cách tương tự, tôi nghĩ VR cũng vậy, sẽ mất một thập kỷ để nó hoạt động.
Tôi nghĩ điều này cũng đúng ở một mức độ nào đó với các Đại lý AI. Thật dễ dàng để tưởng tượng ra các kịch bản cho nó, và nó rất thú vị, nhưng tôi nghĩ nếu bạn đang ở trong đó, bạn nên đầu tư một thập kỷ để nó thực sự hoạt động.
Một điều nữa mà tôi muốn nói là tôi nghĩ thật thú vị khi quay trở lại với khoa học thần kinh bây giờ và lấy lại cảm hứng từ nó theo một cách nào đó, những ngày đầu của học sâu được lấy cảm hứng từ khoa học thần kinh. Thật thú vị khi nghĩ về mối quan hệ giữa chúng, đặc biệt là tôi nghĩ rằng nhiều người xem các mô hình ngôn ngữ như một phần của giải pháp, nhưng làm thế nào để bạn xây dựng một thực thể kỹ thuật số hoàn chỉnh có tất cả khả năng nhận thức của con người? Rõ ràng, tất cả chúng ta đều đồng ý rằng chúng ta cần một số loại hệ thống cơ bản để lập kế hoạch, suy nghĩ và phản ánh những gì chúng ta đang làm, và đây là lúc khoa học thần kinh phát huy tác dụng.
Ví dụ, vùng hippocampus rất quan trọng, trong AI Agents, vùng hippocampus đóng vai trò gì, được sử dụng để lưu trữ bộ nhớ, đánh dấu truy xuất, v.v.? Chúng tôi có hiểu biết chung về cách xây dựng vỏ não thị giác và thính giác, nhưng có nhiều điều chúng tôi không biết ý nghĩa của nó trong AI Agents. Giống như trò chơi trực quan trông như thế nào trong AI Agents? Tương đương với đồi thị, vị trí của tiềm thức, trong AI Agents là gì? Nó rất thú vị.
Tôi thực sự đã mang theo một cuốn sách khoa học thần kinh hôm nay, Bộ não và Hành vi của David Eagleman, cuốn sách mà tôi thấy rất thú vị và khai sáng. Lấy một số nguồn cảm hứng thú vị từ khoa học thần kinh, như chúng ta đã làm trong những ngày đầu khi thiết kế các tế bào thần kinh riêng lẻ, có lẽ chúng ta nên làm lại điều đó ngày hôm nay.
Cuối cùng tôi muốn kết thúc bằng một vài lời khích lệ. Một điều thú vị nhưng không rõ ràng là các Tác nhân AI mà bạn xây dựng (ám chỉ khán giả trực tiếp) thực sự đi đầu về khả năng của các Tác nhân AI đương thời.Tất cả các tổ chức LLM lớn như OpenAI, DeFi, v.v., tôi nghi ngờ họ đang ở vị trí hàng đầu. Bạn đang đi đầu.
Ví dụ, OpenAI rất giỏi trong việc đào tạo các mô hình ngôn ngữ lớn Transformer. Nếu một bài báo đề xuất một số loại phương pháp đào tạo khác, cuộc thảo luận trong nhóm Slack của chúng tôi bên trong OpenAI sẽ giống như, ồ đúng rồi, ai đó đã thử nó trong hai năm rưỡi và nó không hoạt động, chúng tôi không quan tâm đến phương pháp này Rất hiểu biết về các chi tiết bên trong và bên ngoài. Nhưng khi báo AI Agents mới ra mắt, chúng tôi rất thích thú và nghĩ rằng nó rất tuyệt, bởi vì nhóm của chúng tôi đã không dành 5 năm cho nó, chúng tôi không biết gì hơn bạn, chúng tôi đang làm việc với tất cả các bạn. Mọi người thi đua với nhau. Đó là lý do để nghĩ rằng bạn đang đi đầu trong những gì mà Đại lý AI có thể làm.