Bộ phim truyền hình thường niên của Thung lũng Silicon "The Legend of the Truth" đã kết thúc, nhưng những tin tức liên quan vẫn đang thu hút sự chú ý. Vào ngày 17, hội nghị thượng đỉnh APEC 2023 đã kết thúc tại San Francisco, tại đó Altman ám chỉ rằng OpenAI đang làm việc trên một sản phẩm mạnh hơn phiên bản GPT-4 mới nhất và vượt xa mong đợi của mọi người, và ông đã bị sa thải vào ngày hôm sau. Một lá thư cảnh báo khác được cho là gửi đến hội đồng quản trị cũng cho thấy một bước nhảy vọt lớn đã được thực hiện trong một trong những mô hình lớn của OpenAI. Theo Reuters, trích dẫn những người quen thuộc với vấn đề này, bức thư này là lần đầu tiên nó được tiết lộ, và nó cũng là một trong những lý do quan trọng dẫn đến quyết định cuối cùng của ban giám đốc OpenAI về việc loại bỏ Altman.
CTO của OpenAI, Mira Murati, Giám đốc điều hành tạm thời đầu tiên, đã đề cập đến dự án, được gọi là Q * (phát âm là Q-Star), vào thứ Tư và viết một lá thư cho ban giám đốc trước khi "cuộc đảo chính" diễn ra. Kết quả là, ban giám đốc trở nên nghi ngờ và tin rằng Altman đang thúc đẩy một dự án có khả năng đe dọa mà không có hội đồng quản trị. Đồng thời, một số nhà nghiên cứu nội bộ tin rằng tiến trình của OpenaAI trên Q* sẽ trở thành một bước đột phá quan trọng cho AGI, gần với mục tiêu hơn so với phiên bản mới nhất của GPT-4. Tuy nhiên, ngay sau đó, người đồng sáng lập TradingStrategy.ai Mick Otama nói rằng "bước đột phá lớn" đã bị giả mạo bởi những người trong cuộc OpenAI.
Ngoài bức thư của Mira, một sự kiện khác chứng thực dự án Q* là bài phát biểu của Altman tại một cuộc họp APEC. Ông gợi ý rằng OpenAI đã phát triển một thứ gì đó mạnh mẽ và không thể tưởng tượng được hơn GPT-4, vượt xa mong đợi. "Sẽ có một bước nhảy vọt về khả năng của mô hình lớn mà không ai mong đợi, và không giống như những gì mọi người mong đợi, bước nhảy vọt thật đáng kinh ngạc. Sự thay đổi công nghệ hiện đang diễn ra sẽ cách mạng hóa lối sống của chúng ta, cấu trúc nền kinh tế và xã hội của chúng ta, và mọi hạn chế có thể khác ... Điều này đã được thực hiện bốn lần trong lịch sử của OpenAI, với lần gần đây nhất là trong vài tuần qua. Đó là một đặc ân trong sự nghiệp của tôi khi được ở đó khi tôi vén bức màn của sự thiếu hiểu biết và khám phá ranh giới của những điều chưa biết. Ông đã bị ban giám đốc OpenAI đá một ngày sau khi ông phát biểu, và thật khó để nói rằng không có mối liên hệ nào giữa hai sự kiện. Một số người có thể nói rằng Altman đã tiết lộ bí mật của chính mình, nhưng tuyên bố rằng ban giám đốc của OpenAI là "không đủ trung thực" rõ ràng là nói rằng Altman đang hành động chống lại âm và thúc đẩy dự án đằng sau ban giám đốc. Mặc dù bây giờ có vẻ như "không đủ trung thực" giống như một tội lỗi muốn thêm vào nó.
Người phát ngôn của OpenAI cho biết thông điệp, được gửi bởi CTO Mira, nhắc nhở nhân viên chú ý đến từ ngữ của họ khi đối mặt với các phương tiện truyền thông, nhưng không cam kết về tính chính xác của nó. Một nguồn tin khác chỉ ra rằng theo quan điểm nội bộ của OpenAI, AGI có thể được định nghĩa là "một hệ thống tự trị vượt qua con người trong các nhiệm vụ có giá trị kinh tế nhất".
Do sức mạnh tính toán khổng lồ, mô hình lớn mới có thể giải quyết một số vấn đề toán học nhất định. Mặc dù nó chỉ là một vấn đề toán học ở cấp tiểu học, các nhà nghiên cứu rất lạc quan về tương lai của Q* thông qua một bài kiểm tra như vậy. Trong bức thư gửi ban giám đốc, các nhà nghiên cứu cũng đánh dấu sức mạnh và những nguy hiểm tiềm ẩn của AI, nhưng không nêu rõ các vấn đề an toàn chính xác được đề cập trong thư, theo những người trong cuộc. Các nhà nghiên cứu cũng gắn cờ công việc của một nhóm gọi là "Nhà khoa học AI", đã được xác nhận bởi nhiều nguồn.
Một số nhân viên OpenAI tin rằng nhận xét của Altman nên là một tham chiếu đến một số nghiên cứu sáng tạo trước đây của công ty cho phép họ phát triển các mô hình GPT ngày càng mạnh mẽ. ** Công trình, dẫn đầu bởi nhóm của nhà khoa học trưởng Ireya, chưa bao giờ được báo cáo trước đây và gây lo ngại cho một số nhân viên. Họ lo ngại rằng công ty hiện không có các biện pháp bảo vệ phù hợp để đảm bảo rằng công nghệ tiên tiến này có thể được thương mại hóa. Trong những tháng sau đó, các nhà nghiên cứu cao cấp của OpenAI đã sử dụng sự đổi mới để xây dựng các hệ thống giải quyết các vấn đề toán học cơ bản.
Theo The Information, Q* thực sự là một cột mốc công nghệ quan trọng đối với hai nhà nghiên cứu OpenAI, Jager và Simon, những người đã sử dụng công việc của Ilya để xây dựng một mô hình lớn mà nó chưa từng thấy trước đây. Bất cứ ai thường xuyên sử dụng các mô hình lớn đều biết rằng mặc dù các mô hình lớn thường hùng hồn, các vấn đề toán học luôn là một nhiệm vụ khó khăn. Vào tháng 6, GPT-4 đã có thể làm năm câu hỏi toán thi tuyển sinh đại học với các mô hình chính thống trong và ngoài nước, đặc biệt là khi so sánh "xa phía trước" tại buổi họp báo, nhưng cuối cùng nó là kết quả của cả mười câu hỏi sai.
Các cuộc trình diễn của Q * đã được lưu hành trong OpenAI trong những tuần gần đây và tốc độ phát triển nhanh chóng của chính AI thường khiến các nhà nghiên cứu bảo mật phải há hốc mồm. Không chỉ vậy, những đột phá này trong Q cũng cho phép OpenAI không còn bị giới hạn bởi không đủ dữ liệu với chất lượng và số lượng khi đào tạo các mô hình lớn mới, đây là trở ngại chính gây khó khăn cho các nhà phát triển trên toàn thế giới trong việc vượt qua thế hệ mô hình lớn tiếp theo **.
Là nhà khoa học trưởng tại OpenAI, Ilya đã làm việc trong nhiều năm về cách lấy GPT-4 để giải quyết các nhiệm vụ liên quan đến lý luận, chẳng hạn như các vấn đề toán học hoặc khoa học. Trước khi gia nhập OpenAI, Ilya, người vẫn còn trong Google DeepMind, đã làm việc theo hướng này trong nhiều năm. Vào năm 2021, anh ấy đã khởi động một dự án có tên GPT-0, nhằm tôn vinh câu lạc bộ cũ AlphaGo Zero, đây là phiên bản cuối cùng của Alpha Dog. Không chỉ cờ vây, nó còn có thể chơi cờ vua và shogi. Vào thời điểm đó, nhóm DeepMind giả định rằng miễn là các mô hình lớn được cung cấp đủ thời gian và sức mạnh tính toán, một ngày nào đó họ sẽ có thể đạt được những đột phá học thuật mới. Đặc biệt là đối với khả năng toán học và lý luận của các mô hình lớn hiện tại cần được cải thiện khẩn cấp, có thể sẽ có một sự cải thiện lớn trong tương lai **. Ngay sau đó, Ilya gia nhập OpenAI theo sự xúi giục của Musk.
Mặc dù "The True Biography" cũng đã kết thúc sau khi Altman trở lại vị trí CEO ngày hôm qua, nhưng mâu thuẫn giữa các giám đốc điều hành OpenAI dường như vẫn chưa được loại bỏ và chúng có thể tiếp tục trong một thời gian dài. Lý do chính cho điều này là sự căng thẳng trong OpenAI về tiến độ của công việc đã không giảm bớt. Bản thân Ilya được biết đến với sự thông minh và chính trực, điều mà ngay cả Musk cũng ca ngợi, và có lẽ vẫn còn dè dặt về công nghệ này. Mùa hè này, ông đã tập hợp một nhóm liên kết để hạn chế mối đe dọa mà các hệ thống AI có thể gây ra cho nhân loại.
Theo quan điểm của nhóm liên kết do Ierya dẫn đầu, trong khi siêu AI vẫn còn xa, điều đó có thể xảy ra trong vòng một thập kỷ tới. Ngoài ra, sau khi Altman bị sa thải vào tuần trước, một số người cũng nhanh chóng từ chức. Và sau khi Altman trở lại vào ngày hôm qua, những người này cũng đã trở lại OpenAI. Chủ tịch và đồng sáng lập của OpenAI, Brockman, cũng ủng hộ công nghệ này và cam kết tích hợp nó vào các sản phẩm mới. Anh ấy và Altman cũng rất sắt đá, và "viết mã tối nay" chính xác là những gì đã nói ngày hôm qua.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
Mô hình lớn mới của OpenAI: khả năng mới, thậm chí gây nguy hiểm cho chính nó
Bộ phim truyền hình thường niên của Thung lũng Silicon "The Legend of the Truth" đã kết thúc, nhưng những tin tức liên quan vẫn đang thu hút sự chú ý. Vào ngày 17, hội nghị thượng đỉnh APEC 2023 đã kết thúc tại San Francisco, tại đó Altman ám chỉ rằng OpenAI đang làm việc trên một sản phẩm mạnh hơn phiên bản GPT-4 mới nhất và vượt xa mong đợi của mọi người, và ông đã bị sa thải vào ngày hôm sau. Một lá thư cảnh báo khác được cho là gửi đến hội đồng quản trị cũng cho thấy một bước nhảy vọt lớn đã được thực hiện trong một trong những mô hình lớn của OpenAI. Theo Reuters, trích dẫn những người quen thuộc với vấn đề này, bức thư này là lần đầu tiên nó được tiết lộ, và nó cũng là một trong những lý do quan trọng dẫn đến quyết định cuối cùng của ban giám đốc OpenAI về việc loại bỏ Altman.
CTO của OpenAI, Mira Murati, Giám đốc điều hành tạm thời đầu tiên, đã đề cập đến dự án, được gọi là Q * (phát âm là Q-Star), vào thứ Tư và viết một lá thư cho ban giám đốc trước khi "cuộc đảo chính" diễn ra. Kết quả là, ban giám đốc trở nên nghi ngờ và tin rằng Altman đang thúc đẩy một dự án có khả năng đe dọa mà không có hội đồng quản trị. Đồng thời, một số nhà nghiên cứu nội bộ tin rằng tiến trình của OpenaAI trên Q* sẽ trở thành một bước đột phá quan trọng cho AGI, gần với mục tiêu hơn so với phiên bản mới nhất của GPT-4. Tuy nhiên, ngay sau đó, người đồng sáng lập TradingStrategy.ai Mick Otama nói rằng "bước đột phá lớn" đã bị giả mạo bởi những người trong cuộc OpenAI.
Người phát ngôn của OpenAI cho biết thông điệp, được gửi bởi CTO Mira, nhắc nhở nhân viên chú ý đến từ ngữ của họ khi đối mặt với các phương tiện truyền thông, nhưng không cam kết về tính chính xác của nó. Một nguồn tin khác chỉ ra rằng theo quan điểm nội bộ của OpenAI, AGI có thể được định nghĩa là "một hệ thống tự trị vượt qua con người trong các nhiệm vụ có giá trị kinh tế nhất".
Một số nhân viên OpenAI tin rằng nhận xét của Altman nên là một tham chiếu đến một số nghiên cứu sáng tạo trước đây của công ty cho phép họ phát triển các mô hình GPT ngày càng mạnh mẽ. ** Công trình, dẫn đầu bởi nhóm của nhà khoa học trưởng Ireya, chưa bao giờ được báo cáo trước đây và gây lo ngại cho một số nhân viên. Họ lo ngại rằng công ty hiện không có các biện pháp bảo vệ phù hợp để đảm bảo rằng công nghệ tiên tiến này có thể được thương mại hóa. Trong những tháng sau đó, các nhà nghiên cứu cao cấp của OpenAI đã sử dụng sự đổi mới để xây dựng các hệ thống giải quyết các vấn đề toán học cơ bản.
Theo The Information, Q* thực sự là một cột mốc công nghệ quan trọng đối với hai nhà nghiên cứu OpenAI, Jager và Simon, những người đã sử dụng công việc của Ilya để xây dựng một mô hình lớn mà nó chưa từng thấy trước đây. Bất cứ ai thường xuyên sử dụng các mô hình lớn đều biết rằng mặc dù các mô hình lớn thường hùng hồn, các vấn đề toán học luôn là một nhiệm vụ khó khăn. Vào tháng 6, GPT-4 đã có thể làm năm câu hỏi toán thi tuyển sinh đại học với các mô hình chính thống trong và ngoài nước, đặc biệt là khi so sánh "xa phía trước" tại buổi họp báo, nhưng cuối cùng nó là kết quả của cả mười câu hỏi sai.
Là nhà khoa học trưởng tại OpenAI, Ilya đã làm việc trong nhiều năm về cách lấy GPT-4 để giải quyết các nhiệm vụ liên quan đến lý luận, chẳng hạn như các vấn đề toán học hoặc khoa học. Trước khi gia nhập OpenAI, Ilya, người vẫn còn trong Google DeepMind, đã làm việc theo hướng này trong nhiều năm. Vào năm 2021, anh ấy đã khởi động một dự án có tên GPT-0, nhằm tôn vinh câu lạc bộ cũ AlphaGo Zero, đây là phiên bản cuối cùng của Alpha Dog. Không chỉ cờ vây, nó còn có thể chơi cờ vua và shogi. Vào thời điểm đó, nhóm DeepMind giả định rằng miễn là các mô hình lớn được cung cấp đủ thời gian và sức mạnh tính toán, một ngày nào đó họ sẽ có thể đạt được những đột phá học thuật mới. Đặc biệt là đối với khả năng toán học và lý luận của các mô hình lớn hiện tại cần được cải thiện khẩn cấp, có thể sẽ có một sự cải thiện lớn trong tương lai **. Ngay sau đó, Ilya gia nhập OpenAI theo sự xúi giục của Musk.
Theo quan điểm của nhóm liên kết do Ierya dẫn đầu, trong khi siêu AI vẫn còn xa, điều đó có thể xảy ra trong vòng một thập kỷ tới. Ngoài ra, sau khi Altman bị sa thải vào tuần trước, một số người cũng nhanh chóng từ chức. Và sau khi Altman trở lại vào ngày hôm qua, những người này cũng đã trở lại OpenAI. Chủ tịch và đồng sáng lập của OpenAI, Brockman, cũng ủng hộ công nghệ này và cam kết tích hợp nó vào các sản phẩm mới. Anh ấy và Altman cũng rất sắt đá, và "viết mã tối nay" chính xác là những gì đã nói ngày hôm qua.