OpenAI新款大模型：全新能力，甚至危及自身

矽谷的年度大戲《真還傳》結束了，不過相關的消息依然引人關注。 17日，2023年APEC峰會在舊金山結束，奧爾特曼在會上曾暗示，OpenAI正致力於比現在最新版GPT-4更強大、遠遠超出人們期待的產品，第二天他就被解僱了。 另有一封據稱發給董事會的警告信也顯示，OpenAI的某個大模型內部已實現重大飛躍。 據路透社援引知情人士消息，這封信是首次披露，也是導致OpenAI董事會最終決定罷免奧爾特曼的重要原因之一。

OpenAI的CTO，第一任臨時CEO米拉·穆拉蒂（Mira Murati），在週三提到了這個名為Q*（讀作Q-Star）的專案，並且在“政變”發生之前就給董事會寫過一封信。 董事會由此生疑，認為奧爾特曼在瞞著董事會推進可能有威脅的專案。 同時也有內部研究員認為，OpenaAI在Q*上取得的進展，將會成為AGI的一個重要突破，比現在的最新版GPT-4更接近目標。 不過很快的，TradingStrategy.ai 聯合創始人米克·奧塔馬表示，“重大突破”這個說法已被OpenAI內部人士打假。

除了米拉的信，印證Q*專案的另一事件是奧爾特曼在APEC一次會議上的發言。 他暗示OpenAI已經開發出了比GPT-4更強大、更難以想像的東西，遠超人們的期待。 **“大模型的能力將會有一個無人預料到的飛躍，與人們的預期不同，這個飛躍是驚人的。 當前正在發生的技術變革將徹底改變我們的生活方式、經濟和社會結構，以及其他一切可能的限制...... 這在OpenAI的歷史上有四次 ，而最近一次就是在過去幾周內。 在撥開無知的面紗和探索未知的邊界時，我有幸在場，這是我職業生涯中的榮幸。 “**發言后的第二天他就被OpenAI董事會踹了，兩件事前後腳的發生，很難說其中沒有關聯。 或許有人會說奧爾特曼是洩露了自家的機密，但OpenAI董事會中「不夠坦誠」的說法，明顯是在說奧爾特曼陽奉陰違背著董事會而推進專案。 儘管現在看「不夠坦誠」更像是欲加之罪。

OpenAI的一位發言人表示，這條消息由CTO米拉發送，提醒員工在面對媒體報導時注意措辭，但對其準確性則不置可否。 另有消息指出，在OpenAI內部看來，AGI可以定義為**“在最具經濟價值的任務中，超越人類的自主系統”**。

因為巨大的算力支援，新款大模型可以解決某些數學問題。 雖然不過是些小學水準的數學題，但通過這樣的測試，讓研究者對Q*的未來非常樂觀。 根據內部人士的透露，在這封給董事會的信中，研究人員還標記了AI的實力和潛在危險性，但沒有具體說明信中提到的確切安全問題。 另外研究人員還標記了一個名為“AI科學家”團隊的工作，此前已有多個消息證實了該團隊的確存在。

一些OpenAI員工認為，奧爾特曼的言論應該指的是公司早些時候的一些創新性研究，而也就是這些創新，能讓他們開發出日益強大的GPT大模型。 **這項工作由首席科學家伊爾亞團隊主導，此前從未被報導過，也的確引起了一些員工的擔憂。 他們擔心公司目前沒有合適的保障措施，確保這種先進的技術可用於商業化。 **在之後的幾個月里，OpenAI的高級研究人員又利用這項創新，建立了能夠解決基本數學問題的系統。

根據The Information報導，Q*其實是OpenAI的兩位研究員，雅格和西蒙，利用伊爾亞的工作成果建立的大模型，能夠解決它以前從未見過的數學問題，而這可是一個重要的技術里程碑。 經常用大模型的人都知道，現在的大模型雖然普遍能說會道，但數學題從來都是一項艱巨的任務。 六月時用國內外主流大模型做十道高考數學題，GPT-4能對五道已經是最好的成績了，尤其是在對比那些發佈會上的“遙遙領先”，最終卻是十道題全錯的結果時。

最近幾周內，Q*的演示一直在OpenAI內部流傳，而AI自身飛快的發展速度，也時常令安全研究人員驚掉下巴。 不僅如此，Q*的這些突破也使OpenAI在訓練新款大模型時可以不再受限於保質保量的數據不足，而這正是困擾全球開發者，在攻克下一代大模型時的主要障礙。

伊爾亞作為OpenAI的首席科學家，多年來一直在研究如何讓GPT-4解決涉及推理的任務，比如數學或科學問題。 在加入OpenAI前，還在谷歌DeepMind的伊爾亞就在這個方向努力了多年。 2021年，他啟動了一個名為GPT-0的專案，這是對老東家AlphaGo Zero（阿爾法狗-0）的致敬，而阿爾法狗-0是阿爾法狗的最後版本。 不僅圍棋，它也可以下國際象棋和將棋。 而當時DeepMind團隊假設，只要給大模型足夠多的時間和算力，它們一定能在有朝一日實現新的學術突破。 尤其是針對當前大模型亟待提高的數理和推理能力時，未來有可能會有極大提升。 此後不久，伊爾亞就在馬斯克的鼓動下加入了OpenAI。

雖然在昨天奧爾特曼重返CEO之位后，《真還傳》也告一段落，但OpenAI高管間的矛盾似乎仍未消除，而且也可能延續許久。 究其原因，主要是因為OpenAI內部對工作進度的緊張關係仍未緩解。 伊爾亞本人素以聰明絕頂又人品正直著稱，這點就連馬斯克都讚譽有加，估計仍對這項技術持保留意見。 今年夏天時他就組建了對齊團隊，致力於限制AI系統可能給人類帶來的威脅。

在伊爾亞主導的對齊團隊看來，雖然超級AI還很遙遠，但可能會在未來十年內實現。 另外上周奧爾特曼被解僱后，有幾人也迅速辭職。 而昨天奧爾特曼回歸后，這些人也隨之回到了OpenAI公司。 而OpenAI董事長兼聯合創始人布羅克曼，對於這項技術也持支持態度，致力於將其整合到新產品中。 他和奧爾特曼也很鐵，「今晚就寫代碼」正是昨天的發言。