نموذج OpenAI الكبير الجديد: قدرات جديدة ، حتى أنها تعرض نفسها للخطر

انتهت الدراما السنوية في وادي السيليكون "أسطورة الحقيقة" ، لكن الأخبار ذات الصلة لا تزال تجذب الانتباه. في 17 ، انتهت قمة APEC لعام 2023 في سان فرانسيسكو ، حيث ألمح ألتمان إلى أن OpenAI كان يعمل على منتج أقوى من أحدث إصدار من GPT-4 وتجاوز توقعات الناس بكثير ، وتم فصله في اليوم التالي. كما تظهر رسالة تحذير أخرى يزعم أنها أرسلت إلى مجلس الإدارة أنه تم تحقيق قفزة كبيرة في أحد نماذج OpenAI الكبيرة. وفقا لرويترز ، نقلا عن أشخاص مطلعين على الأمر ، فإن هذه الرسالة هي المرة الأولى التي يتم فيها الكشف عنها ، وهي أيضا أحد الأسباب المهمة التي أدت إلى القرار النهائي لمجلس إدارة OpenAI بإزالة Altman.

ذكرت ميرا موراتي ، الرئيس التنفيذي المؤقت الأول لشركة OpenAI ، المشروع ، المسمى Q * (وضوحا Q-Star) ، يوم الأربعاء وكتبت رسالة إلى مجلس الإدارة قبل حدوث "الانقلاب". نتيجة لذلك ، أصبح مجلس الإدارة مشبوها واعتقد أن ألتمان كان يمضي قدما في مشروع يحتمل أن يكون مهددا بدون المجلس. في الوقت نفسه ، يعتقد بعض الباحثين الداخليين أن تقدم OpenaAI في Q \ * سيصبح اختراقا مهما ل AGI ، وهو أقرب إلى الهدف من أحدث إصدار من GPT-4. ومع ذلك ، سرعان ما قال ميك أوتاما ، المؤسس المشارك TradingStrategy.ai ، إن "الاختراق الكبير" قد تم تزويره من قبل المطلعين على OpenAI.

بالإضافة إلى رسالة ميرا ، كان الحدث الآخر الذي يؤكد مشروع Q * هو خطاب ألتمان في اجتماع APEC. وألمح إلى أن OpenAI قد طور شيئا أكثر قوة ولا يمكن تصوره من GPT-4 ، وهو ما يتجاوز التوقعات بكثير. "ستكون هناك قفزة في قدرات النموذج الكبير لم يتوقعها أحد ، وعلى عكس ما توقعه الناس ، فإن القفزة مذهلة. إن التغيير التكنولوجي الذي يحدث حاليا سيحدث ثورة في طريقة حياتنا ، وهيكل اقتصادنا ومجتمعنا ، وكل القيود المحتملة الأخرى ... وقد تم ذلك أربع مرات في تاريخ OpenAI ، وكان آخرها في الأسابيع القليلة الماضية. لقد كان شرفا لي في مسيرتي المهنية أن أكون هناك وأنا أنزع حجاب الجهل وأستكشف حدود المجهول. تم طرده من قبل مجلس إدارة OpenAI في اليوم التالي لحديثه ، ومن الصعب القول إنه لا توجد صلة بين الحدثين. قد يقول بعض الناس أن ألتمان سرب أسراره الخاصة ، لكن البيان القائل بأن مجلس إدارة OpenAI "ليس صادقا بما فيه الكفاية" يقول بوضوح أن ألتمان يتصرف ضد الين ويروج للمشروع وراء مجلس الإدارة. على الرغم من أنه يبدو الآن أن "غير صادق بما فيه الكفاية" يشبه إلى حد كبير خطيئة الرغبة في الإضافة إليه.

وقال متحدث باسم OpenAI إن الرسالة ، التي أرسلها CTO Mira ، ذكرت الموظفين بأن يضعوا في اعتبارهم صياغتهم عند مواجهة التغطية الإعلامية ، لكنها لم تكن ملزمة بشأن دقتها. وأشار مصدر آخر إلى أنه من وجهة نظر OpenAI الداخلية ، يمكن تعريف AGI على أنه "نظام مستقل يفوق البشر في المهام الأكثر قيمة من الناحية الاقتصادية".

بسبب قوة الحوسبة الهائلة ، يمكن للنموذج الكبير الجديد حل بعض المشكلات الرياضية. على الرغم من أنها مجرد مشكلة رياضية على مستوى المدرسة الابتدائية ، إلا أن الباحثين متفائلون جدا بشأن مستقبل Q \ * من خلال مثل هذا الاختبار. في الرسالة إلى مجلس الإدارة ، أشار الباحثون أيضا إلى القوة والمخاطر المحتملة الذكاء الاصطناعي ، لكنهم لم يحددوا قضايا السلامة الدقيقة المذكورة في الرسالة ، وفقا لما ذكره المطلعون على الأمر. كما أشار الباحثون إلى عمل فريق يسمى "علماء الذكاء الاصطناعي" ، وهو ما أكدته مصادر متعددة.

يعتقد بعض موظفي OpenAI أن ملاحظات Altman يجب أن تكون إشارة إلى بعض الأبحاث المبتكرة السابقة للشركة التي سمحت لهم بتطوير نماذج GPT قوية بشكل متزايد. ** لم يتم الإبلاغ عن العمل ، بقيادة فريق كبير العلماء إيريا ، من قبل ، وهو يسبب القلق بين بعض الموظفين. إنهم قلقون من أن الشركة لا تملك حاليا الضمانات الصحيحة لضمان إمكانية تسويق هذه التكنولوجيا المتقدمة. في الأشهر التي تلت ذلك ، استخدم كبار الباحثين في OpenAI الابتكار لبناء أنظمة تحل مشاكل الرياضيات الأساسية.

وفقا ل The Information ، يعد Q \ * في الواقع معلما تقنيا مهما لاثنين من باحثي OpenAI ، Jager و Simon ، اللذين استخدما عمل Ilya لبناء نموذج كبير لم يسبق له مثيل من قبل. يعرف أي شخص يستخدم النماذج الكبيرة بانتظام أنه على الرغم من أن النماذج الكبيرة بليغة بشكل عام ، إلا أن مشاكل الرياضيات كانت دائما مهمة صعبة. في يونيو ، تمكنت GPT-4 من إجراء خمسة أسئلة رياضيات لامتحان القبول بالكلية مع النماذج السائدة في الداخل والخارج ، خاصة عند مقارنة "البعيد" في المؤتمر الصحفي ، ولكن في النهاية كانت نتيجة لجميع الأسئلة العشرة الخاطئة.

تم تداول عروض Q * داخل OpenAI في الأسابيع الأخيرة ، وغالبا ما أدت الوتيرة السريعة لتطوير الذكاء الاصطناعي نفسها إلى إسقاط فكي الباحثين الأمنيين. ليس ذلك فحسب، بل إن هذه الاختراقات في Q تمكن أيضا OpenAI من عدم التقيد بعدم كفاية البيانات ذات الجودة والكمية عند تدريب نماذج كبيرة جديدة، وهي العقبة الرئيسية التي يعاني منها المطورون في جميع أنحاء العالم في التغلب على الجيل القادم من النماذج الكبيرة**.

بصفته كبير العلماء في OpenAI ، يعمل إيليا منذ سنوات على كيفية الحصول على GPT-4 لحل المهام التي تنطوي على التفكير ، مثل الرياضيات أو مشاكل العلوم. قبل انضمامه إلى OpenAI ، عمل إيليا ، الذي كان لا يزال في Google DeepMind ، في هذا الاتجاه لسنوات عديدة. في عام 2021 ، أطلق مشروعا يسمى GPT-0 ، وهو تكريم لناديه القديم AlphaGo Zero ، وهو الإصدار الأخير من Alpha Dog. ليس فقط Go ، بل يمكنه أيضا لعب الشطرنج و shogi. في ذلك الوقت ، افترض فريق DeepMind أنه طالما تم منح النماذج الكبيرة ما يكفي من الوقت وقوة الحوسبة ، فإنها ستكون قادرة يوما ما على تحقيق اختراقات أكاديمية جديدة. خاصة بالنسبة للقدرات الرياضية والمنطقية للنماذج الكبيرة الحالية التي تحتاج إلى تحسين عاجل ، قد يكون هناك تحسن كبير في المستقبل **. بعد ذلك بوقت قصير ، انضم إيليا إلى OpenAI بتحريض من Musk.

على الرغم من أن "السيرة الحقيقية" قد انتهت أيضا بعد عودة ألتمان إلى منصب الرئيس التنفيذي أمس ، إلا أن التناقضات بين المديرين التنفيذيين في OpenAI لا تزال غير واضحة ، وقد تستمر لفترة طويلة. السبب الرئيسي لذلك هو أن التوتر داخل OpenAI حول تقدم العمل لم يخف. إيليا نفسها معروفة بذكائها ونزاهتها ، والتي يمتدحها ماسك ، ويفترض أنها لا تزال لديها تحفظات بشأن التكنولوجيا. هذا الصيف ، قام بتجميع فريق محاذاة للحد من التهديد الذي يمكن أن تشكله أنظمة الذكاء الاصطناعي على البشرية.

من وجهة نظر فريق المحاذاة بقيادة إيريا ، في حين أن الذكاء الاصطناعي الفائقة لا تزال بعيدة ، فقد يكون ذلك ممكنا في غضون العقد المقبل. بالإضافة إلى ذلك ، بعد طرد ألتمان الأسبوع الماضي ، استقال العديد من الأشخاص بسرعة. وبعد عودة ألتمان أمس ، عاد هؤلاء الأشخاص أيضا إلى OpenAI. كما يدعم بروكمان ، رئيس مجلس إدارة OpenAI والمؤسس المشارك ، التكنولوجيا ويلتزم بدمجها في المنتجات الجديدة. هو وألتمان أيضا حديديان للغاية ، و "اكتب التعليمات البرمجية الليلة" هو بالضبط ما قيل بالأمس.