ماركوس يستعرض GPT-5! هناك حاجة ماسة إلى نموذج جديد ، وليس لدى OpenAI أي ميزة

المصدر الأصلي: نيو تشييوان

مصدر الصورة: تم إنشاؤه بواسطة الذكاء الاصطناعي غير محدود

انتشرت الأخبار حول GPT-5 مؤخرا مرة أخرى.

منذ بداية الكشف عن أن OpenAI كان يدرب GPT-5 سرا ، إلى التوضيح اللاحق من قبل Sam Altman ؛ في وقت لاحق ، عندما يتعلق الأمر بعدد وحدات معالجة الرسومات H100 اللازمة لتدريب GPT-5 ، أجرى الرئيس التنفيذي لشركة DeepMind سليمان مقابلة مع OpenAI ، الذي كان يدرب GPT-5 سرا.

ثم كانت هناك جولة جديدة من التكهنات.

تتخللها تنبؤ ألتمان الجريء بأن GPT-10 سيظهر قبل عام 2030 ، أكثر من مجموع الذكاء البشري ، هي سحابة AGI حقيقية.

ثم إلى نموذج OpenAI متعدد الوسائط الأخير المسمى Gobi ، والدعوة القوية لنموذج Gimini من Google ، فإن المنافسة بين العملاقين على وشك أن تبدأ.

لفترة من الوقت ، أصبح التقدم الأخير في نماذج اللغة الكبيرة هو الموضوع الأكثر سخونة في الدائرة.

لإعادة صياغة قصيدة قديمة ، "لا تزال تحمل بيبا ونصف تغطي الوجه" لوصفها ، فمن المناسب تماما. أنا فقط لا أعرف متى يمكنني حقا "الخروج بعد وقت طويل".

ملخص الجدول الزمني

ما سنتحدث عنه اليوم يرتبط ارتباطا مباشرا ب GPT-5 ، وهو تحليل من قبل صديقنا القديم غاري ماركوس.

النقطة الأساسية هي جملة واحدة فقط: GPT-4 إلى 5 ليست بسيطة مثل توسيع حجم النموذج ، ولكنها تغيير في نموذج الذكاء الاصطناعي بأكمله. ومن وجهة النظر هذه ، فإن OpenAI ، التي طورت GPT-4 ، ليست بالضرورة الشركة التي وصلت إلى 5 أولا.

بمعنى آخر ، عندما يحتاج النموذج إلى التغيير ، فإن التراكم السابق غير قابل للتحويل بشكل كبير.

ولكن قبل أن ندخل في وجهة نظر ماركوس ، دعنا نراجع بإيجاز ما حدث ل GPT-5 الأسطوري مؤخرا وما قاله مجال الرأي العام.

في البداية ، قام كارباثي ، المؤسس المشارك ل OpenAI ، بالتغريد بأن H100 هو موضوع ساخن يسعى إليه العمالقة ، والجميع يهتم بمن لديه هذا الشيء وعدده.

ثم كان هناك الكثير من النقاش حول عدد وحدات معالجة الرسومات H100 التي تحتاجها كل شركة للتدريب.

هذا عن ذلك.

ربما تم تدريب GPT-4 على حوالي 10000-25000 طائرة A100

ميتا حوالي 21000 A100

تسلا حوالي 7000 A100

الاستقرار الذكاء الاصطناعي حوالي 5000 A100

يوفر Falcon-40B تم تدريبه على 384 A100

فيما يتعلق بهذا ، شارك Musk أيضا في المناقشة ، وفقا ل Musk ، قد يستغرق تدريب GPT-5 ما بين 30,000 و 50,000 H100.

في السابق ، قال مورغان ستانلي أيضا تنبؤا مشابها ، لكن العدد الإجمالي أقل قليلا مما قاله ماسك ، حوالي 25000 وحدة معالجة رسومات.

بالطبع ، هذه الموجة من وضع GPT-5 على الطاولة للحديث ، يجب على Sam Altman الخروج لدحض الشائعات ، مما يشير إلى أن OpenAI لا يدرب GPT-5.

تكهن بعض مستخدمي الإنترنت الجريئين بأن سبب إنكار OpenAI لذلك ربما كان مجرد تغيير اسم طراز الجيل التالي ، وليس GPT-5.

على أي حال ، وفقا لسام ألتمان ، بسبب نقص وحدات معالجة الرسومات ، تأخرت الكثير من الخطط. حتى أنه قال إنه لا يريد أن يستخدم الكثير من الناس GPT-4.

الرغبة الشديدة في وحدات معالجة الرسومات في جميع أنحاء الصناعة هي نفسها. وفقا للإحصاءات ، يجب أن يكون العدد الإجمالي لوحدات معالجة الرسومات المطلوبة من قبل جميع عمالقة التكنولوجيا أكثر من 430,000. هذا مبلغ فلكي من المال ، ما يقرب من 15 مليار دولار.

ولكن كان من الملتوي بعض الشيء دفع GPT-5 للخلف من خلال كمية وحدة معالجة الرسومات ، لذلك سليمان ، مؤسس DeepMind ، "طرق" مباشرة في مقابلة ، قائلا إن OpenAI كان يدرب GPT-5 سرا ، لا تخفي ذلك.

بالطبع ، في المقابلة الكاملة ، تحدث سليمان أيضا عن الكثير من القيل والقال الكبير في الصناعة ، مثل سبب تأخر DeepMind في المنافسة مع OpenAI ، ومن الواضح أنه لا يتأخر كثيرا في الوقت المناسب.

كان هناك أيضا الكثير من المعلومات الداخلية ، مثل ما حدث عندما حصلت عليها Google في ذلك الوقت. لكن هذه لا علاقة لها ب GPT-5 ، ويمكن للأصدقاء المهتمين معرفة ذلك بأنفسهم.

بشكل عام ، هذه الموجة هي أحدث تقدم ل GPT-5 من قبل كبار الشخصيات في الصناعة ، مما يجعل الجميع مشبوهين.

بعد ذلك ، قال سام ألتمان في اتصال فردي ، "أعتقد أنه قبل عام 2030 ، سيظهر AGI ، يسمى GPT-10 ، وهو أكثر من مجموع الذكاء البشري."

من ناحية ، تتنبأ بجرأة ، ومن ناحية أخرى ، تنكر أنها تدرب GPT-5 ، مما يجعل من الصعب على الآخرين معرفة ما يفعله OpenAI حقا.

في هذا الصدد ، تصور ألتمان الكثير من السيناريوهات المستقبلية. على سبيل المثال ، كيف يفهم AGI ، ومتى سيظهر AGI ، وماذا سيفعل OpenAI إذا ظهر AGI حقا ، وماذا يجب أن تفعل البشرية جمعاء.

ولكن فيما يتعلق بالتقدم الفعلي، يخطط ألتمان لذلك بهذه الطريقة، "أخبرت الناس في الشركة أن هدفنا هو تحسين أداء نماذجنا الأولية بنسبة 10 في المائة كل 12 شهرا".

"إذا حددت هذا الهدف عند 20٪ ، فقد يكون مرتفعا بعض الشيء."

هذا ترتيب ملموس. لكن العلاقة بين 10٪ و 20٪ و GPT-5 غير واضحة.

الأكثر قيمة هو ما يلي - نموذج Gobi متعدد الوسائط من OpenAI.

ينصب التركيز على المنافسة الساخنة بين Google و OpenAI ، في أي مرحلة.

قبل الحديث عن Gobi ، علينا أن نتحدث عن GPT-vision. هذا الجيل من النماذج قوي جدا. التقط صورة تخطيطية ، وأرسلها مباشرة إلى GPT ، وسيقوم موقع الويب بإعدادها لك في دقائق.

ناهيك عن كتابة التعليمات البرمجية.

بعد انتهاء رؤية GPT ، قد تطلق OpenAI نموذجا كبيرا متعدد الوسائط أكثر قوة ، يحمل الاسم الرمزي Gobi.

على عكس GPT-4 ، تم بناء Gobi من الألف إلى الياء على نموذج متعدد الوسائط.

أثار هذا أيضا اهتمام المتفرجين - هل جوبي هو GPT-5 الأسطوري؟

بالطبع ، لا نعرف من أين أتى جوبي بعد ، ولا توجد أخبار محددة.

يصر سليمان على أن سام ألتمان ربما لا يقول الحقيقة عندما قال مؤخرا إنهم لم يدربوا GPT-5.

عرض ماركوس

بادئ ذي بدء ، من الممكن تماما عدم توقع أي منتج ما قبل الإصدار في تاريخ التكنولوجيا (باستثناء iPhone المحتمل) أكثر من GPT-5.

ليس فقط لأن المستهلكين متحمسون لها ، وليس فقط لأن مجموعة كاملة من الشركات تخطط للبدء من الصفر حولها ، وحتى بعض السياسة الخارجية مبنية حول GPT-5.

بالإضافة إلى ذلك ، يمكن أن يؤدي ظهور GPT-5 أيضا إلى تفاقم حروب الرقائق التي تصاعدت أكثر.

قال ماركوس إن هناك أيضا أشخاصا يستهدفون على وجه التحديد نموذج المقياس المتوقع ل GPT-5 ويطلبون منه تعليق الإنتاج.

بالطبع ، هناك عدد غير قليل من الأشخاص المتفائلين للغاية ، والبعض الآخر يتخيل أن GPT-5 قد يزيل ، أو على الأقل يبدد إلى حد كبير ، العديد من المخاوف التي لدى الناس بشأن النماذج الحالية ، مثل عدم موثوقيتها ، وميولها المتحيزة ، وميلها إلى صب هراء موثوق.

لكن ماركوس يعتقد أنه لم يكن واضحا له أبدا ما إذا كان مجرد بناء نموذج أكبر سيحل هذه المشكلات بالفعل.

اليوم ، نشرت بعض وسائل الإعلام الأجنبية خبرا مفاده أن مشروعا آخر ل OpenAI ، Arrakis ، يهدف إلى صنع نماذج أصغر وأكثر كفاءة ، ولكن تم إلغاؤه من قبل الإدارة العليا لأنه لم يحقق الأهداف المتوقعة.

قال ماركوس إن جميعنا تقريبا اعتقدنا أن GPT-4 ستطلق GPT-5 في أقرب وقت ممكن ، وأن GPT-5 غالبا ما يتصور أنه أقوى بكثير من GPT-4 ، لذلك فاجأ سام الجميع عندما نفى ذلك.

كان هناك الكثير من التكهنات حول هذا الأمر ، مثل مشكلات GPU المذكورة أعلاه ، وقد لا يكون لدى OpenAI ما يكفي من النقود في متناول اليد لتدريب هذه النماذج (التي تشتهر بتكلفة تدريبها).

ولكن مرة أخرى ، فإن OpenAI بالكاد يتم تمويله جيدا مثل أي شركة ناشئة. بالنسبة لشركة جمعت للتو 10 مليارات دولار ، حتى 500 مليون دولار في التدريب ليس مستحيلا.

هناك طريقة أخرى لوضعها وهي أن OpenAI تدرك أن تكاليف تدريب نموذج أو تشغيله ستكون مرتفعة للغاية ، وهم غير متأكدين مما إذا كان بإمكانهم تحقيق ربح بهذه التكاليف.

يبدو أن هذا منطقي بعض الشيء.

الحجة الثالثة ، ورأي ماركوس ، هي أن OpenAI قد أجرى بالفعل بعض اختبارات إثبات المفهوم خلال عرض Altman في مايو ، لكنهم لم يكونوا سعداء بالنتائج.

في النهاية ، قد يستنتجون أنه إذا كان GPT-5 مجرد نسخة مكبرة من GPT-4 ، فلن يلبي التوقعات ويقصر كثيرا عن الأهداف المحددة مسبقا.

إذا كانت النتائج مخيبة للآمال فقط أو حتى مزحة ، فإن تدريب GPT-5 لا يستحق إنفاق مئات الملايين من الدولارات.

في الواقع ، يفكر LeCun بنفس الطريقة.

ينتقل GPT من 4 إلى 5 ، وهو أكثر من مجرد 4plus. يجب أن يكون 4 إلى 5 من النوع الذي يصنع العصر.

ما نحتاجه هنا هو نموذج جديد، وليس مجرد توسيع نطاق النموذج.

لذلك ، من حيث تغيير النموذج ، بالطبع ، كلما كانت الشركة أكثر ثراء ، زاد احتمال تحقيق هذا الهدف. لكن الفرق هو أنه لا يجب أن يكون OpenAI بعد الآن. ولأن تغيير النموذج هو مسار جديد، فإن التجربة السابقة أو التراكم قد لا يكون ذا فائدة كبيرة.

وبالمثل ، من وجهة نظر اقتصادية ، إذا كان هذا صحيحا كما يقترح ماركوس ، فإن تطوير GPT-5 يعادل تأجيله إلى أجل غير مسمى. لا أحد يعرف متى ستصل التكنولوجيا الجديدة.

يبدو الأمر كما لو أن مركبات الطاقة الجديدة الآن لديها عموما مدى مئات الكيلومترات ، وإذا كنت تريد أن تستمر آلاف الأميال ، فأنت بحاجة إلى تقنية بطارية جديدة. بالإضافة إلى الخبرة ورأس المال ، قد يستغرق الأمر أيضا القليل من الحظ والفرصة لاختراق التقنيات الجديدة.

ولكن على أي حال ، إذا كان ماركوس على حق ، فمن المؤكد أن القيمة التجارية ل GPT-5 ستتقلص كثيرا في المستقبل.

موارد:

شاهد النسخة الأصلية
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
  • أعجبني
  • تعليق
  • مشاركة
تعليق
0/400
لا توجد تعليقات
  • تثبيت