أفضل 5 إلى 20 مرة من GPT - هو Gemini الذي سيكتسح النماذج الذكية

يعد Gemini نموذجًا جديدًا في الذكاء الاصطناعي ويعتبر أكثر تقدمًا بمقدار 5 إلى 20 مرة من نموذج GPT الذي طورته OpenAI.

تشمل المزايا التي تقدمها Gemini فهمًا أعمق للسياق، والقدرة على التعلم السريع والتكيف مع المعلومات الجديدة، والقدرة على معالجة البيانات بسرعة ودقة عالية.

على الرغم من أن برج الجوزاء لا يزال قيد التطوير، إلا أنه يتمتع بإمكانات هائلة لتغيير الطريقة التي نتفاعل بها مع التكنولوجيا.

قبل كوفيد، أطلقت جوجل نموذج "MEENA"، الذي كان في وقت ما أفضل نموذج لغة كبيرة في العالم. كتبت Google تدوينة مثيرة جدًا للاهتمام لأنها قارنتها على وجه التحديد بـ OpenAI.

بالمقارنة مع النموذج التوليدي الحالي الأكثر تقدمًا (GPT-2 من OpenAI)، تعمل Meena على تحسين الأداء بمقدار 1.7 مرة ويتم تدريبها على بيانات أكثر بمقدار 8.5 مرة.

يتطلب هذا النموذج تدريب FLOPS أكثر بـ 14 مرة من GPT-2، لكن هذا لم يساعد لأن OpenAI أصدرت نموذج GPT-3 بعد بضعة أشهر فقط، والذي كان يحتوي على معلمات أكثر بـ 65 مرة ورموز أكثر بـ 65 مرة. أكثر من 4000 × فلوبس. فرق الأداء بين النموذجين كبير. أثار نموذج مينا غضب نعوم شازير، الذي كتب مذكرة بعنوان "مينا تأكل العالم". أنذرت هذه الملاحظة بالكثير مما لاحظه بقية العالم بعد إصدار ChatGPT. الفكرة الرئيسية هي أن نماذج اللغة سوف تصبح مدمجة بشكل متزايد في حياتنا بطرق متعددة، وسوف تهيمن على FLOPS الموزعة عالميًا. عندما كتب نورم هذه المذكرة، رأى المستقبل، على الرغم من أن الكثيرين تجاهلوه وسخروا منه - .نريد اليوم مناقشة نظام تدريب Google لـ Gemini، وسرعة تطوير نموذج Gemini، وصعود Google Viperfish (TPUv5)، وقدرة Google التنافسية المستقبلية مقارنة بالمختبرات الرائدة الأخرى (ما نسميه GPU المستضعف). أي أنهم لا يستطيعون الوصول إلى موارد الحوسبة القوية.
ما هي ميزات Gemini ؟
(جيميني)، نموذج الذكاء الإصطناعي المبتكر، أظهر أنه متقدم خمس أو عشرين مرة أكثر من نموذج GPT الشهير وظيفة GPT الرئيسية هي صنع نص يشبه الإنسان بتوقع الكلمات التالية في الجملة. على الرغم من أنه مدهش، في بعض الأحيان GPT لا يكون قادرا على فهم سياق حيث في بعض الأحيان هناك نص صحيح ولكن غير منطقي. (جيمين) لديه تركيز عميق ومعزز على السياق والقدرة على دمج المعلومات الفورية بشكل أكثر فعالية وسرعة رد فعله وقدرته على التكيف مع المعلومات الجديدة هذه القدرة على الحصول على المعلومات والتعامل معها على الفور، مع إدراكه العميق للسياق، تعطي الجوزاء مكانة عالية في عالم الذكاء الاصطناعي، مما يجعله أداة قيّمة في العديد من تطبيقات الذكاء الاصطناعي. 

الأثرياء بوحدات معالجة الرسوميات (GPU)

الوصول إلى مهارات الحاسوب سيف ذو حدين ليس هناك سوى عدد قليل من الشركات التي لديها أكثر من 20 ألف وحدة من GPU A/H100، في حين يمكن للباحثين الأفراد الوصول إلى مئات أو الآلاف من الوحدات الرسومية لمشاريعهم الخاصة. خصوصاً باحثو OpenAI، Google، والإبتكار، X، Meta، حيث لديهم أعلى نسبة من موارد الكمبيوتر مقارنة مع عدد الباحثين. بعض هذه الشركات والعديد من الشركات الصينية ستملك أكثر من 100 ألف وحدة بحلول نهاية العام القادم نحن لا نعرف كم هو الرقم الصيني لكننا نعرف حجم وحدات العلاج مستكشفي الرئيسيين تفاخروا بالآلة بعدد وحدات معالجة الجرافيك التي يملكونها أو التي سيصلون إليها قريباً لقد انتشر هذا الاتجاه على نطاق واسع في الأشهر الأربعة الماضية لدرجة أنه أصبح نوعاً ما مسابقة قياس تؤثر مباشرة على اختيار الباحثين في أماكن عملهم. المتحولة التي ستمتلك ثاني أكبر وحدة في العالم تستخدم هذه كاستراتيجية لجذب المواهب 

المحرومون من وحدات معالجة الرسوميات (GPU)

هناك العديد من الشركات الناشئة وعلماء المصادر المفتوحة الذين يصعب عليهم الوصول إلى الرسوم البيانية يقضون الكثير من الوقت والجهد في التجارب التي لا تثمر ولا تفيد حقاً الكثير من الباحثين يقضون ساعات طويلة في تجديد النماذج باستخدام وحدات علاجية لا تحتوي على ذاكرة كافية. وهذه الطريقة هي استخدام غير فعال لمهاراتهم ووقتهم. هؤلاء المستكشفون يستخدمون نماذج كبيرة لتجديد نماذج أصغر لتحقيق نتائج أفضل في التقييم دون أن يأخذوا بعين الاعتبار المعنى الحقيقي للنتائج أو الدقة. وأحياناً يتجاهلون الحاجة لبيانات تدريب عالية الجودة يجب أن تركز هذه الشركات الصغيرة على تحسين أداء النموذج أو تقليل الوقت بين معالجة البيانات عن طريق تحسين قدرة الذاكرة. بدلاً من ذلك، يركزون على القيود على قدرة الذاكرة وتقليل كمية البيانات. من ناحية أخرى، العديد من شركات الذكاء الاصطناعي المشهورة تعاني من هذه المشكلة، مثل (هوغينج فيس)، (داتابريكس)، و(توغذرز). على الرغم من أن لديهم باحثين من الدرجة الأولى، إلا أنهم يعملون على أنظمة محدودة. إنهم بحاجة لاستثمارات كبيرة لتحسين قدراتهم. من ناحية أخرى، (إنفيديا) تقوم بتوسيع خدماتها وتقدم حلولاً متكاملة للشركات الكبيرة. لديها قائمة طويلة من الشركات التي تعتمد على خدماتها وأخيراً، هناك حاجة ملحة إلى بديل يمكن أن يقدم حلولاً تنافسية ويقلل من الاعتماد الكبير على NVIA. 

الأغني من حيث الحوسبة في العالم

في كثير من الأحيان تستخدم جوجل وحدات معالجة GPU لأهدافها الداخلية وتبيعها من خلال سحابة GCP الخاصة بها. على الرغم من هذا الاستخدام الواسع النطاق، فإن جوجل لا تزال تتمتع بفوائد تقنية فريدة من نوعها، تتميز بنموذج الجوزاء ونسخة جديدة من مرحلة التدريب. أهم شيء بالنسبة لجوجل هو البنية التحتية المتطورة للذكاء الاصطناعي والتي هي أفضل من غيرها من الأنظمة في هذا المجال.