[ad_1]
يتحدث الرئيس التنفيذي لشركة OpenAI Sam Altman خلال خطاب رئيسي يعلن فيه تكامل ChatGPT لـ Bing في Microsoft في ريدموند، واشنطن، في 7 فبراير 2023.
جايسون ريدموند | وكالة فرانس برس | صور جيتي
قبل ظهور ChatGPT من OpenAI وجذب انتباه العالم لقدرته على إنشاء جمل مقنعة، كانت شركة ناشئة صغيرة تسمى Latitude تُذهل المستهلكين من خلال لعبة AI Dungeon التي تسمح لهم باستخدام الذكاء الاصطناعي لإنشاء حكايات خيالية بناءً على مطالباتهم.
ولكن مع ازدياد شعبية AI Dungeon ، أشار نيك والتون، الرئيس التنفيذي لشركة Latitude ، إلى أن تكلفة الحفاظ على لعبة لعب الأدوار القائمة على النص بدأت في الارتفاع. تم تشغيل برنامج إنشاء النصوص AI Dungeon بواسطة تقنية لغة GPT التي تقدمها شركة مايكروسوفت– معمل أبحاث الذكاء الإصطناعي OpenAI. كلما زاد عدد الأشخاص الذين لعبوا AI Dungeon ، زادت قيمة الفاتورة التي يتعين على Latitude دفعها لـ OpenAI.
ومما زاد من تفاقم المأزق أن والتون اكتشف أيضًا أن مسوقي المحتوى كانوا يستخدمون AI Dungeon لإنشاء نسخة ترويجية، وهو استخدام لـ AI Dungeon لم يتوقعه فريقه أبدًا، ولكن انتهى به الأمر إلى إضافة فاتورة AI للشركة.
في ذروتها في عام 2021، يقدر والتون أن Latitude كانت تنفق ما يقرب من 200000 دولار شهريًا على ما يسمى ببرنامج الذكاء الاصطناعي التوليدي الخاص بـ OpenAI وخدمات Amazon Web من أجل مواكبة الملايين من استفسارات المستخدمين التي تحتاج إلى معالجتها كل يوم.
قال والتون: “مازحنا أن لدينا موظفين بشريين ولدينا موظفون في الذكاء الاصطناعي، وأنفقنا نفس المبلغ على كل منهم”. “لقد أنفقنا مئات الآلاف من الدولارات شهريًا على الذكاء الاصطناعي ولسنا شركة ناشئة كبيرة، لذا فقد كانت تكلفة باهظة للغاية”.
قال والتون إنه بحلول نهاية عام 2021، تحولت Latitude من استخدام برنامج GPT الخاص بـ OpenAI إلى برنامج لغة أرخص ولكنه لا يزال قادرًا والذي توفره شركة AI21 Labs الناشئة، مضيفًا أن الشركة الناشئة قامت أيضًا بدمج نماذج مفتوحة المصدر ونماذج لغة مجانية في خدمتها لخفض التكلفة. قال والتون إن فواتير الذكاء الاصطناعي التوليدية الخاصة بـ Latitude قد انخفضت إلى أقل من 100000 دولار شهريًا، وتتقاضى شركة بدء التشغيل اشتراكًا شهريًا للاعبين للحصول على ميزات ذكاء اصطناعي أكثر تقدمًا للمساعدة في تقليل التكلفة.
تؤكد فواتير الذكاء الاصطناعي الباهظة الثمن من Latitude على حقيقة غير سارة وراء الطفرة الأخيرة في تقنيات الذكاء الاصطناعي التوليدية: يمكن أن تكون تكلفة تطوير البرنامج وصيانته عالية بشكل غير عادي، سواء بالنسبة للشركات التي تطور التقنيات الأساسية، والتي يشار إليها عمومًا على أنها لغة كبيرة أو نماذج أساسية، وأولئك الذين يستخدمون الذكاء الاصطناعي لتشغيل برامجهم الخاصة.
تعتبر التكلفة العالية للتعلم الآلي حقيقة غير مريحة في الصناعة حيث ينظر أصحاب رؤوس الأموال إلى الشركات التي يمكن أن تصل قيمتها إلى تريليونات الدولارات، والشركات الكبيرة مثل Microsoft ، ميتا، و جوجل استخدام رأس مالهم الكبير لتطوير الريادة في التكنولوجيا التي لا يستطيع المتنافسون الصغار اللحاق بها.
ولكن إذا كان هامش تطبيقات الذكاء الاصطناعي أصغر بشكل دائم من هوامش البرامج كخدمة السابقة، نظرًا لارتفاع تكلفة الحوسبة، فقد يؤدي ذلك إلى إعاقة الطفرة الحالية.
التكلفة العالية للتدريب و “الاستدلال” – التي تعمل بالفعل – نماذج اللغة الكبيرة هي تكلفة هيكلية تختلف عن طفرات الحوسبة السابقة. حتى عندما يتم إنشاء البرنامج أو تدريبه، فإنه لا يزال يتطلب قدرًا هائلاً من قوة الحوسبة لتشغيل نماذج لغوية كبيرة لأنها تقوم بمليارات الحسابات في كل مرة ترد فيها استجابة للمطالبة. وبالمقارنة، فإن تقديم تطبيقات أو صفحات الويب يتطلب عمليات حسابية أقل بكثير.
تتطلب هذه الحسابات أيضًا أجهزة متخصصة. بينما يمكن لمعالجات الكمبيوتر التقليدية تشغيل نماذج التعلم الآلي، إلا أنها بطيئة. تتم معظم التدريبات والاستدلالات الآن على معالجات الرسومات، أو وحدات معالجة الرسومات، التي كانت مخصصة في البداية للألعاب ثلاثية الأبعاد، ولكنها أصبحت معيارًا لتطبيقات الذكاء الاصطناعي لأنها يمكن أن تقوم بالعديد من العمليات الحسابية البسيطة في وقت واحد.
نفيديا تجعل معظم وحدات معالجة الرسومات (GPU) لصناعة الذكاء الاصطناعي، وتكلف شريحة عمل مركز البيانات الأساسي الخاصة بها 10000 دولار. غالبًا ما يمزح العلماء الذين يبنون هذه النماذج بأنهم “تذوب وحدات معالجة الرسومات. “
نماذج التدريب
معالج Nvidia A100
نفيديا
يقدر المحللون والتقنيون أن العملية الحاسمة لتدريب نموذج لغوي كبير مثل OpenAI’s GPT-3 قد تكلف أكثر من 4 ملايين دولار. قال روان كوران، محلل شركة Forrester الذي يركز على الذكاء الاصطناعي والتعلم الآلي، إن نماذج اللغة الأكثر تقدمًا قد تكلف أكثر من “الملايين ذات الرقم الواحد المرتفع” للتدريب.
على سبيل المثال، استخدم نموذج Meta LLaMA الأكبر الذي تم إصداره الشهر الماضي، على سبيل المثال، 2048 وحدة معالجة رسومات Nvidia A100 للتدريب على 1.4 تريليون رمز (750 كلمة تبلغ حوالي 1000 رمز) ، واستغرق الأمر حوالي 21 يومًا، كما قالت الشركة عندما أصدرت النموذج الشهر الماضي.
استغرق التدريب حوالي مليون ساعة من GPU. مع أسعار مخصصة من AWS ، من شأنها أن تكلف أكثر من 2.4 مليون دولار. وبوجود 65 مليار معلمة، فهو أصغر من نماذج GPT الحالية في OpenAI ، مثل ChatGPT-3، التي تحتوي على 175 مليار معلمة.
قال كليمنت ديلانج، الرئيس التنفيذي لشركة Hugging Face الناشئة لمنظمة العفو الدولية، إن عملية تدريب نموذج بلوم اللغوي الكبير للشركة استغرقت أكثر من شهرين ونصف الشهر وتطلبت الوصول إلى كمبيوتر عملاق “يشبه ما يعادل 500 وحدة معالجة رسومات”. “
وقال إن المنظمات التي تبني نماذج لغوية كبيرة يجب أن تكون حذرة عند إعادة تدريب البرنامج، مما يساعد على تحسين قدراته، لأنه يكلف الكثير.
قال Delangue ، “من المهم أن ندرك أن هذه النماذج لا يتم تدريبها طوال الوقت، مثل كل يوم” ، مشيرًا إلى أن هذا هو السبب في أن بعض النماذج، مثل ChatGPT ، ليس لديها معرفة بالأحداث الأخيرة. وقال إن معرفة ChatGPT تتوقف في عام 2021.
قال Delangue: “إننا نقوم بالفعل بتدريب الآن على الإصدار الثاني من Bloom ولن يكلف الأمر أكثر من 10 ملايين دولار لإعادة التدريب”. “هذا هو نوع الشيء الذي لا نريد القيام به كل أسبوع.”
الاستدلال ومن يدفع ثمنه
Bing مع الدردشة
جوردان نوفيت | سي ان بي سي
لاستخدام نموذج تعلم آلي مدرب لعمل تنبؤات أو إنشاء نص، يستخدم المهندسون النموذج في عملية تسمى “الاستدلال” ، والتي يمكن أن تكون أكثر تكلفة من التدريب لأنها قد تحتاج إلى تشغيل ملايين المرات لمنتج شائع.
لمنتج مشهور مثل ChatGPT – والذي تقدر شركة الاستثمار UBS امتلاكه وصلت إلى 100 مليون مستخدم نشط شهريًا في يناير – يعتقد Curran أنه كان من الممكن أن يكلف OpenAI 40 مليون دولار لمعالجة ملايين المطالبات التي تم إدخالها إلى البرنامج في ذلك الشهر.
ترتفع التكاليف عند استخدام هذه الأدوات بلايين المرات في اليوم. يقدر المحللون الماليون أن روبوت الدردشة Bing AI من Microsoft ، والذي يتم تشغيله بواسطة نموذج OpenAI ChatGPT ، يحتاج إلى ما لا يقل عن 4 مليارات دولار من البنية التحتية لخدمة الاستجابات لجميع مستخدمي Bing.
في حالة Latitude ، على سبيل المثال، بينما لم يكن على الشركة الناشئة الدفع لتدريب نموذج لغة OpenAI الأساسي الذي كانت تصل إليه، كان عليها حساب تكاليف الاستنتاج التي كانت أقرب إلى “نصف سنت لكل مكالمة قال متحدث باسم Latitude “على” بضعة ملايين طلب يوميًا “.
قال كوران عن حساباته: “كنت متحفظًا نسبيًا”.
من أجل زرع بذور الازدهار الحالي للذكاء الاصطناعي، استثمر أصحاب رؤوس الأموال وعمالقة التكنولوجيا مليارات الدولارات في الشركات الناشئة المتخصصة في تقنيات الذكاء الاصطناعي التوليدية. مايكروسوفت، على سبيل المثال، استثمرت ما يصل إلى 10 مليارات دولار في OpenAI المشرف على GPT ، وفقًا لتقارير وسائل الإعلام في يناير. قوة المبيعاتأطلقت شركة Salesforce Ventures ، ذراع رأس المال الاستثماري لشركة Salesforce Ventures ، مؤخرًا صندوقًا بقيمة 250 مليون دولار يلبي احتياجات الشركات الناشئة في مجال الذكاء الاصطناعي.
كمستثمر سيميل شاه في شركتي Haystack و Lightspeed Venture Partners وصفها على Twitter ، “تحولت أموال رأس المال الاستثماري من دعم ركوب سيارة الأجرة وتوصيل البوريتو إلى LLM وحساب الذكاء الاصطناعي التوليدي.”
يرى العديد من رواد الأعمال مخاطر في الاعتماد على نماذج الذكاء الاصطناعي المدعومة التي لا يتحكمون فيها ويدفعون مقابلها فقط على أساس كل استخدام.
قال سومان كانوجانتي، مؤسس Personal.ai ، وهو برنامج chatbot موجود حاليًا وضع بيتا. “لأن الشركات تتحول، فجميعها مملوكة لشركات التكنولوجيا الكبرى، أليس كذلك؟ إذا قطعوا الوصول، فقد ذهبت.”
تستكشف شركات مثل شركة كونفيرسيكا للتكنولوجيا المؤسسية كيف يمكنهم استخدام التكنولوجيا من خلال خدمة Azure السحابية من Microsoft بسعرها المخفض حاليًا.
في حين رفض الرئيس التنفيذي لشركة كونفرسيكا جيم كاسكيد التعليق على المبلغ الذي تدفعه الشركة الناشئة، فقد أقر بأن التكلفة المدعومة موضع ترحيب لأنها تستكشف كيف يمكن استخدام النماذج اللغوية بشكل فعال.
قال كاسكيد: “إذا كانوا يحاولون حقًا تحقيق التعادل، فسيكونون أكثر من ذلك بكثير”.
كيف يمكن أن يتغير
من غير الواضح ما إذا كانت حوسبة الذكاء الاصطناعي ستبقى باهظة الثمن مع تطور الصناعة. ترى جميع الشركات التي تصنع نماذج الأساس وصانعي أشباه الموصلات والشركات الناشئة فرصًا تجارية في تقليل سعر تشغيل برامج الذكاء الاصطناعي.
تواصل Nvidia ، التي تمتلك حوالي 95٪ من سوق رقائق الذكاء الاصطناعي، تطوير إصدارات أكثر قوة مصممة خصيصًا للتعلم الآلي، لكن التحسينات في إجمالي طاقة الرقاقة عبر الصناعة تباطأت في السنوات الأخيرة.
ومع ذلك، يعتقد الرئيس التنفيذي لشركة Nvidia Jensen Huang أنه في غضون 10 سنوات، سيكون الذكاء الاصطناعي أكثر كفاءة “بمليون مرة” بسبب التحسينات ليس فقط في الرقائق، ولكن أيضًا في البرامج وأجزاء الكمبيوتر الأخرى.
قال هوانغ الشهر الماضي في مكالمة أرباح: “قانون مور، في أفضل أيامه، كان سيحقق 100 ضعف خلال عقد”. “من خلال ابتكار معالجات وأنظمة جديدة وترابطات جديدة وأطر عمل وخوارزميات جديدة، والعمل مع علماء البيانات وباحثي الذكاء الاصطناعي على نماذج جديدة، عبر هذا النطاق بأكمله، جعلنا معالجة النماذج اللغوية الكبيرة أسرع مليون مرة.”
ركزت بعض الشركات الناشئة على التكلفة العالية للذكاء الاصطناعي كفرصة عمل.
“لم يكن أحد يقول” يجب أن تبني شيئًا مبنيًا لغرض الاستدلال “. ماذا سيكون هذا يشبه؟” قال سيد شيث، مؤسس D-Matrix ، وهي شركة ناشئة تبني نظامًا لتوفير المال على الاستدلال من خلال إجراء المزيد من المعالجة في ذاكرة الكمبيوتر، بدلاً من وحدة معالجة الرسومات.
“يستخدم الأشخاص اليوم وحدات معالجة الرسومات (GPU) ، NVIDIA GPU ، للقيام بمعظم استدلالاتهم. يشترون أنظمة DGX التي تبيعها NVIDIA والتي تكلف الكثير من المال. تكمن مشكلة الاستدلال في زيادة عبء العمل بسرعة كبيرة، وهو ما حدث لـ ChatGPT لقد وصل عدد المستخدمين إلى مليون مستخدم في خمسة أيام. لا توجد طريقة تستطيع سعة وحدة معالجة الرسومات الخاصة بك مواكبة ذلك لأنها لم تصمم من أجل ذلك. لقد تم تصميمها للتدريب، لتسريع الرسومات “.
يعتقد Delangue ، الرئيس التنفيذي لشركة HuggingFace ، أنه سيكون من الأفضل تقديم المزيد من الشركات مع التركيز على نماذج أصغر ومحددة أرخص في التدريب والتشغيل، بدلاً من النماذج اللغوية الكبيرة التي تحظى بأكبر قدر من الاهتمام.
وفي الوقت نفسه، أعلنت شركة OpenAI الشهر الماضي أنها تخفض تكلفة وصول الشركات إلى نماذج GPT الخاصة بها. انها تشحن الآن خمس سنت لحوالي 750 كلمة من الناتج.
جذبت أسعار OpenAI المنخفضة انتباه شركة Latitude المصنّعة للذكاء الاصطناعي.
قال متحدث باسم Latitude: “أعتقد أنه من العدل أن نقول إنه بالتأكيد تغيير ضخم نحن متحمسون لرؤيته يحدث في الصناعة ونحن نعمل باستمرار على تقييم كيف يمكننا تقديم أفضل تجربة للمستخدمين”. “سيستمر Latitude في تقييم جميع نماذج الذكاء الاصطناعي للتأكد من أن لدينا أفضل لعبة هناك.”
يشاهد: “لحظة iPhone” للذكاء الاصطناعي – فصل الضجيج عن دردشة GPT والواقع
[ad_2]
Source link