كم يكلف تشغيل مساعد سنة، وما الذي يحرك الفاتورة

المشروع التجريبي لم يكلف شيئا يذكر. وضع أحدهم نموذجا خلف نموذج إدخال، فأجاب عن مئة سؤال إجابة جيدة، وكانت فاتورة آخر الشهر صغيرة بما يكفي كي لا يقرأها أحد بتمعن.

ثم يذهب الشيء نفسه إلى خمسمئة موظف، أو إلى الموقع العام، فتكف الفاتورة عن كونها خطأ تقريب. لا لأن شيئا ساء، بل لأن المشروع التجريبي لم يكن قط ما جرى تسعيره. وتكاد كل ميزانية تعرض علي لمساعد أن تكون فاتورة تجريبية مضروبة في رقم متفائل، وليست الكلفة تسلك هكذا.

وهذا ما يحرك الرقم السنوي فعلا، بالترتيب الذي يفاجئ الناس تقريبا.

النموذج نادرا ما يكون أكبر بند

ابدؤوا بالجزء المخالف للحدس. ففي معظم مساعدات الأعمال، ما تدفعونه لمزود النموذج معتبر لكنه ليس مهيمنا. وهو ببساطة أظهر الكلف، لأنه يصل في فاتورة واحدة مبندة باسمكم وسائرها لا يصل كذلك.

وأما الكبير فعلا ونادرا ما يوضع في الميزانية:

• الأنظمة التي يقرأ منها. بنية بحث، وقاعدة متجهات إن استعملتموها، والمسار الذي يبقيهما محدثين.
• إبقاء المحتوى صحيحا. على أحد أن ينتبه حين تتغير سياسة وأن يضمن كف المساعد عن تكرار القديمة.
• قراءة ما قاله. إنسان يراجع عينة أسبوعية من المحادثات. وهذا أكثر البنود حذفا، وحذفه هو كيف يخطئ مساعد أربعة أشهر دون أن يعلم أحد.
• التغيير. لا الأعطال، بل التغيير العادي. منتج جديد، وقاعدة جديدة، وقسم جديد يريده أن يفعل شيئا آخر.

وثلاثة من هذه الأربعة بشر لا بنية تحتية. ويعني ذلك أن المساعد في معظمه التزام تشغيلي يرتدي زي شراء برمجية، وتلك إعادة التأطير التي تجعل بقية الرقم مفهوما.

ما الذي يحرك فاتورة النموذج فعلا

وداخل بند النموذج، المحركات ليست ما يتوقعه الناس.

كم سياقا ترسلون، لا كم يجيب. كل طلب يحمل عادة تعليمات ومستندات مسترجعة وتاريخ محادثة. وفي مساعد قائم على الاسترجاع يقزم المدخل المخرج، وأنفع توفير متاح هو استرجاع خمسة مقاطع ذات صلة بدل عشرين متوسطة.

كم دورة تستغرق المحادثة. السؤال الذي يحسم في تبادل واحد أرخص بكثير من السؤال نفسه محسوما في ستة، لأن كل دورة تعيد إرسال التاريخ. والمساعدات التي تسأل أسئلة توضيحية تبدو نافعة وتكلف أضعافا.

أي نموذج، لأي خطوة. استعمال أقدر نماذجكم لكل مهمة أشيع الأخطاء وأغلاها. فالتصنيف والتوجيه والاستخراج نادرا ما تحتاجه. وإرشاد Anthropic حول بناء وكلاء فعالين يقول النسخة العامة من ذلك: ابدؤوا بأبسط ما ينفع ولا تضيفوا تعقيدا إلا حين يحسن النتيجة إحسانا يثبت.

هل يخزن شيء مؤقتا. إن كان كل طلب يعيد إرسال التعليمات الطويلة نفسها فأنتم تدفعون ثمن الرموز نفسها باستمرار. والمزودان الكبيران يوثقان العلاج — التخزين المؤقت للمطالبات لدى OpenAI ولدى Anthropic — تحديدا لأن النمط شائع إلى هذا الحد.

والنتيجة العملية: فريقان يبنيان المساعد نفسه على النموذج نفسه قد يختلفان أضعافا في بند النموذج وحده، لمجرد انضباط الاسترجاع واختيار النموذج.

الكلفة التي تصل مع النجاح

والرقم الذي لا يضعه أحد في نموذجه هو ما يحدث حين يستعمله الناس فعلا.

فالاستعمال ليس موزعا بالتساوي. مجموعة صغيرة ستستعمل مساعدا داخليا مرات كثيرة يوميا بينما يستعمله معظم الناس أحيانا، والمساعد العام سيجد سؤالا واحدا يسأله ألف شخص في أسبوع. ضعوا ميزانية لذروة لا لمتوسط، واعرفوا كم يكلف السقف قبل أن تكتشفوه.

وضعوا حدا صارما للإنفاق من اليوم الأول. لا تنبيه مراقبة بل حدا يوقف. وهو الصنف نفسه من الضوابط الذي في مفتاح الإطفاء في أربعة أسئلة قبل أن تربطوا نموذجا بنظام يعمل، وللسبب نفسه: العطل المهم هو الذي لا يراقبه أحد في الثالثة فجرا.

الالتزامات التي تأتي مع البيانات

المساعد الذي يقرأ مستنداتكم يعالج ما فيها، ولذلك كلفة حتى حين لا يسوء شيء.

وفئات المخاطر مصنفة جيدا: فـقائمة OWASP العشر لتطبيقات النماذج اللغوية تعد إفشاء المعلومات الحساسة بينها، وهي ذات الأثر المباشر على الميزانية، لأن منعها وقت هندسة لا إعداد يضبط.

وعلى أحد أن يحدد أي بيانات شخصية يبلغها، وهل تسرب الأجوبة معلومات عميل إلى آخر، وكم تحفظ المحادثات، وأين تخزن. وفي إطار حماية البيانات الشخصية الاتحادي ليست هذه أسئلة اختيارية، والقائمة في ما يطلبه قانون حماية البيانات قبل ربط نموذج هي النسخة التي أستعملها.

ثلاثة أرقام تحدد قبل أن يسعر أحد

لا يمكن تقدير أي مما سبق بدونها، وثلاثتها تعرف في بعد ظهيرة من المشروع التجريبي الذي أجريتموه أصلا.

• محادثات في الشهر عند السقف. لا المتوسط. كم شخصا يبلغه، مضروبا في كم مرة سيستعمله أثقل عشر منهم.
• دورات في المحادثة. خذوا خمسين محادثة تجريبية حقيقية وعدوا. والرقم أعلى دائما تقريبا مما يظنه الفريق، وهو يضاعف كل ما بعده.
• مستندات مسترجعة في الدورة. انظروا الإعداد الفعلي لا تسألوا عنه. وهذا أكثر الأرقام تركا على قيمة افتراضية لم يراجعها أحد، وأرخصها إصلاحا.

وهذه الثلاثة مضروبة تعطيكم بند التشغيل. وكل ما عداه في الميزانية إما ثابت وإما إنسان، وكلاهما أسهل تقديرا بصدق.

بنية تنتج رقما يمكن الدفاع عنه

حين يطلب مني رقم سنوي لا أنتج واحدا. أنتج أربعة، لأن الرقم الواحد يخفي الافتراضات التي ستحدده فعلا.

1. البناء. مرة واحدة. التكامل والاسترجاع والواجهة والتقييم قبل الإطلاق.
2. التشغيل. شهري ومدفوع بالاستعمال. نداءات النموذج وبنية البحث والاستضافة.
3. إبقاؤه صحيحا. شهري وثابت. صيانة المحتوى، ومراجعة العينة، ومجموعة التقييم محدثة كلما تغيرت الأمور.
4. التغيير. ربع سنوي. قدرات جديدة ومصادر جديدة وما تجلبه السنة الثانية.

والقياس ينتمي إلى البنية نفسها. فـإطار NIST لإدارة مخاطر الذكاء الاصطناعي يعامل القياس والإدارة وظيفتين مستمرتين لا بوابة إطلاق، وذلك بيان ميزانية بقدر ما هو بيان حوكمة: فما تقررون مراقبته تلتزمون بمراقبته كل شهر ما دام المساعد يعمل.

ثم صرحوا بالافتراض تحت بند التشغيل — محادثات في الشهر، ودورات في المحادثة، ومستندات مسترجعة في الدورة — وأروا ما يفعله الرقم إن تضاعف كل منها. فالميزانية التي تنجو من ذلك السؤال ميزانية. والتي لا تنجو عرض سعر لمشروع تجريبي.

والانضباط نفسه ينطبق على كل جزء من هذا: الكلفة القائمة هي ما يثبت قبل الالتزام، ولهذا كانت أحد الفحوص الستة في الفحص التقني الذي أجريه قبل أن يشتري أحد أو يبني.

ولماذا يفشل التقدير عادة

وأكثر ما رأيته سببا لانحراف الميزانية ليس خطأ حسابيا بل خطأ في التصنيف: يوضع المساعد في ميزانية المشاريع بينما هو في الحقيقة بند تشغيل.

وميزانية المشروع لها بداية ونهاية ومبلغ يصرف مرة. أما بند التشغيل فيتكرر كل شهر ما دام الشيء يعمل، ويحتاج مالكا في الهيكل التنظيمي، وينبغي مراجعته سنويا مع بقية النفقات المتكررة. والمساعد الذي يمول كمشروع ينفد تمويله في الربع الثالث، لا لأنه أخفق بل لأنه نجح واستمر.

وهو النمط نفسه في توقف التجارب قبل الإنتاج: المشكلة نادرا ما تكون في النموذج، وغالبا في أن أحدا لم يقرر من يملك الشيء بعد إطلاقه ومن أي ميزانية يمول.

وأبسط علاج عرفته: اطلبوا أن يظهر المساعد في ورقة المصروفات المتكررة نفسها التي فيها الاستضافة وتراخيص البرمجيات، من الشهر الأول، بمبلغ متحفظ. فالبند الذي يوجد في المكان الصحيح يراجع، والبند الذي لا يوجد يفاجئ.

ما كنت لأفعله لخفضه إلى النصف

بترتيب العائد، قبل أن يعيد أحد التفاوض على عقد.

أصلحوا الاسترجاع أولا. معظم المساعدات ترسل سياقا أكثر من اللازم بكثير. وخفض المقاطع المسترجعة من عشرين إلى خمسة يحسن الأجوبة ويخفض فاتورة المدخل في آن، وهو التغيير النادر بلا مقايضة.

وجهوا بحسب الصعوبة. أرسلوا الأغلبية السهلة إلى نموذج أصغر واحتفظوا بالقادر لما يحتاجه.

خزنوا الأجزاء الثابتة مؤقتا. التعليمات الطويلة القائمة مكانها ذاكرة مؤقتة لا كل طلب.

قللوا الدورات. انظروا المحادثات التي استغرقت ستة تبادلات واعثروا على ما أخفق المساعد في تحديده في الأول. وهذا يحسن التجربة والفاتورة معا.

ثم انظروا العقد. تسعير الاستعمال الملتزم به يستحق النقاش متى استقر نمط استعمالكم، ولا قيمة له قبل ذلك، لأنكم ستلتزمون بالرقم الخطأ.

وذلك الترتيب مهم. فكل من الأربعة الأولى هندسة تتحكمون فيها؛ والخامس يعتمد على موافقة غيركم. والفرق أن الفرق تبدأ بالخامس دائما تقريبا. وهذا جزء كبير مما أطلب له بصفتي استشاري ذكاء اصطناعي، وهو عادة الفرق بين مشروع ينجو من دورة ميزانيته الثانية ومشروع يطفأ بهدوء.

وإن كان الرقم السنوي مقبولا وأردتم البناء فعلا، فشركتي تبنيها: مساعدون مخصصون بالذكاء الاصطناعي من توثيق.

الأسئلة الشائعة

هل تعطينا رقما لمساعد نموذجي؟

ليس بصدق، ومن يفعل دون أن يسأل عن أحجامكم يخمن. فالنطاق هائل — المساعد نفسه وظيفيا قد يختلف أضعافا في بند النموذج وحده، من انضباط الاسترجاع واختيار النموذج، قبل حساب من يبقيه صحيحا. وما أستطيع قوله هو الشكل: البناء مرة واحدة وأصغر مما يتوقع، وكلف التشغيل يهيمن عليها البشر لا الحوسبة، وأكبر مخاطرة منفردة نمو استعمال لم يوضع في نموذج.

هل الاستضافة الذاتية للنموذج أرخص؟

أحيانا، عند حجم عال ومستقر، وهي تغير ما تشترونه لا تخفضه ببساطة. فأنتم تستبدلون فاتورة قائمة على الاستعمال ببنية تحتية ثابتة زائد من يشغلونها، فلا تسدد إلا فوق عتبة ينبغي حسابها قبل الالتزام. وهي كثيرا ما تكون الجواب الصحيح لأسباب إقامة البيانات لا لأسباب الكلفة، وذلك أساس أفضل للقرار.

سعر موردنا شهري ثابت. هل ذلك أفضل؟

هو أقبل للتوقع، ولذلك قيمة حقيقية. اقرؤوا ما يشمله: الاستعمال فوق عتبة، وترقيات النماذج، وصيانة المحتوى، وما يحدث حين تريدون تغييرا. فالسعر الثابت بسقف استعمال منخفض وطلبات تغيير تفوتر منفصلة سعر متغير بخطوات إضافية. والقابلية للتوقع تستحق الدفع، لكن بشرط أن تكون قابلة للتوقع فعلا.

كيف نمنع الفاتورة من الانفلات ليلا؟

سقف يومي صارم يوقف لا ينبه، وحدود معدل لكل مستخدم، ولوحة ينظر إليها أحد أسبوعيا فعلا. فالتنبيهات ليست ضوابط، لأنها تعتمد على استيقاظ شخص واستعداده للتصرف. ضعوا السقف فوق ذروتكم المتوقعة ودون الرقم الذي يهم، وعاملوا بلوغه معلومة لا إخفاقا.

ما أكثر الكلف نسيانا؟

الشخص الذي يقرأ عينة مما قاله. فهو صغير، وسهل الحذف لأن لا شيء ينكسر ظاهريا حين يحذف، وغيابه هو كيف يعطي مساعد جوابا خاطئا شهورا. ضعوه بندا ثابتا من الشهر الأول، لا شيئا يضاف متى أثبت المساعد نفسه.