التجربة نجحت. ربط أحدهم نموذجا بجدول فيه أسئلة حقيقية، فأجاب عن معظمها إجابة جيدة، واتفقت الغرفة على أنه جاهز. والجملة التالية هي نفسها دائما: لنربطه بالنظام الفعلي.
عند تلك الجملة يتغير شكل المشروع، ولا يكاد أحد ينتبه. التجربة تنتج نصا يقرأه إنسان ويحكم عليه. أما النموذج الموصول فيتخذ إجراءات لا يقرأها أحد قبل وقوعها. والثاني ليس الأول مضافا إليه مفتاح واجهة برمجية.
أربعة أسئلة تحدد إن كان ذلك الربط فكرة صائبة. لا شيء منها تقني. وأربعتها على الشركة أن تجيب عنها، ولا تسد الهندسة الفجوة إن لم تستطع.
التجربة والربط مشروعان مختلفان
في التجربة يكون النموذج استشاريا: يصوغ ويلخص ويقترح، ويقرأ إنسان كل مخرج قبل أن يحدث شيء، وكلفة الخطأ ثوان ضائعة. وحين يوصل بنظام يعمل يكف عن الاستشارة ويبدأ التنفيذ، فيكتب سجلا ويرسل رسالة ويعدل سعرا ويرد مبلغا، ولا يقرأ أحد المخرج أولا، لأن الغاية من الوصل كانت ألا يضطر أحد إلى ذلك.
هنا تتعثر معظم المشاريع بهدوء، ونادرا ما يكون النموذج هو السبب. الأسئلة الأربعة أدناه لا مالك لها، فلا يجيب عنها أحد، ويبقى العمل عند تسعين في المئة فصلا كاملا. وهذا هو النمط الذي وصفته في أين تتوقف تجارب الذكاء الاصطناعي: كل واحد من الأربعة قرار إداري يرتدي ثوبا تقنيا.
1. ماذا يسمح له أن يفعل دون أن يسأل
لا ما يستطيع فعله. بل ما يسمح له أن يفعله وحده، في الثالثة فجرا، ولا أحد ينظر.
الجواب ليس وثيقة سياسات، بل قائمتين. الأولى: كل ما يجوز له قراءته، أي الجداول والمستندات وصناديق البريد. والثانية: كل إجراء يجوز له اتخاذه ويغير شيئا. القائمة الأولى مسألة خصوصية. والقائمة الثانية هي كامل سطح المخاطر في المشروع، وهي أقصر مما يتوقع الناس بمجرد كتابتها.
كل سطر في قائمة الكتابة يأخذ وصفا. ينفذ: يتصرف النموذج وحده. يقترح: يجهز الإجراء ويؤكده إنسان بنقرة. ممنوع: لا يحصل على القدرة أصلا.
وقاعدتان تسهلان القائمة. كل ما يحرك مالا، أو يرسل شيئا إلى عميل باسمكم، أو يحذف سجلا، يبدأ عند يقترح. وكل ما لا تتركون موظفا جديدا كفؤا يفعله دون إشراف في أسبوعه الأول لا يوضع عند ينفذ أيضا، لأن النموذج يملك سياقا أقل من ذلك الموظف لا أكثر.
ولهذا الخلل اسم. تدرج قائمة OWASP لأخطر عشرة مخاطر في تطبيقات النماذج اللغوية «الصلاحية المفرطة» ضمن العشرة: نظام منح قدرة أو إذنا أكثر مما تطلبه المهمة، غالبا لأن الإذن كان مريحا أثناء التطوير ولم يضيقه أحد قبل الإطلاق.
والاختبار في الاجتماع: اقرأوا قائمة الكتابة بصوت عال واسألوا من المسؤول إن وقع كل سطر منها خطأ مئة مرة في ليلة. السطر الذي لا اسم أمامه ليس جاهزا.
2. ماذا يرى، وإلى أين يذهب ما يراه
كل مطالبة إفصاح. فما يحتاجه النموذج كي يجيب سلمتموه لمن يشغله، ولمورده في الغالب أيضا. فالسؤال ليس هل المزود موثوق، بل ما الذي يغادر أنظمتكم تحديدا، وإلى أي مدى. ثلاثة أجزاء، لكل منها جواب يسع سطرا:
- ما في المطالبة. أسماء وأرقام هواتف وسجلات طلبات، ومستند كامل لأن ذلك كان أسهل من انتزاع الفقرة منه.
- إلى أين يذهب. أي شركة، في أي دولة، بأي عقد، ويحفظ كم من الوقت، وهل يستعمل لتحسين نموذج أحد.
- ما يعود، وأين يخزن. المخرجات سجلات هي الأخرى، وتستقر في قاعدة بياناتكم مع كل شيء آخر.
وما يجعل هذا قابلا للإدارة غير لامع: أرسلوا الحقل لا الملف. النموذج الذي يحتاج أن يعرف أن طلبا تأخر لا يحتاج سجل العميل كاملا. وتقليم الحمولة يخفض الانكشاف والكلفة معا، وهو عمل بعد ظهر واحد.
والتنظيم قيد على هذا التصميم لا موضوعا له. المرسوم بقانون اتحادي 45 لسنة 2021 يحكم البيانات الشخصية هنا، والالتزامات التي ينشئها قبل أن تربطوا أي شيء موجودة في ما يطلبه قانون حماية البيانات أولا. ويسمي ميثاق الإمارات لتطوير الذكاء الاصطناعي واستخدامه خصوصية البيانات والشفافية والإشراف البشري ضمن مبادئه. لا يخبركم أي منهما كيف تبنون، لكن كليهما يخبركم أي خيارات التصميم غير متاحة.
3. كيف تعرفون أنه أخطأ
هذا هو السؤال الذي يفصل النظام عن العرض التوضيحي، وهو الأكثر تخطيا. اسألوا الفريق كم نسبة الخطأ اليوم. لا هل هي جيدة، بل كم الرقم. فإن عجز الجميع عن الجواب فلا شيء يقاس، والوصف الأمين هو أنه يعمل إلى أن يخبركم عميل بغير ذلك.
ثلاثة أشياء يجب أن توجد قبل تشغيل الربط، وكلها رخيصة أمام ما تمنعه:
- مجموعة أمثلة بإجابات صحيحة معروفة. خمسون إلى مئتي حالة حقيقية، بينها المحرجة، وأمام كل واحدة نتيجتها الصحيحة. هي الطريقة الوحيدة لمعرفة إن كان تعديل مطالبة أو ترقية نموذج أو تغيير مزود قد نفع. اجمعوها قبل الإطلاق، فبعده لا يجد أحد وقتا.
- سجل لكل مدخل وكل مخرج. لا عينة منها، مع طابع زمني وإشارة إلى السجل الذي مسه. في الشهر الرابع هذا هو الفرق بين ساعة تحقيق وأسبوع.
- إنسان يقرأ عينة بجدول ثابت. عشرون مخرجا في الأسبوع يقرؤها من يعرف الجيد من غيره. ساعة واحدة، وتلتقط الانحراف قبل العميل بكثير.
وإن أردتم مفردات جاهزة بدل ابتكارها، ينظم إطار إدارة مخاطر الذكاء الاصطناعي من المعهد الوطني الأمريكي للمعايير العمل في أربع وظائف: الحوكمة والتخطيط والقياس والإدارة. وقيمته لشركة بهذا الحجم ليست الأوراق، بل أن القياس وظيفة لها اسم ومالك، وهي بالضبط ما يضيع.
4. ماذا يحدث حين يتعطل ليلا
كل ما يوصل بنظام يعمل يتعطل في النهاية، ويتعطل حين لا ينظر أحد. أربعة أجوبة تكتب قبل الإطلاق:
- المسار البديل. حين يكون النموذج غير متاح أو يعيد كلاما بلا معنى، ماذا يحدث بدلا منه: يصف الطلب في طابور، أو يسلم إلى موظف، أو يعرض رسالة صادقة، أو يتوقف. أي منها مقبول. وغياب الجواب يعني أن الجواب هو ما تفعله الشيفرة مصادفة، وهو صفحة فارغة عادة.
- المفتاح. أداة واحدة تطفئ النموذج وتبقي بقية العمل يعمل. يجب أن يستطيع استخدامها شخص غير تقني، وأن تكون مجربة في وضح النهار لا مكتشفة أثناء عطل.
- سقف الإنفاق. حد يومي صارم مع تنبيه دونه بكثير. حلقة إعادة المحاولة هي الطريقة الكلاسيكية كي تصير فاتورة شهرية متواضعة فاتورة كبيرة بين ليلة وضحاها، ولهذا تدرج OWASP الاستهلاك غير المحدود في العشرة نفسها.
- الاسم. من يتصل به. لا فريق. شخص، وخلفه شخص ثان. وكل ما سبق تمثيل بلا هذا السطر.
لا شيء من هذا غريب، وهو ما يناله أي اعتماد إنتاجي آخر. ويسهل تخطيه لأن النموذج بدا ميزة أثناء التجربة، والميزات لا تحمل أجهزة استدعاء. وهو بعد الوصل بنية تحتية، وتأجيل ذلك هو كيف يدفع ثمن القرار مرتين.
جواب واحد يجعل الأربعة أسهل
خيار تصميمي واحد يحسن كل جواب أعلاه: اجعلوا الحد الفاصل بين النموذج ونظامكم عقدا لا محادثة. فالنموذج لا يعيد نصا تفسره شيفرتكم، بل بنية محددة بحقول مسماة وقيم مسموح بها، ويتحقق نظامكم منها قبل أن يتصرف. والمزودون اليوم يفرضون ذلك عند التوليد بدل تركه للأمل، وتوثيق المخرجات المهيكلة يبين ما يغطيه هذا الضمان.
وليست المسألة ترتيبا. البنية تمنح النموذج موضعا يضع فيه رفضه، فيقول إنه لا يعرف بدل أن يخترع، وتمنحكم موضعا لقيمة ثقة، وبها يقرر إجراء يقترح إن كان سيسأل إنسانا. كما تحول «أخطأ النموذج» إلى تأكيد على مستوى الحقل يمكن اختباره، وهذا ما يجعل السؤال الثالث قابلا للإجابة أصلا.
والانضباط المرافق هو ألا تضاف الاستقلالية إلا حيث قيس شكل أبسط ووجد قاصرا. وتقول مقالة Anthropic الهندسية عن بناء الوكلاء الفعالين الشيء نفسه: ابدأوا بالبسيط، وقيسوا، ولا تضيفوا استقلالية متعددة الخطوات إلا حين يقصر الأبسط قصورا مثبتا. ومعظم ما يقترح كوكيل هو نداء واحد محدد جيدا بمخرج متحقق منه.
الترتيب الذي أوصي به
- اكتبوا قائمة القراءة وقائمة الكتابة، وصفوا كل سطر كتابة بـينفذ أو يقترح أو ممنوع. ساعة مع من يملكون العملية لا من يملكون الشيفرة.
- قلموا الحمولة إلى الحقول التي تحتاجها المهمة، وسجلوا إلى أين تسافر وكم تحفظ.
- ابنوا مجموعة الأمثلة قبل أن يضبط أحد مطالبة على أساس انطباع.
- عرفوا بنية المخرج وتحققوا منها في الشيفرة، وارفضوا التصرف بناء على ما يسقط في التحقق.
- شغلوا السجل والمفتاح وسقف الإنفاق والمسار البديل. وجربوا المفتاح.
- أطلقوا نسخة يقترح وحدها، وراقبوا أسابيع ما يصححه الناس.
- ارفعوا السطور من يقترح إلى ينفذ واحدا واحدا، بدليل من السجل، لا دفعة واحدة.
الخطوات من واحد إلى خمسة أسبوعان إلى ثلاثة لشركة أنجزت تجربة ناجحة سلفا. وهذه هي المسافة الحقيقية بين عرض أعجب الجميع ونظام تعتمد عليه الشركة: أقصر مما تخشى الفرق، وأطول مما يوحي به المزودون.
وإن كانت التجربة قد أقنعت الناس ولا أحد متأكد ماذا بعد، فهذا هو العمل الذي أقدمه بصفتي استشاري ذكاء اصطناعي في الإمارات، وهو يقع داخل ارتباط مدير تقني بدوام جزئي حين تنطبق الأسئلة نفسها على أكثر من نظام.
وحين تكتمل الأجوبة الأربعة ويأتي دور بناء الربط، فشركتي تبنيه: وكلاء الذكاء الاصطناعي والأتمتة في توثيق.
الأسئلة الشائعة
هل يجب الإجابة عن الأربعة قبل وصول أي ذكاء اصطناعي إلى الإنتاج؟
قبل أن يتخذ أي نموذج إجراء بنفسه، نعم. أما مساعد للقراءة فقط يصوغ نصا يعتمده إنسان فيحتاج جوابا دقيقا عن السؤال الثاني وأجوبة خفيفة عن الباقي. وفي اللحظة التي يكتب فيها أو يرسل أو يدفع دون إنسان في المسار تنطبق الأربعة، لأنها اللحظة التي يكف فيها الخطأ عن الظهور قبل وصوله إلى العميل.
كم يستغرق هذا في شركة بلا فريق ذكاء اصطناعي؟
أسبوعان إلى ثلاثة إلى جانب العمل المعتاد، لحالة استخدام واحدة موصولة، بعد وجود تجربة ناجحة. ومعظم ذلك قرارات لا شيفرة: القائمتان وتقليم الحمولة ومجموعة الأمثلة. ومن يختصر يسقط مجموعة الأمثلة عادة، ثم يقضي وقتا أطول بكثير في الجدال هل نفع التعديل أم لا.
أيهما أأمن: مزود كبير أم تشغيل نموذج عندنا؟
لا أحدهما أأمن بطبيعته. تشغيل نموذجكم يلغي نقل بيانات ويضيف عبئا تشغيليا يحتاج من يتولاه. والمزود المستضاف يعطيكم نماذج أفضل وعقدا تقرؤونه. والقرار يقوم على ما بقي فعلا في مطالباتكم بعد تقليم الحمولة، إذ لا يبقى فيها شيء حساس في كثير من مهام الأعمال.
ما نسبة الخطأ المعقولة؟
ما تنتجه العملية التي يحل محلها، مقيسا بالطريقة نفسها. وهذه المقارنة لا تجرى تقريبا، لأن نسبة خطأ البشر مجهولة هي الأخرى. فنموذج يصيب تسع عشرة مرة من عشرين قد يكون تحسنا على صندوق بريد مزدحم، أو تراجعا أمام نموذج إدخال متحقق منه، ولا يخبركم أيهما إلا مجموعة الأمثلة.
من يملك هذا داخل الشركة؟
من يملك العملية التي يمسها النموذج، لا من بنى التكامل. فالدعم يملك مساعد الدعم، والمالية تملك كل ما يمس الفوترة. ولا يصح أن يقترح الباني الاستقلالية ويحكم في أمانها معا.