Ollama 0.35 يضيف نماذج القرار، وهي نماذج تجيبك باختيار واحتمالات ودرجات بدل النصّ

يضيف Ollama 0.35.0 ما يسمّيه «نماذج القرار»، وتعمل على جهازك أنت عبر نقطة النهاية /v1/systemone— أي العنوان الذي ترسل إليه طلباتك — وتقول صفحة الإصدار إنّها مبنيّة على واجهة Jev من TypeSafe. نموذج القرار لا يكتب لك نصّاً: يعيد اختيارات واحتمالات ودرجات ، والصفحة تقترحه لفرز تذاكر الدعم، ولتوجيه الطلبات بين النماذج، ولتصنيف المحتوى. تؤرّخ الصفحة الإصدار 0.35.0 في 28 أيلول الساعة 21:23 ؛ ثمّ جاء 0.35.1 في 29 أيلول الساعة 20:14 بعائلة ثانية من هذه النماذج تستطيع أن ترى الصور أيضاً.

ما الذي تغيّر

يأتي 0.35.0 بنموذجَي قرار: Nimble من Bespoke Labs، وTev1 من Together AI. تجلب النموذج كما تجلب أيّ نموذج آخر، بالأمرollama pull nimble، والمثال في الصفحة يرسل طلبه إلىhttp://localhost:11434/v1/systemone.

يحمل الطلب سياقاً، وسؤالاً واحداً أو أكثر. في مثال الصفحة، النموذج هوnimble، والسياق — وهو الحقل state، أي «الحالة» التي يحكم عليها النموذج — تذكرة دعم تقول إنّ صفحة الدفع تعيد أخطاء 500 منذ التاسعة صباحاً: "Our checkout has returned 500 errors since 9am." والسؤال واحد، اسمهlabel ونوعه choice: يسأل "Which label fits this ticket?" — أيّ تصنيف يناسب هذه التذكرة؟ — ويعطي ثلاثة خيارات، لكلّ منها وصف قصير: billing للمدفوعات والمبالغ المستردّة، وbug لأخطاء البرمجيات، وaccountلتسجيل الدخول والوصول إلى الحساب.

والجواب ليس جملة. هو الخيار الذي اختاره النموذج، bug، ومعه احتمال لكلّ خيار — 0.9781 لـbug، و0.0125 لـbilling، و0.0093 لـaccount — ثمّ قيمة confidence، أي ثقة النموذج بجوابه، وهي 0.8906.

وchoiceواحد من ثلاثة أنواع من الأسئلة تدعمها الواجهة. سؤالchoiceيختار خياراً ويعيد احتمالاً لكلّ خيار ؛ وسؤالnoulيعيد احتمال أن يكون شرطٌ ما صحيحاً ؛ وسؤالscoreيعيد درجة على مجموعة مرتّبة من المعايير.

ويضيف 0.35.1 نموذجَي Clef وClef Flash، وتصفهما الصفحة بأنّهما نموذجا قرار جديدان مفتوحا المصدر من Cloudflare، على نقطة النهاية نفسها. حجم Clef هو 27B وحجم Clef Flash هو 9B، وكلاهما متعدّد الوسائط: يمكن أن يحمل الطلب صوراً إلى جانب الحالة النصّية، تشترك فيها الأسئلة كلّها ويُحكم عليها مع النصّ معاً. ومثال الصفحة يرسل إلىclef-flash الحالة "The user took this screenshot." — أي أنّ المستخدم التقط لقطة الشاشة هذه — مع صورة واحدة مرمّزة بـbase64 داخل القائمة images، ويطرح سؤالاً واحداً من نوعnoul: "Does this image contain Ollama?"، أي: هل في الصورة Ollama؟ والجواب رقم واحد، هو الاحتمال: 0.958.

ويغيّر 0.35.1 أيضاً طريقة تعريف هذه النماذج بنفسها: صار ollama show وقائمة النماذج يذكران decisionقدرةً وحيدة لها، فلم تعد التطبيقات تعرضها للمحادثة العامّة ولا للأدوات ولا للتفكير. وصارت ملفّات Modelfile — الملفّ الذي يُبنى منه النموذج في Ollama — تقبل تصريحاتCAPABILITY، فيستطيع من يبني نموذجاً أن يذكر صراحةً ما يقدر عليه. وحُدّث llama.cpp ومحرّك MLX.

وبعيداً عن نماذج القرار، صارت الإعدادات في 0.35.0 تُفتح دون انتظار اكتشاف النماذج ، وأُصلح تنزيل نماذج MLX الذي كان يتوقّف ويعلق بلا نهاية ، والطلبات التي ما زالت تحمل المعامل المهجورtypical_pصارت تسجّل تحذيراً بدل أن تفشل.

ما كان قبل ذلك

تعرض صفحة الإصدار تغييراتها مقارنةً بـv0.34.4. وأقرب ما في ملاحظات ذلك الإصدار إلى موضوعنا هو المخرجات المنظّمة: على نماذج التفكير صارت تُطبَّق في مرور واحد، وتقول الصفحة إنّ ذلك يجعلها أسرع وأوثق.

ما معناه لك

إن كنت اليوم تستخرج تصنيفات من نموذج محلّي، فالأرجح أنّك تطلب من نموذج محادثة ردّاً بصيغة JSON وتلزمه بمخطّط — وهذه هي المخرجات المنظّمة التي يشرحها دليلنا ما هي المخرجات المنظّمة. وهي ما زالت الأداة الصحيحة حين يكون الجواب نصّاً: ملخّصاً، أو اسماً تستخرجه، أو حقولاً لا تعرف قيمها مسبقاً. أمّا نموذج القرار فيعيد اختيارات واحتمالات ودرجات بدل النصّ ، فمكانه الحالة الأخرى: حين يكون الجواب واحداً من قائمة كتبتها أنت.

وما يضيفه هو الرقم الذي يقف إلى جانب الاختيار. المخطّط يضمن أن يأتي الردّ بالشكل الصحيح، وتحذير الدليل أنّ الشكل الصحيح لا يقول شيئاً عن صحّة القيمة. أمّا مع سؤال choiceفتأخذ احتمالاً لكلّ خيار ، فتقرّر أنت ماذا تفعل به: تمرّر التذكرة تلقائيّاً حين يتقدّم الخيار الأوّل بفارق كبير، وتحوّلها إلى شخص حين يتقارب خياران. ومعnoulيصير سؤال «نعم أو لا» احتمالاً واحداً تضع له العتبة التي تناسبك. وهذه بالضبط المهامّ التي تسمّيها الصفحة: الفرز، والتوجيه، والتصنيف.

لتجرّبه: حدّث إلى 0.35.0، وشغّل ollama pull nimble، وأرسل سياقك وأسئلتك إلى/v1/systemoneبدل نقطة نهاية المحادثة. وإن كان سياقك لقطة شاشة أو صورة، فحدّث إلى 0.35.1 واستخدم Clef أو Clef Flash. تسمّي الصفحة نموذج Clef في مثالهاclef-flash لكنّها لا تعطي أمر جلبه، وتذكر الحجمين، 27B و9B، لا الذاكرة التي يحتاجانها؛ وما يحدّد إن كان النموذج يتّسع على جهازك يشرحه دليلنا أيّ جهاز يشغّل نموذجاً محلّيّاً.

وبعد 0.35.1 لا تبحث عن هذه النماذج في قائمة النماذج داخل تطبيق المحادثة عندك: فهي لا تذكر إلّا القدرة decision، والتطبيقات لم تعد تعرضها للمحادثة. وإن كنت تشغّل llama.cpp بدل Ollama، أو تفضّل ألّا تشغّل النموذج بنفسك أصلاً، فانظر خبرَينا عنllama.cpp 0.6.0 وعن واجهة Decisions من OpenAI.

المصدر

صفحات الإصدارات على GitHub، في المستودع ollama/ollama: Ollama v0.35.0 وOllama v0.35.1، وللإصدار السابق Ollama v0.34.4.