طول السياق
طول السياق، ويسمى أيضاً إطار السياق، هو الحد الأقصى لعدد الرموز التي يمكن لنموذج لغة كبير معالجتها في إدخال واحد، ويحدد كمية النص التي يمكن للنموذج مراعاتها في وقت واحد عند توليد رد. طول السياق هو معامل معماري أساسي لنماذج اللغة القائمة على المحولات، مقيد بآلية الانتباه للنموذج التي يجب أن تحسب العلاقات بين كل زوج من الرموز في الإدخال. أطوال السياق الأطول تتطلب موارد حوسبة أكثر وذاكرة أكثر وتنفيذات انتباه أكثر تطوراً مثل الانتباه المتناثر أو انتباه النافذة المنزلقة أو الانتباه السريع للحفاظ على أداء مقبول. نما طول السياق لنماذج الذكاء الاصطناعي بشكل كبير في السنوات الأخيرة، من 2048 رمزاً لـ GPT-3 الأصلي إلى 200000 رمز لـ Claude 3 ومليون رمز لـ Gemini 1.5 Pro و4 ملايين رمز لـ MiniMax. هذا التوسع غير بشكل أساسي قدرات أنظمة الذكاء الاصطناعي، مما مكنها من معالجة كتب كاملة وتقارير مالية شاملة وتواريخ محادثة ممتدة وقواعد بيانات كبيرة في تمريرة واحدة. أهمية طول السياق تمتد إلى ما بعد الحد الأقصى لحجم الإدخال لأن قدرة النموذج على استخدام إطار السياق الكامل بشكل فعال، تسمى غالباً استخدام السياق الفعال، تختلف بشكل كبير عبر النماذج والمهام. بعض النماذج تحافظ على أداء ثابت عبر إطار السياق الكامل، بينما يظهر البعض الآخر تدهوراً في منتصف أو نهاية السياقات الطويلة، وهي ظاهرة تعرف بمشكلة الضياع في المنتصف. الآثار العملية لطول السياق للتطبيقات تشمل القدرة على معالجة مستندات أطول بدون تجزئة، والحفاظ على تواريخ محادثة أطول، ودمج المزيد من المستندات المسترجعة في أنظمة التوليد المعزز بالاسترجاع، والتعامل مع التفاعلات المعقدة متعددة المنعطفات.
في الخدمات المالية
مثال واقعي
يقوم قسم الأبحاث في بنك استثماري أوروبي بمعالجة متوسط 200 إيداع شركة يومياً خلال موسم الأرباح، كل منها يتراوح بين 150 و400 صفحة. كان البنك يستخدم تقليدياً نموذجاً بإطار سياق 32000 رمز، مما يتطلب تجزئة المستندات إلى أجزاء من حوالي 20 صفحة لكل منها. كان المحللون يقدمون استعلامات ضد أجزاء فردية، وكانت النتائج تحتاج إلى الدمج والتوفيق يدوياً للإجابة على الأسئلة التي تتطلب مراجع متبادلة للمعلومات من أقسام مختلفة من المستند. ينتقل البنك إلى نموذج بإطار سياق 200000 رمز، والذي يمكنه معالجة إيداع 10-K الكامل لشركة أدوية أوروبية كبرى في تمريرة واحدة. إيداع 10-K يبلغ 280 صفحة، يحتوي على حوالي 180000 رمز من النص بما في ذلك وصف الشركة وعوامل الخطر ومناقشة الإدارة والبيانات المالية والحواشي. يسأل محلل النموذج: 'بناءً على الإيداع الكامل، حدد أي تناقضات بين سياسات الاعتراف بالإيرادات الموصوفة في الحواشي واتجاهات الإيرادات الفعلية المبلغ عنها في مناقشة الإدارة، وقيم ما إذا كان تركيز مخاطر الإيرادات للشرقة مفصحاً عنه بشكل كافٍ عبر جميع الأقسام ذات الصلة.' يعالج النموذج المستند بأكمله في إطار سياق واحد، ويشير إلى المعلومات عبر الأقسام، ويحدد أن سياسة الاعتراف بالإيرادات للشركة للعقود طويلة الأجل، الموصوفة في الحاشية 2، تم تطبيقها بشكل مختلف على عقد محدد تمت مناقشته في قسم مناقشة الإدارة ولكن ليس في عوامل الخطر. يحدد النموذج أيضاً أن تركيز مخاطر العملاء، على الرغم من ذكره في عوامل الخطر، لا ينعكس بشكل كافٍ في قسم الإبلاغ القطاعي. يتلقى المحلل تحليلاً شاملاً شاملاً كان سيتطلب مراجعة 14 جزءاً منفصلاً من المستندات مع النموذج السابق، وينخفض إجمالي وقت التحليل من 3 ساعات إلى 15 دقيقة.
لماذا يهم في التمويل
طول السياق هو واحد من أهم المواصفات التقنية لتطبيقات الذكاء الاصطناعي المالي لأنه يحدد مباشرة أنواع المستندات وسير العمل التي يمكن معالجتها دون تجزئة أو اقتطاع أو فقدان السياق المرجعي المتبادل. المستندات المالية هي من بين الأطول والأكثر تعقيداً في أي صناعة، مع الإيداعات التنظيمية والعقود القانونية وتقارير العناية الواجبة وتحليلات الأبحاث التي تتجاوز عادةً إطارات السياق للنماذج الأصغر. القدرة على معالجة هذه المستندات بالكامل ليست راحة بل ضرورة للعديد من حالات الاستخدام المالي، حيث أن العلاقات بين الأقسام المختلفة من المستند المالي غالباً ما تكون حاسمة للتحليل. على سبيل المثال، فهم ما إذا كانت عوامل الخطر المفصح عنها في نشرة الإصدار متسقة مع التوقعات المالية يتطلب الإشارة إلى المعلومات عبر المستند بأكمله، وهو أمر ممكن فقط مع إطار سياق طويل بما فيه الكفاية. توسع أطوال السياق في السنوات الأخيرة فتح قدرات جديدة للذكاء الاصطناعي المالي كانت مستحيلة سابقاً. نماذج بإطارات سياق مليون رمز يمكنها معالجة أطر تنظيمية كاملة أو مكتبات قانونية كاملة أو غرف بيانات عناية واجبة شاملة في تمريرة واحدة، مما يمكن الذكاء الاصطناعي من إجراء تحليل شامل كان سابقاً ممكناً فقط من خلال المراجعة البشرية. هذه القدرة لديها القدرة على تحويل اقتصاديات التحليل المالي، مما يقلل وقت وتكلفة سير العمل المكثف في المستندات بأوامر من حيث الحجم. ومع ذلك، يجب على المؤسسات المالية أيضاً أن تكون على دراية بقيود أطوال السياق الطويلة. ليست كل النماذج تحافظ على أداء ثابت عبر طول السياق الكامل، وتكلفة وزمن استجابة معالجة السياقات الطويلة جداً يمكن أن تكون كبيرة. استخدام السياق الفعال، الذي يقيس كيفية استخدام النموذج للمعلومات في إطار السياق الخاص به، غالباً ما يكون أكثر أهمية من طول السياق الخام.
مصطلحات ذات صلة
استكشف في Finatune
أسئلة شائعة
ما هو طول السياق في نماذج الذكاء الاصطناعي؟
طول السياق هو الحد الأقصى لعدد الرموز التي يمكن لنموذج الذكاء الاصطناعي معالجتها في إدخال واحد. يحدد كمية النص التي يمكن للنموذج مراعاتها في وقت واحد، من بضعة آلاف من الرموز إلى 4 ملايين في أحدث النماذج.
كيف يؤثر طول السياق على معالجة المستندات المالية؟
طول السياق الأطول يمكن الذكاء الاصطناعي من معالجة مستندات مالية كاملة دون تجزئة. هذا ضروري للأسئلة التي تتطلب مراجع متبادلة بين أقسام مختلفة من المستند.
أي نموذج ذكاء اصطناعي لديه أطول إطار سياق للمستندات المالية؟
MiniMax يقدم أطول إطار سياق بـ 4 ملايين رمز، يليه Google Gemini بـ 1 مليون رمز وClaude بـ 200000 رمز. استخدام السياق الفعال غالباً ما يكون أكثر أهمية من الحد الأقصى الخام.