تخفيف هلوسة الذكاء الاصطناعي
تخفيف هلوسة الذكاء الاصطناعي يشمل مجموعة التقنيات والمنهجيات والأساليب المعمارية المصممة لتقليل أو القضاء على ميل نماذج اللغات الكبيرة لتوليد محتوى غير صحيح واقعياً أو مختلق أو غير منطقي، والذي يشار إليه غالباً بالهلوسة. تحدث الهلوسة في نماذج الذكاء الاصطناعي عندما يولد النموذج معلومات غير مرتكزة في بيانات تدريبه أو السياق المسترجع أو الواقع الفعلي، ويقدمها بنفس الثقة مثل المعلومات الدقيقة. تنشأ هذه الظاهرة من الطبيعة الأساسية لنماذج اللغة كأنظمة تنبؤ بالرمز التالي تتعلم أنماطاً في النص بدلاً من حقائق عن العالم. يمكن تصنيف الهلوسة إلى عدة أنواع: الهلوسة الواقعية، حيث يولد النموذج ادعاءات واقعية غير صحيحة؛ هلوسة تضارب المدخلات، حيث يناقض النموذج المعلومات المقدمة في سياق الإدخال؛ هلوسة تضارب السياق، حيث يولد النموذج معلومات غير متسقة داخلياً؛ والهلوسة غير المنطقية، حيث يكون المخرج صحيحاً نحوياً لكنه فارغ دلالياً. تعمل استراتيجيات التخفيف على مستويات متعددة من بنية نظام الذكاء الاصطناعي. على مستوى النموذج، تشمل التقنيات التوليد المعزز بالاسترجاع، الذي يرتكز مخرجات النموذج في معلومات واقعية مسترجعة؛ والذكاء الاصطناعي الدستوري والتعلم المعزز من التغذية الراجعة البشرية، الذي يدرب النماذج على أن تكون أكثر صدقاً وأن تعترف بعدم اليقين؛ والاستدلال بسلسلة الأفكار، الذي يشجع التحقق المنطقي خطوة بخطوة قبل توليد الإجابات؛ وفحوصات الاتساق الذاتي، حيث يولد النموذج إجابات مرشحة متعددة ويختار الأكثر اتساقاً. على مستوى النظام، تشمل تقنيات التخفيف التحقق من المخرجات مقابل الحقائق أو قواعد البيانات المعروفة، والمراجعة البشرية للمخرجات عالية المخاطر، وتقدير الثقة وعدم اليقين، وحواجز الأمان التي تكتشف المحتوى المحتمل هلوسته.
في الخدمات المالية
مثال واقعي
ينشر بنك أوروبي كبير نظام إعداد تقارير تنظيمية مدعوماً بالذكاء الاصطناعي يولد تقارير لتقديمها إلى هيئة المصارف الأوروبية والبنك المركزي الأوروبي والمنظمين الوطنيين. يعالج النظام البيانات من أنظمة المخاطر والمالية والامتثال في البنك ويولد تقارير تنظيمية منظمة بالتنسيق المطلوب من قبل كل منظم. ينفذ البنك استراتيجية شاملة لتخفيف الهلوسة مع طبقات متعددة من الدفاع. في الأساس، يستخدم النظام التوليد المعزز بالاسترجاع، مرتكزاً جميع مخرجات الذكاء الاصطناعي في مستودع البيانات الموثقة للبنك، والذي يحتوي على بيانات مالية مسجلة ومدققة. يتم تكوين النظام لاسترجاع نقاط البيانات المحددة اللازمة لكل حقل تنظيمي من المستودع، ويتم توجيه نموذج الذكاء الاصطناعي لاستخدام البيانات المسترجعة فقط لتوليد الإجابات، ورفض توليد أي معلومات غير موجودة في السياق المسترجع. الطبقة الثانية من الدفاع هي التحقق الخاص بالمجال. لكل حقل تقرير تنظيمي، لدى النظام مجموعة من قواعد التحقق التي تفحص مخرج الذكاء الاصطناعي مقابل النطاقات المتوقعة وقيود الاتساق والعلاقات عبر الحقول. على سبيل المثال، يتحقق النظام من أن إجمالي الأصول يساوي إجمالي المطلوبات بالإضافة إلى حقوق الملكية، وأن نسب رأس المال التنظيمي ضمن النطاقات المتوقعة، وأن الأرقام المبلغ عنها متسقة مع بيانات الفترة السابقة. الطبقة الثالثة هي مراقبة المخرجات مع نظام كشف الهلوسة الذي يستخدم نموذج تقييم منفصل لتقييم دقة المحتوى الذي يولده الذكاء الاصطناعي وواقعيته. الطبقة الرابعة هي المراجعة البشرية لجميع التقارير التنظيمية. يولد الذكاء الاصطناعي مسودة تقرير، يتم بعد ذلك مراجعتها من قبل فريق من متخصصي إعداد التقارير التنظيمية الذين يتحققون من دقة كل حقل قبل تقديم التقرير إلى المنظمين. يبلغ البنك أن استراتيجية تخفيف الهلوسة متعددة الطبقات تقلل معدل هلوسة الذكاء الاصطناعي من 3.2% في الاختبارات الأولية إلى 0.02% في الإنتاج، مع اكتشاف الأخطاء المتبقية عن طريق المراجعة البشرية قبل تقديم أي تقرير.
لماذا يهم في التمويل
تخفيف هلوسة الذكاء الاصطناعي هو بلا شك أهم تحدٍ في نشر أنظمة الذكاء الاصطناعي في الخدمات المالية لأنه يعالج مباشرة التوتر الأساسي بين القدرات التوليدية لنماذج الذكاء الاصطناعي ومتطلبات الدقة للتطبيقات المالية. نماذج اللغة مصممة لتوليد نص يبدو معقولاً، لكن ليس لديها آلية متأصلة للتمييز بين الدقة الواقعية والاختلاق المعقول. هذا يعني أنه بدون تخفيف، أي نظام ذكاء اصطناعي منشور في الخدمات المالية سينتج بعض المعدل من المحتوى المهلوس، والسؤال ليس ما إذا كانت الهلوسة ستحدث ولكن بأي معدل وبأي عواقب. نهج الصناعة المالية لهذا التحدي له آثار كبيرة على مسار اعتماد الذكاء الاصطناعي. إذا تمكنت المؤسسات المالية من تنفيذ تخفيف فعال للهلوسة يقلل معدلات الخطأ إلى مستويات مقبولة، يمكنها إطلاق العنان لمكاسب الكفاءة الكبيرة التي يقدمها الذكاء الاصطناعي مع الحفاظ على الدقة والموثوقية التي تتطلبها الخدمات المالية. إذا ثبت أن تخفيف الهلوسة غير كافٍ، قد تضطر الصناعة إلى قصر نشر الذكاء الاصطناعي على التطبيقات منخفضة المخاطر وعالية الإشراف، مما يتخلى عن الكثير من الفائدة المحتملة. الطبيعة متعددة الطبقات لتخفيف الهلوسة تعكس حقيقة أنه لا توجد تقنية واحدة كافية. التوليد المعزز بالاسترجاع يقلل لكنه لا يزيل الهلوسة، حيث قد يسيء النموذج تفسير أو اختلاق المعلومات في السياق المسترجع. قواعد التحقق تكتشف العديد من الأخطاء لكنها لا تستطيع تغطية جميع أوضاع الفشل المحتملة. المراجعة البشرية فعالة لكنها مكلفة وبطيئة. النهج الأمثل يجمع هذه التقنيات في بنية متعددة الطبقات توازن بين الدقة والتكلفة والسرعة. تطور تقنيات تخفيف الهلوسة مهم أيضاً للمشهد التنظيمي. مع تطوير المنظمين الماليين لأطر الإشراف على الذكاء الاصطناعي، ستكون القدرة على إظهار تخفيف فعال للهلوسة عاملاً رئيسياً في الحصول على الموافقة التنظيمية لنشر الذكاء الاصطناعي.
مصطلحات ذات صلة
استكشف في Finatune
أسئلة شائعة
ما هو تخفيف هلوسة الذكاء الاصطناعي في الخدمات المالية؟
تخفيف هلوسة الذكاء الاصطناعي يشمل تقنيات لتقليل ميل نماذج الذكاء الاصطناعي لتوليد محتوى غير صحيح. يشمل التوليد المعزز بالاسترجاع والتحقق الخاص بالمجال ومراقبة المخرجات والمراجعة البشرية.
كيف تمنع المؤسسات المالية هلوسة الذكاء الاصطناعي في الإنتاج؟
تستخدم المؤسسات المالية التوليد المعزز بالاسترجاع وقواعد التحقق ومراقبة المخرجات وحواجز الأمان والمراجعة البشرية. هذا النهج متعدد الطبقات يقلل معدلات الهلوسة من أكثر من 3% إلى أقل من 0.02%.
ما هي أفضل أدوات كشف وتخفيف هلوسة الذكاء الاصطناعي المالي؟
Ragas يوفر مقاييس تقييم لمعدلات الهلوسة، TruLens يوفر مراقبة جودة تطبيقات الذكاء الاصطناعي، وContextual AI يوفر حلول توليد معزز بالاسترجاع خاصة بالمالية مع كشف هلوسة مدمج.