ستساعدك المقالة التالية: تلبية ImpressionGPT: إطار عمل التحسين التكراري المستند إلى ChatGPT لملخصات تقارير الأشعة
تزداد الحاجة إلى نماذج تلخيص نصية فعالة ودقيقة مع توسع حجم المعلومات النصية الرقمية بشكل لا يصدق في كل من القطاعين العام والطب. يتضمن نص التلخيص تكثيف جزء طويل من الكتابة في نظرة عامة موجزة مع الاحتفاظ بمعنى المادة وقيمتها. لقد كانت نقطة محورية في أبحاث معالجة اللغة الطبيعية (NLP) لبعض الوقت.
تم الإبلاغ عن النتائج الإيجابية من خلال إدخال الشبكات العصبية وتقنيات التعلم العميق ، لا سيما نماذج التسلسل إلى التسلسل باستخدام معماريات فك التشفير لتوليد الملخص. بالمقارنة مع الأساليب المستندة إلى القواعد والإحصائية ، كانت الملخصات الناتجة عن هذه الأساليب أكثر طبيعية وملائمة للسياق. أصبح المسعى أكثر صعوبة بسبب الحاجة إلى الحفاظ على السمات السياقية والعلائقية لهذه النتائج والرغبة في الدقة في الإعدادات العلاجية.
تم استخدام ChatGPT وتحسينه من قبل الباحثين لتلخيص التقارير الإشعاعية. لتحقيق أقصى استفادة من قدرة التعلم في سياق ChatGPT ولتحسينها باستمرار من خلال التفاعل ، تم تطوير وتنفيذ طريقة تحسين تكرارية جديدة باستخدام الهندسة السريعة. لكي نكون أكثر دقة ، نستخدم خوارزميات بحث التشابه لبناء موجه ديناميكي يتضمن تقارير موجودة مسبقًا قابلة للمقارنة لغويًا وسريريًا. تم تدريب ChatGPT باستخدام هذه التقارير الموازية لفهم أوصاف وملخصات نصوص مظاهر التصوير المماثلة.
المساهمات الرئيسية
- يتيح بحث التشابه التعلم في السياق لنموذج اللغة (LLM) مع بيانات متفرقة. يتم تطوير موجه ديناميكي يتضمن جميع البيانات الأكثر صلة بـ LLM من خلال تحديد الحالات الأكثر قابلية للمقارنة في المجموعة.
- نقوم بإنشاء نظام مطالبة ديناميكي لتقنية تحسين تكرارية. يقوم الموجه التكراري أولاً بتقييم الردود التي تم إنشاؤها بواسطة LLM ثم يعطي المزيد من التوجيهات للقيام بذلك في التكرارات اللاحقة.
- نهج جديد لتعديل LLM يستفيد من المعلومات الخاصة بالمجال. يمكن استخدام المنهجية المقترحة عند الحاجة إلى تطوير نماذج خاصة بالمجال من LLM موجودة بسرعة وفعالية.
طُرق
موجه متغير
تستخدم العينات الديناميكية البحث الدلالي للحصول على أمثلة من مجموعة تقرير يمكن مقارنتها بتقرير الأشعة المدخلات ؛ يشتمل الاستعلام النهائي على نفس الاستعلام المحدد مسبقًا المقترن بجزء “النتائج” من تقرير الاختبار ، ويصف وصف المهمة الدور.
التحسين عبر التكرار
يمكن القيام بالأشياء الرائعة باستخدام مكون التحسين التكراري. الهدف من هذا النهج هو السماح لـ ChatGPT بتنقيح إجابته بشكل متكرر من خلال استخدام موجه تكراري. مهم للتطبيقات عالية المخاطر مثل ملخصات تقارير الأشعة ، وهذا يتطلب أيضًا إجراء مراجعة استجابة للتحقق من جودة الردود.
يتم التحقيق في جدوى استخدام نماذج اللغة الكبيرة (LLMs) لتلخيص التقارير الإشعاعية من خلال تعزيز مطالبات الإدخال بناءً على عدد صغير من عينات التدريب وطريقة تكرارية. يتم استخراج المجموعة من أجل الأمثلة المناسبة لتعلم LLM في السياق ، والتي يتم استخدامها بعد ذلك لتوفير إشارات تفاعلية. لزيادة تحسين الإخراج ، يتم استخدام تقنية التحسين التكراري. يستلزم الإجراء تعليم LLM ما يشكل استجابة جيدة وسلبية بناءً على ملاحظات التقييم الآلي. بالمقارنة مع الأساليب الأخرى التي تستخدم كميات هائلة من بيانات النص الطبي للتدريب المسبق ، أثبتت استراتيجيتنا أنها متفوقة. في الذكاء الاصطناعي العام الحديث ، يعمل هذا العمل أيضًا كأساس لبناء المزيد من نماذج اللغة الخاصة بالمجال.
أثناء العمل على إطار العمل التكراري لـ ImpressionGPT ، أدركنا أن تقييم جودة استجابات مخرجات النموذج مهمة أساسية ولكنها صعبة. يفترض الباحثون أن الاختلافات الواسعة بين نص المجال المحدد والنص العام المستخدم لتدريب LLMs تساهم في التناقضات الملحوظة في الدرجات. لذلك ، يتم تعزيز فحص تفاصيل النتائج التي تم الحصول عليها من خلال استخدام تدابير تقييم دقيقة.
لتضمين البيانات الخاصة بالمجال بشكل أفضل من كل من مصادر البيانات العامة والمحلية ، سنواصل تحسين التصميم السريع في المستقبل مع معالجة مشكلات خصوصية البيانات وأمانها. خاصة عند التعامل مع العديد من المنظمات. نأخذ في الاعتبار أيضًا استخدام Knowledge Graph لتكييف التصميم الفوري مع معرفة المجال الحالي. أخيرًا ، نخطط لدمج متخصصين بشريين ، مثل أخصائيي الأشعة ، في العملية التكرارية لتحسين الموجهات وتقديم تعليقات موضوعية حول النتائج التي يوفرها النظام. من خلال الجمع بين حكم ومنظور المتخصصين البشريين في تطوير LLM ، يمكننا الحصول على نتائج أكثر دقة.
