الأخبار التكنولوجية والاستعراضات والنصائح!

تعلن NVIDIA عن NeMo Guardrails: أداة مفتوحة المصدر مصممة لتحسين أداء وسلامة روبوتات المحادثة المدعومة بالذكاء الاصطناعي مثل ChatGPT

ستساعدك المقالة التالية: تعلن NVIDIA عن NeMo Guardrails: أداة مفتوحة المصدر مصممة لتحسين أداء وسلامة روبوتات المحادثة المدعومة بالذكاء الاصطناعي مثل ChatGPT

مع تقدم تقنية الذكاء الاصطناعي (AI) ، أصبح تطوير حواجز حماية فعالة لتطبيقات الذكاء الاصطناعي التوليدية قضية ملحة. استجابة لهذا التحدي ، أصدرت NVIDIA برنامجًا مفتوح المصدر يسمى NeMo Guardrails ، يهدف إلى مساعدة المطورين على ضمان أمان ودقة وملاءمة تطبيقات الذكاء الاصطناعي باستخدام نماذج لغة كبيرة (LLMs).

NeMo Guardrails يزود الشركات بكافة التعليمات البرمجية والأمثلة والوثائق اللازمة لإضافة تدابير السلامة لتطبيقات الذكاء الاصطناعي الخاصة بهم. مع تزايد اعتماد LLMs في مختلف الصناعات لمهام مثل الرد على استفسارات العملاء وتسريع تصميم الأدوية ، تقدم NeMo Guardrails حلاً للحفاظ على أمان هذه التطبيقات.

يمكّن البرنامج المطورين من إنشاء ثلاثة أنواع من الحدود: حواجز الحماية الموضعية لإبقاء التطبيق ضمن المناطق المرغوبة ، وحواجز الأمان لتصفية اللغة غير المرغوب فيها وضمان الاستجابات الدقيقة ، وحواجز الأمان لتقييد الاتصالات بتطبيقات الطرف الثالث الآمنة. تم تصميم NeMo Guardrails للعمل مع مجموعة متنوعة من الأدوات ، بما في ذلك LangChain و Zapier ، وهو مفتوح المصدر ، مما يجعله متاحًا لمطوري البرامج بمستويات مختلفة من الخبرة. الهدف هو جعل الذكاء الاصطناعي جزءًا يمكن الاعتماد عليه وموثوقًا به في المستقبل من خلال إعطاء الأولوية للسلامة والأمن والثقة في تطوير الذكاء الاصطناعي.

أعلنت NVIDIA أنها ستدمج NeMo Guardrails في إطار عمل NeMo الخاص بها ، وهي أداة شاملة للتدريب وضبط نماذج اللغة باستخدام بيانات الملكية. إطار عمل NeMo متاح جزئيًا بالفعل كرمز مفتوح المصدر على GitHub. يمكن للشركات الحصول عليها كحزمة كاملة ومدعومة كجزء من منصة برمجيات NVIDIA’s AI Enterprise. تقدم NVIDIA AI Foundations خدمات سحابية لمساعدة الشركات على إنشاء ونشر نماذج ذكاء اصطناعي مخصصة باستخدام بياناتهم وخبراتهم. إحدى الأدوات المتوفرة في هذا الجناح هي إطار عمل NeMo.

استخدمت العديد من المنظمات ، بما في ذلك مشغل الهاتف المحمول الرائد في كوريا الجنوبية ، بالفعل إطار عمل NeMo لبناء مساعدين أذكياء. استخدمه فريق بحثي في ​​السويد لإنشاء LLMs التي تعمل على أتمتة وظائف النص للمستشفيات والحكومة ومكاتب الأعمال في البلاد.

يعد تطوير حواجز حماية فعالة للذكاء الاصطناعي التوليدي تحديًا معقدًا يتطلب البحث المستمر مع تقدم تقنية الذكاء الاصطناعي. أدركت NVIDIA هذا التحدي وجعلت برنامج NeMo Guardrails مفتوح المصدر للمساهمة في جهود مجتمع المطورين المستمرة لضمان سلامة الذكاء الاصطناعي. من خلال العمل معًا على تطوير الدرابزين ، يمكن للشركات الحفاظ على توافق خدماتها الذكية مع متطلبات السلامة والخصوصية والأمان ، مما يضمن بقاء هذه الأدوات المبتكرة على المسار الصحيح وجديرة بالثقة.

سيساعد دمج NeMo Guardrails في إطار عمل NeMo المطورين على دمج تدابير السلامة في تطبيقات الذكاء الاصطناعي الخاصة بهم منذ بداية عملية التطوير. نتيجة لذلك ، يمكن أن تتمتع الشركات بثقة أكبر في دقة تطبيقات الذكاء الاصطناعي وأمانها وملاءمتها ، ويمكن للجمهور الوثوق في أن هذه التطبيقات آمنة للاستخدام. يعد استخدام حواجز الحماية في تطوير الذكاء الاصطناعي أمرًا ضروريًا لضمان استخدام هذه الأدوات القوية بشكل مسؤول وأخلاقي ، وتعتبر NeMo Guardrails من NVIDIA خطوة في الاتجاه الصحيح.