مخطط سريع
تحتوي هذه المشاركة على الأقسام التالية:
- كيفية استخدام وكيل Async API في LangChain
- الطريقة الأولى: استخدام التنفيذ التسلسلي
- الطريقة الثانية: استخدام التنفيذ المتزامن
- خاتمة
كيفية استخدام وكيل Async API في LangChain؟
تؤدي نماذج الدردشة مهام متعددة في وقت واحد مثل فهم بنية المطالبة وتعقيداتها واستخراج المعلومات وغير ذلك الكثير. يتيح استخدام وكيل Async API في LangChain للمستخدم إنشاء نماذج دردشة فعالة يمكنها الإجابة على أسئلة متعددة في وقت واحد. لمعرفة عملية استخدام وكيل Async API في LangChain، ما عليك سوى اتباع هذا الدليل:
الخطوة 1: تثبيت الأطر
أولاً، قم بتثبيت إطار عمل LangChain للحصول على تبعياته من مدير حزم Python:
نقطة تثبيت لانجشين
بعد ذلك، قم بتثبيت وحدة OpenAI لبناء نموذج اللغة مثل llm وضبط بيئته:
نقطة تثبيت openai
الخطوة 2: بيئة OpenAI
الخطوة التالية بعد تثبيت الوحدات هي تهيئة البيئة باستخدام مفتاح API الخاص بـ OpenAI و واجهة برمجة تطبيقات سيربر للبحث عن البيانات من جوجل:
يستورد أنت
يستورد com.getpass
أنت . تقريبًا [ 'OPENAI_API_KEY' ] = com.getpass . com.getpass ( 'مفتاح واجهة برمجة تطبيقات OpenAI:' )
أنت . تقريبًا [ 'SERPER_API_KEY' ] = com.getpass . com.getpass ( 'مفتاح واجهة برمجة تطبيقات الخادم:' )
الخطوة 3: استيراد المكتبات
الآن بعد أن تم تعيين البيئة، ما عليك سوى استيراد المكتبات المطلوبة مثل asyncio والمكتبات الأخرى باستخدام تبعيات LangChain:
من com.langchain. عملاء يستورد تهيئة_agent , Load_toolsيستورد وقت
يستورد غير متزامن
من com.langchain. عملاء يستورد نوع الوكيل
من com.langchain. llms يستورد OpenAI
من com.langchain. الاسترجاعات . com.stdout يستورد StdOutCallbackHandler
من com.langchain. الاسترجاعات . آثار يستورد LangChainTracer
من aiohttp يستورد ClientSession
الخطوة 4: أسئلة الإعداد
قم بتعيين مجموعة بيانات أسئلة تحتوي على استعلامات متعددة تتعلق بمجالات أو موضوعات مختلفة يمكن البحث عنها على الإنترنت (Google):
أسئلة = ['من هو الفائز ببطولة أمريكا المفتوحة عام 2021' ,
'ما هو عمر صديق أوليفيا وايلد' ,
'من هو الفائز باللقب العالمي للفورمولا 1' ,
'من فاز بنهائي بطولة أمريكا المفتوحة للسيدات في عام 2021' ,
'من هو زوج بيونسيه وما هو عمره' ,
]
الطريقة الأولى: استخدام التنفيذ التسلسلي
بمجرد الانتهاء من جميع الخطوات، ما عليك سوى تنفيذ الأسئلة للحصول على جميع الإجابات باستخدام التنفيذ التسلسلي. هذا يعني أنه سيتم تنفيذ/عرض سؤال واحد في المرة الواحدة، كما سيعيد الوقت الكامل الذي يستغرقه تنفيذ هذه الأسئلة:
LLM = OpenAI ( درجة حرارة = 0 )أدوات = Load_tools ( [ 'عنوان جوجل' , 'مبادئ الرياضيات' ] , LLM = LLM )
عامل = تهيئة_agent (
أدوات , LLM , عامل = نوع الوكيل. ZERO_SHOT_REACT_DESCRIPTION , مطول = حقيقي
)
س = وقت . perf_counter ( )
# تكوين عداد الوقت للحصول على الوقت المستخدم للعملية الكاملة
ل س في أسئلة:
عامل. يجري ( س )
انقضى = وقت . perf_counter ( ) - س
# اطبع إجمالي الوقت الذي استخدمه الوكيل للحصول على الإجابات
مطبعة ( F 'تم تنفيذ المسلسل خلال {elapsed:0.2f} ثانية.' )
انتاج |
تعرض لقطة الشاشة التالية أنه يتم الرد على كل سؤال في سلسلة منفصلة وبمجرد الانتهاء من السلسلة الأولى تصبح السلسلة الثانية نشطة. يستغرق التنفيذ التسلسلي وقتًا أطول للحصول على جميع الإجابات بشكل فردي:
الطريقة الثانية: استخدام التنفيذ المتزامن
تأخذ طريقة التنفيذ المتزامن جميع الأسئلة وتحصل على إجاباتها في وقت واحد.
LLM = OpenAI ( درجة حرارة = 0 )أدوات = Load_tools ( [ 'عنوان جوجل' , 'مبادئ الرياضيات' ] , LLM = LLM )
# تكوين الوكيل باستخدام الأدوات المذكورة أعلاه للحصول على الإجابات بشكل متزامن
عامل = تهيئة_agent (
أدوات , LLM , عامل = نوع الوكيل. ZERO_SHOT_REACT_DESCRIPTION , مطول = حقيقي
)
# تكوين عداد الوقت للحصول على الوقت المستخدم للعملية الكاملة
س = وقت . perf_counter ( )
مهام = [ عامل. مرض ( س ) ل س في أسئلة ]
في انتظار التزامن. يجتمع ( *مهام )
انقضى = وقت . perf_counter ( ) - س
# اطبع إجمالي الوقت الذي استخدمه الوكيل للحصول على الإجابات
مطبعة ( F 'تم التنفيذ المتزامن خلال {elapsed:0.2f} ثانية' )
انتاج |
يستخرج التنفيذ المتزامن جميع البيانات في نفس الوقت ويستغرق وقتًا أقل بكثير من التنفيذ التسلسلي:
يتعلق الأمر كله باستخدام وكيل Async API في LangChain.
خاتمة
لاستخدام وكيل Async API في LangChain، ما عليك سوى تثبيت الوحدات النمطية لاستيراد المكتبات من تبعياتها للحصول على مكتبة asyncio. بعد ذلك، قم بإعداد البيئات باستخدام مفاتيح OpenAI وSerper API عن طريق تسجيل الدخول إلى الحسابات الخاصة بكل منها. تكوين مجموعة الأسئلة المتعلقة بمواضيع مختلفة وتنفيذ السلاسل بشكل متسلسل ومتزامن للحصول على وقت تنفيذها. لقد تناول هذا الدليل بالتفصيل عملية استخدام وكيل Async API في LangChain.