Datadog LLM Observability يساعد مهندسي الذكاء الاصطناعي وعلماء البيانات ومطوري التطبيقات على تطوير وتقييم ومراقبة تطبيقات LLM بسرعة. حسّن جودة المخرجات والأداء والتكاليف والمخاطر الإجمالية بثقة مع تجارب منظمة وتتبع شامل عبر وكلاء الذكاء الاصطناعي والتقييمات.
إذا لم يكن لديك مفتاح API من Datadog، يمكنك إنشاء حساب والحصول على مفتاح API.ستحتاج أيضاً إلى تحديد اسم تطبيق ML في متغيرات البيئة التالية. تطبيق ML هو تجميع لتتبعات LLM Observability المرتبطة بتطبيق محدد قائم على LLM.
# crewai_agent.pyfrom crewai import Agent, Task, Crewfrom crewai_tools import ( WebsiteSearchTool)web_rag_tool = WebsiteSearchTool()writer = Agent( role="Writer", goal="You make math engaging and understandable for young children through poetry", backstory="You're an expert in writing haikus but you know nothing of math.", tools=[web_rag_tool],)task = Task( description=("What is {multiplication}?"), expected_output=("Compose a haiku that includes the answer."), agent=writer)crew = Crew( agents=[writer], tasks=[task], share_crew=False)output = crew.kickoff(dict(multiplication="2 * 2"))
بعد تشغيل التطبيق، يمكنك عرض التتبعات في عرض تتبعات Datadog LLM Observability، باختيار اسم تطبيق ML الذي اخترته من القائمة المنسدلة أعلى اليسار.النقر على تتبع سيعرض لك تفاصيل التتبع، بما في ذلك إجمالي الرموز المستخدمة وعدد استدعاءات LLM والنماذج المستخدمة والتكلفة المقدرة.
بالإضافة إلى ذلك، يمكنك عرض رسم بياني لتنفيذ التتبع، الذي يوضح تدفق التحكم والبيانات للتتبع.