•
WORKSHOP: 소규모 LLM 애플리케이션 개발부터 모니터링까지 (KO)
•
Lab 1
•
환경 변수
◦
- DD_LLMOBS_AGENTLESS_ENABLED=1
데이터 수집시 서버에 Agent를 두고 버퍼 대비. FE/BE → Agent → DataDog
Agent 없이 사용한다는 의미.
•
트레이스
◦
다수의 스팬 모음
•
상용 LLM 사용시 예상 비용 보여줌.~
Lab 2: LLM Observability for a RAG workflow
•
아래처럼 소스에서 데코레이션을 하면.. 모니터링 화면에서 식별이 가능하다…
