Search
moon
sun

LLM 안내로봇의 월정액을 설계하며 마주한 문제들

URL
생성 일시
2026/09/30 05:50
최종 편집 일시
2026/09/30 05:50
태그
요즘IT
파일과 미디어
백화점 안내로봇의 LLM 기반 서비스 PoC를 진행하며, 사용자가 늘어날수록 오히려 적자가 나는 아찔한 경험을 했습니다. 주말 피크타임에 쏟아진 예상치 못한 질문들과 길어진 대화 맥락으로 인해 하루 토큰 사용량이 예상치의 3.8배까지 치솟았기 때문입니다. 이 글은 단순한 기술 적용을 넘어, AI 프로덕트의 지속 가능한 성장을 위해 제가 직접 부딪히며 찾아낸 원가 방정식의 기록을 다루고자 합니다.