AI 학습계획 생성 기능에서 LLM 병목을 어떻게 줄이면 좋을까요?
안녕하세요. AI로 자기주도 학습을 도와주는 SaaS 서비스를 만들고 있습니다.
코스 생성 과정에서 목표 설정 채팅을 기본으로 넣었더니 LLM 호출이 늘고, 대기시간과 포인트 과금 UX가 고민이 됐습니다.
그래서 지금은
빠른 생성: AI가 목표를 가정해 바로 학습계획 생성
정밀 생성: 목표를 먼저 정리한 뒤 학습계획 생성
으로 나누는 방향을 검토 중입니다.
비슷한 기능을 만들어보신 분들은 병목, 포인트 차감, 실패/환급 정책을 어떻게 잡으셨나요?
자세한 고민은 블로그에 정리했습니다. 구조상 위험해 보이는 부분이나 개선 의견 남겨주시면 감사하겠습니다.
0
0
댓글을 남기려면 로그인이 필요합니다.
로그인 후 이 페이지로 돌아와 바로 댓글을 남길 수 있습니다.
