LLM Agent의 claim-level provenance 구조에 대해 궁금한게 있습니다

Question

안녕하세요. LLM agent 관련 작은 오픈소스 런타임 설계 피드백을 받고 싶어서 들어왔습니다.주제는 일반적인 autonomous agent framework라기보다는, LLM agent가 코드로 검증한 사실 / 모델 판단 / 메모리에서 나온 주장 / 다중 출처 종합을 한 답변 안에 섞어버리는 문제를 claim provenance 레벨에서 분리하는 구조입니다.혹시 이런 설계 리뷰나 피드백에 대한 글은 어느 게시판에 올리는 게 가장 적절할까요? 프로젝트 이름은 SongRyeon Core이고, claim-level provenance / memory honesty / failure-state reporting 쪽 피드백을 받고 싶습니다.

꿈은없고요놀고싶습니다 · Answer

어떤걸 피드백 받고 싶어하는지 잘 모르겠습니다. 너무 전문적인 용어로 추상적으로 표현하셔서…게시판 보다도 claim-level provenance 가 뭘 의미하고 claim provenance 를 어떤 구조로 생각하시는지에 대한 정보정도는 있어야 할 것 같아요.failure-state reporting 이라는게 제가 이해 하는건지 모르겠지만, 전 지금 단계에선 아무리 성능 좋은 모델도 사람의 판단 없이는 무리라고 생각하긴 합니다.

LLM Agent의 claim-level provenance 구조에 대해 궁금한게 있습니다

1개의 답변

Q&A 목록