토이프로젝트 피드백 부탁드려도 괜찮을까요?

Question

안녕하세요올해로 막 3년차 웹개발자로 들어섰습니다.현재 회사에서 자바로 일을 하나, PHP 라라벨에도 관심이 생겨 작년부터 공부하기 시작했습니다.그리고 올해 토이프로젝트로 자기소개 혹은 업체 등에서 사용해볼 수 있는 식으로 챗봇을 제작할 수 있는 프로젝트를 실시했습니다. 지금은 어느 정도 완성되었다고 판단한 후틈이 나는 시간을 들여 이것 저것 수정하고 있는 중입니다.그런데 사용 방법을 알고 있는 개발 당사자가 QA를 하자니 미처 발견하지 못하는 오류나 개선사항 등,실제 사용자가 불편해 하거나 개선되었으면 하는 부분에 대한 체크를 하기 쉽지 않은 것 같습니다. 사용해본 후 피드백을 도와주실 수 있는 분이 계실까요?1) 챗봇 제작가능한 페이지https://simchat.aimor.site/2) 해당 사이트에서 제작한 자기소개용 챗봇 예시https://simchat.aimor.site/msg?c_key&#61;a8228927-9bbb-448f-886b-9ed41997b192** 대답하지 못하는 답변이 많을 수 있습니다.프라이빗한 챗봇은 한정된 Document내에서 학습을 한 후 답변을 해야 하기 때문에 의도된 바입니다.답변되지 못한 질문은 로그인 후 미답변 목록에서 답변을 등록한 후 학습하게 됩니다.이 때 Db에 등록된 질문과 응답을 일정패턴의 Document로 Export한 후 ChromaDB를 통해 Vector화 되고,이 후 Bert모델에서 유사도를 측정하여 VectorDB에 저장된 답변 중 유사도 높은 키값의 답변을 찾아냅니다.지금 답변 못하는 질문은 답변을 작성하여 학습해두겠습니다!** 만약 유사도(similarity)가 너무 낮거나 아예 찾을 수 없는 질문을 물어볼 경우 '미답변'으로 분류하여 따로 DB에 저장하고 이전에 등록한 비슷한 질의응답 항목을 연결하거나 아예 새로운 질의응답을 작성한 후 다시 학습시켜 다음에는 대답할 수 있도록 합니다.** 자연어 처리 모델은 Bert모델의 한국어 변주 모델 중 하나인 KoSroBerta를 사용했습니다.자연어 문맥처리는 그럭저럭이나, 유사도 측정에 있어서 영문만큼 확실하지 못합니다. 대답이 LLAMA, GEMMA, GPT 만큼 양질이엇으면 좋겠다 하는 생각은 있지만, 돈이 많이 없어서 .....** 자연어처리 모델의 탑재는 별도로 python Flask를 통해 제작된 API 요청 중계서버내에 있습니다. localhost 에서의 요청외에는 모조리 거부되도록 되어 있습니다. ** PHP 라라벨에 제트스트림을 통해 로그인관련 모듈을 제공받고 livewire를 통해 UI 컴포넌트를 서버사이드로 렌더링하도록 했습니다. ** python &#43; Flask서버를 Gunicorn을 통해 열어둡니다. Gunicorn은 etc/systemd 내부에 따로 Service Daemon을 제작하여 Background 실행 및 포인터 경로 없이 편하게 시작, 재시작, 중지할 수 있도록 합니다. Model로드할 때 서버 메모리가 바로 바사삭 되긴 합니다만 Model이 로드되고 나면 그럭저럭 대답하는 속도를 보여줍니다... GPU가 없는 싸구려 서버를 돌리는 저로서는 고작 요정도 서버 스펙에 Gunicorn하나 phpFpm하나도 벅차더라구요... ** 젠킨스는 executor를 1개로 줄였는데도 불구하고 service를 꺼놓지 않으면 메모리가 30%나 날아가기에 빌드 후 jenkins를 꺼두도록 설정했습니다... ** 대략적인 챗봇의 사용순서는 다음과 같습니다.-> 챗봇 생성-> 챗봇이 응답할 질문과 응답 등록-> 질의응답이 준비되면 데이터셋 추출(csv)-> csv를 데이터셋으로 질문(key)에 대한 답(value)를 Embeding 후 Vector화 (이 부분을 학습이라 칭함)-> 학습된 결과를 토대로 Bertmodel을 통해 질문에 대한 자연어처리를 통해 질문(key)과의 유사도 비교-> 가장 유사하거나 유사도(similarity)가 비슷한 질문을 찾고 해당 Key에 맞는 Value를 찾아 리턴-> 사용자에게 답변

위카룬 · Answer

채팅 할 때 전송 버튼을 꼭 눌러야 하네요 ㅠㅠ 불편해요

토이프로젝트 피드백 부탁드려도 괜찮을까요?

1개의 답변

#laravel 목록