Vyact 사내 LLM 커스텀 Provider를 추가했습니다

최근 사내망이나 내부 서버에 LLM을 직접 구축해서 사용하는 사례가 조금씩 늘고 있는 것 같아, Vyact에도 커스텀 LLM Provider 연결 기능을 추가했습니다.

현재는 OpenAI-compatible /chat/completions API를 지원합니다. 연결할 때 아래 정보만 설정하면 됩니다.

• Base URL

• Model ID

• API Key(선택)

• 추가 HTTP Header(선택)

Ollama의 OpenAI 호환 API를 비롯해 같은 규격을 제공하는 사내 LLM 서버나 게이트웨이를 연결할 수 있습니다. API Key 외에 별도의 게이트웨이 인증이 필요한 환경을 고려해 커스텀 Header도 추가할 수 있도록 했습니다.

https://github.com/vyact/vyact/blob/main/README.ko.md