로컬 llm 개발은 역시 막히는 부분은 생기네요
대충 이부분 path나 파일의 바이트 배열을 통재로 넘겨줘야 합니다.
경로로 제공해도 결국 llm 내부에서는 전체 데이터가 필요해서 결국 통짜 RAW 데이터로 처리한다고 (gemini ai설명) 하네요.
오디오 파일도 과거 문맥이 그대로 제공되야 하므로 스트리밍 처리는 구현이 안되는 것 같습니다.
그리고 디코딩된 순수 데이터로 처리할 것 같은데요.
conversation.sendMessage(Contents.of(
Content.Text(""),
Content.AudioFile(),
Content.ImageFile()
))램 부족 한 가지 문제로 굴복해야 할 것인지.
엔트로픽은 몸값이 스페이스x를 제치고 난리네요.
