Q&A
커뮤니티
지식
이벤트
더보기
OKKY
Q&A
지식
커뮤니티
이벤트
부트캠프
Jobs
Contact
Search Bar
로그인
회원가입
llm
전체
기술
커리어
기타
카테고리
전체
최신순
질문하기
답변
2
후루룩막토
·
1일
409
0
답변 2
사내 폐쇄 대화형 AI 개발하시는 분도 있나요?
제목그대로 사내 전용으로 쓰는 폐쇄형 대화형 AI 개발하시는 분도 계신가요?? 혼자 개발하고 있는데 깜깜하네요. 현재 혼자 개인pc에서 llm 모델은 gemma3:4b 써서 대략적으로 기초적인 대화형AI에 필요한 틀은 만들었는데. 이거보고 윗분들이 짝짝 하시면서 . 서버 모델 스팩좀 만들어보라는데. 제가 뭐 PM이나 그런걸 해본적이 없어서. 서버 스팩을 최소 5천에서(진짜 굴러다닐정도) 5억까지 불러도 되는건지 모르겠네요. gemma3는 테스트용이고
답변
0
gg맨
·
28일
610
0
답변 0
이직 준비중 LLM 활용 자동화 개발 PL 제안을 받았는데요.
경력 대부분을 웹개발을 하였는데 최근데 ai agent 개발을 실무에서 조금씩 해보고 있어서 다른 회사도 지원해봤는데요. 면접 간 회사가 SI 기반으로 대기업 제조 프로그램 개발하는 곳이고 얘기 들어보니 R&D 팀은 따로 있고 제가 입사하게 되면 PL로 리딩 + 고객 대응/회의 위주로 맡게 될 것 같다고 하네요. 경력이 좀 차서 리더 역할을 맡는 건 이해는 되는데 저는 인하우스에서 개발 중심으로 가고 싶은 생각이 더 커서 고민이 됩니다.
답변
5
난리닷
·
28일
1.0k
0
답변 5
폐쇄망에서 일하시는분들 로컬 llm 설치 해서 사용 가능 한가요?
ai 를 너무 적극적으로 활용하다보니, ai 없이 개발이 힘들것 같아서요 ㅎㅎㅎ 개인 pc에 로컬 llm 설치 해서 들어 가도 개발에는 문제가 없을려나요???
해결
2
1인분하고싶어요
·
2개월
900
1
해결 2
폐쇄망 환경 LLM 모델 사용 문의
요즘 개발을 하면서 Claude나 GPT 같은 LLM을 활용하는 것이 생산성 측면에서 매우 효율적이라고 느끼고 있습니다. 다만 현재 업무 환경이 폐쇄망이다 보니 외부 LLM 서비스를 직접 사용하는 것이 어려운 상황입니다. 그래서 같은 환경에서 개발을 진행하시는 분들이 프로젝트에서 LLM을 어떻게 활용하고 있는지 사례가 궁금합니다. 현재 제가 생각해본 방법은 다음 정도입니다. 외부 환경에서 LLM을 활용해 코드를 작성한 뒤 폐쇄망 서버로 반입하여 동기화
답변
4
오리구이
·
4개월
570
0
답변 4
rtx4060 노트북에서 llm 돌릴만 한가요?
qwen-3-coder 함 돌려 볼려고 중고 노트북 노리고 있는데 로컬llm으로 사용 하고 계신분 게시나요?
답변
2
마마마22636
·
4개월
547
0
답변 2
맥미니 m4를 살려고하는데 램을.
16을 사야하나 24를 사야하나 고민입니다 이미 m2맥북에어에어 16에서 도커컨테이너 10개까지 다 돌려도 쾌적힌 느낌이었는디 24달면 gpt oss 20b같은 로컬모델 돌릴수 있는지 궁금하네여
해결
9
공룡알네개
·
7개월
952
1
해결 9
코딩할때 AI 어떤거 사용하고 계세요?
저는 지금 gpt만 결제해서 일일이 질문 검토 복붙 하면서 사용하는데 여러 개발자들 보면 클로드 많이 쓰더라고요 mcp 지리긴하더라고요 제미나이도 많이 쓰는거같고 한데 다들 어떤거 쓰시나요? 괜찮으면 클로드도 결제해서 쓸듯싶네요
답변
1
VVTAA
·
7개월
837
1
답변 1
사내 AI IDE 도입
대기업은 자사 AI를 만들어서 사용한다고 알고 있습니다. 저희 회사는 규모가 작고 코드 보안 관련에서 문제가 생길까봐 사용하지 않고 있습니다. 다들 회사에서 AI IDE 사용하고 있는지 궁금합니다.
답변
4
초개발
·
9개월
455
0
답변 4
LLM의 계산오류 부정확성을 없애기 위한 방안
안녕하세요!개인프로젝트를 하고있는데, 회사에서 사용할 수 있는 웹기반 ERP를 만들려고 합니다.이때, GPT처럼 LLM을 기반으로 회사의 정보를 찾아올 수 있는 기능을 구축하려고 하는데, 이때 RAG를 사용하면 회사의 단순한 내용을 찾아올 수 있는 것으로 알고있습니다. 하지만, 직원이 더욱 복잡한 질문(계산)을 할 경우 LLM의 큰 단점이 단순한 계산도 오류를 내는 문제가 있기 때문에, 이 계산 오류를 없애고 싶습니다. 현재 어떤 방식으로 이런 계산
답변
0
눈마을
·
10개월
557
0
답변 0
ec2에서 gemma3+mcp서버를 이용할때 질문
안녕하세요. gemma3+mcp서버를 이용하기 위해서, 이것저것 실험해보고 있는 상태입니다. gemma3에 관해선, 커서나 클로드 데스크탑에서는 gemma3를 쓸 수 없었기에 ollama로 자체 호스팅을 해보려고 했습니다. [해본것] 로컬(m1맥)에서 gemma3사용 ollama공홈에 있는 gemma-3-12b.gguf 모델을 ollama를 이용해서 다운로드, serve. mcp-client-for-ollama 를 이용해서 제가 만든 mcp서
답변
3
낫어펑션
·
약 1년
719
0
답변 3
LLM 모델 추천(GPU 없는 환경과, RTX 4070 Ti Super 환경)
안녕하세요. 최근에 LLM 관심 갖고 이것저것 테스트 해보고 있는데요. 개인적인 환경이 그래픽카드 없이 CPU 로 추론해야 하는 환경 RTX 4070 Ti Super 환경 이렇게 2가지 환경이 있고, 다루는 데이터나 목적은 카카오톡 대화 등 채팅이나 메일 주고 받은 내역들 한국어 위주 처리 등을 고려했을 때 1, 2 환경에 각각 적합한 LLM 모델 괜찮은 것은 어떤것들이 있을까요? 현재까지 KoAlpaca-Polyglot-5.8B, Q
답변
5
nodeand
·
약 1년
1.6k
0
답변 5
LLM이 DBMS에 접근하게 할 수 있나요?
사용자가 LLM에 요청을 하면 LLM이 DB의 정보를 기반으로 응답하도록 하고싶은데요. LLM이 DB에 접근하게 하려면 어떻게 해야하나요? 검색해보면 Langchain이 뜨는데 Langchain 외에도 다른 기술이 있을까요?
답변
2
kse****
·
약 1년
916
0
답변 2
신입사원 한달 차
안녕하세요 정보를 얻으려고 왔다가 고민이 생겨 글 남겨보아요 입사한지 한달정도 되어가는 신입사원입니다. 현재 회사에서 데모버전 챗봇을 만드는 일을 맡았습니다. 데모버전이다보니 LLM까지 연동되는지만 체크를 하신다고 하셨구요 저는 유료llm을 사용해보았지만 회사니 무료 llm을 가지고 튜닝을 원하시더라구요 그래서 soft prompt 튜닝을 진행하고 있는데 현재 막히는 갑갑한 상황이네요 처음에 프롬프트 튜닝은 유료 llm 모델을 사용하다보니 프롬프트
답변
1
흐물흐물알감자
·
약 1년
389
0
답변 1
어떤 직무가 llm 엔지니어 이직에 더 효과적일까요?
LLM 학습 데이터 전처리 vs LangChain/LangGraph 프레임워크로 Agent 아키텍처 구축 추후 llm 엔지니어 이직을 꿈꾸고 있는데 어떤 직무가 더 이직에 중요한 요소가 될까요?
답변
4
하얀뼈
·
1년 이상
555
0
답변 4
ai모델 로컬 데스크탑에서 돌려보신분...?
안녕하세요 로컬에서 LLM을 돌리고자하는데, 제가 관심있어 하는 모델들은 VRAM을 최소 20GB이상 요구로 하더군요... 이거 충족 안하고 돌리면 그냥 실행조차 안하고 에러 내보낸다고 적혀있는 모델들이 있습니다. 근데 저희집 데스크탑은 x470 + 5900x +3070ti(8gb) + ram 128g라 어떻게 128g를 활용해서 vram에 할당하는 "착각" 을 만들 수 있지 않을까 해서 질문 올립니다 가능할까요.
답변
0
낫어펑션
·
1년 이상
357
0
답변 0
CS 데이터(카카오톡 채널 대화) 구조화 작업 아이디어
답변
1
Cors Dev
·
1년 이상
266
0
답변 1
비it 유망 스타트업 VS ai llm 스타트업
안녕하세요 이번에 2곳에 대해 오퍼를 받았는데, 어떻게 결정을 해야 할 지 몰라서 선배님들의 의견이 궁금합니다. 저는 기존에 개발팀장으로 일을 해 왔습니다(5년). 프론트, 백엔드, 클라우드(배포 포함), 데이터 관련해서 전부 다루고 있었습니다. 두 회사 다 연봉은 비슷합니다. 비it유망기업 - 의료쪽 ai (llm) 스타트업 으로 나눠보겠습니다. 간편하게, 키워드 중심으로 나열해보겠습니다. 1번의 회사는 해당 도메인으로 뉴스 및 각종 언론매체에 지
답변
3
본시아
·
1년 이상
801
0
답변 3
springboot와 LLM 챗봇 모델 연동 방법이 궁금합니다(fastapi?)
안녕하세요! LLM 모델을 직접 학습시켜 챗봇 관련 서비스를 만드려는데 전체적인 아키텍쳐가 그려지지 않아 도움 요청드립니다. llm 모델 학습 개발하는 팀은 따로 있고(완전 분리), 저는 해당 모델을 가져다 챗봇 서비스를 구현해야 하는 상황입니다. 프론트엔드는 react native로 구현했고, 백엔드는 springboot로 구현할 예정입니다. 문제는 파이썬 웹서버를 따로 두고 스프링프젝과 api로 통신하는게 맞는지 모르겠습니다. 1) 챗봇이다보니
답변
1
무무무지
·
1년 이상
878
0
답변 1
신입 개발자입니다. 어떤 선택을 해야할 지 고민입니다.
제가 원하는 진로는 자바 백엔드 개발자입니다.우리나라에서 가장 많은 수요가 있으니 안정적이라고 생각해서요. 이번에 여러 곳에 서류를 넣었는데, 합격한 곳은 자바 쓰는 곳은 단 한군데도 없고, c랑 llm 쓰는 곳들만 최종으로 붙었습니다. 물론 제가 알고 넣은거긴 하지만요 c가 처음 배운 언어라 좋아하긴 하지만, c를 잘 쓴다기엔 애매한 실력이고 그리고 한정적인 영역에서만 쓰는 것 같은 생각이 있습니다 llm은 재미있긴 하지만, 나중에라도 석사를 무조
답변
2
아민
·
1년 이상
353
0
답변 2
실무(si)에서 llm 사용방식 질문입니다!
최근 si에서도 ai 활용 서비스를 많이 발품하고 있다고 들었습니다. llm 관련 서비스를 제공한다고 하면 openai같은 api를 활용하게 되나요? 아니면 라마같은 오픈소스를 사용하게 되나요?
이전
1
2
다음
Search Bar
