파인 튜닝한 회사들은 엄청난 노가다였겠네요
간결한 프롬프팅으로는 답변 형태가 맞추기 어려울거 같길래
극소규모 데이터 셋으로 파인 튜닝 시도해봤더니 의미가 없네요
아무래도 숙제가 요청한 작업과 응답 형태 양식 조정을 같이 요구하다 보니
데이터 셋 최소 수백 수천개는 요구해야 의미 있을
매우 고난이도 작업이 되어서 그런거 같아요
그래서 작정하고 프롬프팅에만 500 토큰 써서 상세한 예시를 줬더니
말귀 죽어도 못 알아먹고 제멋대로 형태 뱉던 녀석이 잘 작동하는게 웃겨요
AGI 가 온다 뭐다 하지만 역시 프로그램은 프로그램일뿐인 것 같습니다