Tensorflow와 gpu에 데이터셋 올리기

Question

torch 또는 tensor에서 데이터를 전처리하고 데이터셋을 만드는 과정에서 gpu자체에 올려두고 그 데이터를 사용하는 경우도 있는데 병목현상이 발생하여 gpu till이 저조한 현상이 발견됩니다.또한 이미 gpu에 데이터가 전부 올라가 있는 상태에서도(tf 형태로 변환하면 자동으로 올라감) 모델을 구동하면 Out of memory가 발생합니다.데이터를 tf.함수로 정의하기전데이터를 tf함수로 정의하여 불러온 데이터가 tf.tensor가 된 후 gpu 메모리를 차지하고 있음 &#61;> 이 것을 보고 gpu에 데이터가 올라가있다라고 생각이러한 경우에는 cpu가 배치를 준비하지 않아도 이미 gpu에 할당 되어있는 데이터를 꺼내써오기만 하면 되는 것은 아닌가 생각이 들고 또한 이미 gpu에 올라가 있는 메모리를 연산만 하는 것인데 왜 아웃오브 메모리가 발생하는 지 궁금합니다!! 혹시 아시는 분 계실까요??

hmmm · Accepted Answer

GPU 메모리는 얼마나 되는지 확인 하셨나요? 데이터 BATCH 사이즈는 어느정도인지요?

Tensorflow와 gpu에 데이터셋 올리기

1개의 답변

Q&A 목록