[tf, keras] OOM Error (Out of Memory)
에러 보통 tf에서 무거운 모델을 돌릴 때 발생한다. 발생 상황 batch_size가 큰 경우 Model을 두번 compile 한 경우 GPU가 이상이 있는 경우 Fully-connected 단에서 Dense layer가 높은 경우, 즉 Train parameter가 매우 큰 경우 Session이 clear 되지 않은 경우 해결 방법 batch_size를 줄여가면서 Test를 해본다. Model.compile를 찾아서 문제를 해결한다. 터미널에서 아래의 명령어를 이용하여 reset을 수행한다. nvidia-smi -r Fully-connected 단을 확인하여 Dense layer의 연결수를 줄이거나 제거한다. 세션을 clear하는 것을 loop 내에 둔다. from keras import backend..
Computer Science/에러 기록 정리
2020. 7. 1. 16:42
공지사항
최근에 올라온 글
최근에 달린 댓글
- Total
- Today
- Yesterday
TAG
- stft
- wavenet
- Introduction to Algorithm
- aws cli
- tensorflow
- boto3
- 6.006
- LSTM
- nlp
- 알고리즘
- 모델 시각화
- keras
- nlp 트렌드
- MFCC
- MIT
- 오디오 전처리
- netron
- AWS
- Tensorflow2.0
- lambda
- S3
- 알고리즘 강의
- 핵심어 검출
- 시계열
- TF2.0
- 인공지능 스피커 호출
- librosa
- RNN
- BOJ
- nlg
일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | 5 | ||
6 | 7 | 8 | 9 | 10 | 11 | 12 |
13 | 14 | 15 | 16 | 17 | 18 | 19 |
20 | 21 | 22 | 23 | 24 | 25 | 26 |
27 | 28 | 29 | 30 |
글 보관함