[tf, keras] OOM Error (Out of Memory)
에러 보통 tf에서 무거운 모델을 돌릴 때 발생한다. 발생 상황 batch_size가 큰 경우 Model을 두번 compile 한 경우 GPU가 이상이 있는 경우 Fully-connected 단에서 Dense layer가 높은 경우, 즉 Train parameter가 매우 큰 경우 Session이 clear 되지 않은 경우 해결 방법 batch_size를 줄여가면서 Test를 해본다. Model.compile를 찾아서 문제를 해결한다. 터미널에서 아래의 명령어를 이용하여 reset을 수행한다. nvidia-smi -r Fully-connected 단을 확인하여 Dense layer의 연결수를 줄이거나 제거한다. 세션을 clear하는 것을 loop 내에 둔다. from keras import backend..
Computer Science/에러 기록 정리
2020. 7. 1. 16:42
공지사항
최근에 올라온 글
최근에 달린 댓글
- Total
- Today
- Yesterday
TAG
- nlg
- Tensorflow2.0
- stft
- 6.006
- RNN
- aws cli
- 모델 시각화
- lambda
- MFCC
- nlp 트렌드
- netron
- boto3
- 인공지능 스피커 호출
- 알고리즘
- LSTM
- 시계열
- BOJ
- 핵심어 검출
- keras
- tensorflow
- MIT
- 오디오 전처리
- nlp
- S3
- librosa
- AWS
- TF2.0
- wavenet
- Introduction to Algorithm
- 알고리즘 강의
일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | ||||
4 | 5 | 6 | 7 | 8 | 9 | 10 |
11 | 12 | 13 | 14 | 15 | 16 | 17 |
18 | 19 | 20 | 21 | 22 | 23 | 24 |
25 | 26 | 27 | 28 | 29 | 30 | 31 |
글 보관함