본문 바로가기 메뉴 바로가기

No regret Just Lesson

프로필사진
  • 글쓰기
  • 관리
  • 태그
  • 방명록
  • RSS

No regret Just Lesson

검색하기 폼
  • 분류 전체보기 (78)
    • DataScience (0)
      • TimeSeries (0)
    • Machine Learning (10)
      • Basics (3)
      • Practice (6)
    • NLP (4)
      • Basics (4)
    • Audio Signal Processing (11)
      • Basics (7)
      • Practice (2)
    • Computer Vision (1)
      • Object Detection (1)
      • OpenCV (0)
    • Computer Science (32)
      • Python (3)
      • 기초 (4)
      • Algorithm (4)
      • AWS (4)
      • Git (1)
      • 에러 기록 정리 (11)
      • WEB (4)
    • Mathematics (5)
      • Harvard Statistics 110 (5)
      • Linear Algebra (0)
    • Memo (14)
      • 사이트 모음 (4)
      • Things (6)
      • LaTex (1)
      • MacBook (1)
  • 방명록

OOM (1)
[tf, keras] OOM Error (Out of Memory)

에러 보통 tf에서 무거운 모델을 돌릴 때 발생한다. 발생 상황 batch_size가 큰 경우 Model을 두번 compile 한 경우 GPU가 이상이 있는 경우 Fully-connected 단에서 Dense layer가 높은 경우, 즉 Train parameter가 매우 큰 경우 Session이 clear 되지 않은 경우 해결 방법 batch_size를 줄여가면서 Test를 해본다. Model.compile를 찾아서 문제를 해결한다. 터미널에서 아래의 명령어를 이용하여 reset을 수행한다. nvidia-smi -r Fully-connected 단을 확인하여 Dense layer의 연결수를 줄이거나 제거한다. 세션을 clear하는 것을 loop 내에 둔다. from keras import backend..

Computer Science/에러 기록 정리 2020. 7. 1. 16:42
이전 1 다음
이전 다음
공지사항
최근에 올라온 글
최근에 달린 댓글
Total
Today
Yesterday
링크
  • 머신러닝 용어 사전
  • 머신러닝 사이트 모음
TAG
  • librosa
  • LSTM
  • Introduction to Algorithm
  • BOJ
  • stft
  • 시계열
  • 알고리즘 강의
  • MIT
  • aws cli
  • TF2.0
  • 핵심어 검출
  • wavenet
  • 알고리즘
  • Tensorflow2.0
  • keras
  • nlp 트렌드
  • netron
  • AWS
  • S3
  • RNN
  • boto3
  • nlp
  • MFCC
  • 모델 시각화
  • 6.006
  • 오디오 전처리
  • nlg
  • 인공지능 스피커 호출
  • lambda
  • tensorflow
more
«   2025/05   »
일 월 화 수 목 금 토
1 2 3
4 5 6 7 8 9 10
11 12 13 14 15 16 17
18 19 20 21 22 23 24
25 26 27 28 29 30 31
글 보관함

Blog is powered by Tistory / Designed by Tistory

티스토리툴바