딥러닝 (3) 썸네일형 리스트형 [CS231n] Lecture 4. Backpropagation and Neural Networks Table of contents 1. Introduction 1.1 Forward propagation 1.2 Backward propagation 1.3 computational graph 1.4 chain rule 1.5 Partial Derivative 2. Backward propagation 2.1 Backward propagation 2.2 Gradients for Vector 3. Neural Networks 3.1 Neural Networks 1. Introduction 미분을 통해 최적화를 하는 방법에는 크게 두가지가 있었습니다. Numerical gradient (수치적 미분) : 속도가 느리고 근사치를 찾는 방법임. Analytic gradient (해석적 미분) : 빠르고 정확하지만.. [CS231n] Lecture 8. Deep Learning Software 목차 1. CPU vs GPU 2. Deep Learning Frameworks 2.1 Pytorch 3. Static vs Dynamic Graphs 1. CPU vs GPU CPU와 GPU에 대해 이야기를 하자면 왼쪽 그림은 CPU 칩의 모습이고 오른쪽 그림은 GPU의 모습이다. 위 그래프는 x축은 모델, y축은 연산에 소요된 시간인데 성능이 하드웨어 크기에 비례하는 것인지 GPU(빨, 주)가 CPU(파)보다 훨씬 적은 시간이 소요됐다. 64~76배 차이가 있는데 무조건 GPU를 쓰는게 좋다는 것을 알 수 있다. 강의에서 말하기를 CPU에서는 병목 현상(bottleneck)이 발생할 수 있기 때문에 GPU를 사용하는게 좋고 데이터는 CPU에 저장하며, 모델은 GPU에서 작동하는 것이 좋다고 한다. 2.. [Ubuntu] Ubuntu 20.04 Anaconda3 install / 아나콘다 설치 아나콘다는 유용하기 때문에 셋업 과정에서 깔아 주면 좋다 일단 파일을 먼저 다운로드 하자 www.anaconda.com/products/individual 위에 링크에서 자신의 운영체제에 맞는 파일을 다운로드 받으면 된다. 일반적으로 파일을 다운로드 받으면 ~/다운로드 경로에 파일이 받아져 있을 것이다. 그래서 cd로 디렉토리를 옮긴 다음에 다음 명령어를 실행해주면 된다. $ bash Anaconda3-2021.05-Linux-x86_64.sh 무조건 Enter || yes에다가 라이선스 확인 창은 Ctrl + C로 넘겨주면 된다. 위에 과정이 끝났으면 다음 명령어로 설정 파일을 열어준다. $ sudo vi ~/.bashrc 그럼 창이 열릴텐데 맨 아래로 내려와서 마지막 줄에 이걸 추가해주면 된다. EX.. 이전 1 다음
