numpy, tensorflow vs pytorch

numpy vs pytorch

- x, y, z 세 변수에 대해 학습하는 예시 생각

- 이때 gradient를 계산하기 위해 연산 그래프를 따라 미분 계산

- numpy는 모든 미분식을 직접 계산 후, 코드 작성

- pytorch는 backward()를 한번 호출해주면 끝

- 그리고 numpy는 GPU 사용이 불가능 (이부분이 크리티컬하다)

 

tensorflow vs pytorch

- 둘 다 GPU 사용 가능

- tensorflow는 연산 그래프를 먼저 만들고 실제 연산할 때 값을 전달하여 연산 결과를 얻음

- 연산 그래프를 만드는 부분과 연산하는 부분이 분리됨

- pytorch는 연산 그래프를 만듦과 동시에 값이 할당됨

- 연산 그래프와 연산을 분리해 생각할 필요가 없음

- tensorflow에 올라온 이슈에 따르면 pytorch가 평균적으로 2.5배 빠름

 

이 세개 비교한 코드는 github 코드들 뜯어보면 알 수 있다. 근데 처음 보는 사람들은 코드 뜯어보기가 힘드니까 "파이토치 첫걸음"이라는 책을 구매하여, 이 책에서 제공하는 코드를 보면 확인하기 쉽다.

어떤 프레임워크를 사용하느냐가 중요할 수도 있겠지만, 이를 고민하는 것보다 일단은 부딪혀보는 게 먼저가 아닐까? 물론, 파이토치가 텐서플로우보다 정신건강에는 좋은 것 같다.

 

참고

- 파이토치 첫걸음