토치 2.0
torch.compile() 를 사용하면 작업 단위를 전체 그래프로 그룹화하여 작업을 더 빠르게 수행할 수 있습니다.
최적화 예)
- 전체 그래프를 보면 다음 연산에서 concats output1과 output2의 연산이 있다면 concat은 메모리 값을 옮기지 않고 output1과 output2가 처음 생성될 때 concat 위치에 값을 씁니다.
- 전체 그래프를 볼 수 있으면 종속성 없이 값에 대해 함수 및 병렬 연산을 수행할 수 있습니다.
