NVIDIA Jetson Orin을 통해 최첨단 서버급 성능 제공 | 비맥스테크놀로지
안녕하세요!
Digital 시대를 만들어가는 Embedded System과 IPC 및 Display Solution 기업 비맥스테크놀로지입니다!
Reading Time: 7 minutes
AI로 움직이는 로봇과 자율 기계의 개발 및 배포 속도는 계속해서 빠르게 증가하고 있습니다. 차세대 애플리케이션은 동시에 실행되는 멀티모달 AI 애플리케이션을 실시간으로 처리해야하기 때문에 크게 향상된 AI 컴퓨팅 성능을 필요로 합니다.
인간과 로봇의 상호 작용은 일반 상점, 음식 배달, 병원, 창고, 작업 현장 및 기타 상업 분야에서 증가하고 있습니다. 이때 자율 로봇은 각 응용 프로그램에 대한 상당한 계산 성능과 매우 정확한 훈련된 신경 모델을 필요로 하는 3D 인식, 자연어 이해, 경로 계획, 장애물 회피, 포즈 예측(Pose Estimation)을 동시에 수행해야 합니다.
NVIDIA Jetson AGX Orin 모듈은 NVIDIA Jetson 제품군 중 가장 성능이 뛰어난 최신 모델입니다. 이러한 모듈은 동급 최고의 에너지 효율로 엄청난 성능을 제공합니다. 이들은 포괄적인 NVIDIA AI 소프트웨어 스택을 실행하여 차세대 엣지 AI 애플리케이션에 전력을 공급합니다.
그림 1. Jetson AGX Orin 모듈
Jetson AGX Orin과 Jetson Orin NX 시리즈
초당 최대 275테라 연산(TOPs)의 성능을 제공하는 Jetson Orin 모듈은 엔드 투 엔드 애플리케이션 파이프라인 가속으로 엣지에서의 서버 클래스 AI 모델을 실행할 수 있습니다. Jetson Xavier 모듈에 비해 Jetson Orin은 최신 AI 애플리케이션에 훨씬 더 높은 성능, 전력 효율성 및 추론 기능을 제공합니다.
표 1. Jetson Xavier vs. Jetson Orin 기능 비교
그림 2. Jetson Xavier 및 Jetson Orin 모듈 AI TOPs 성능 비교
Jetson AGX Orin 시리즈는 Jetson AGX Orin 64GB와 Jetson AGX Orin 32GB 모듈을 포함합니다.
Jetson AGX Orin 64GB는 15W~60W 전력으로 활용가능하며 최대 275 TOPs의 성능을 제공합니다.
Jetson AGX Orin 32GB는 15W~40W 전력으로 활용가능하며 최대 200개의 TOPs를 제공합니다.
이 모듈은 동일한 컴팩트 폼 팩터로 Jetson AGX Xavier 시리즈 모듈과 핀 호환되므로 동일한 가격에 최대 6배의 성능 업그레이드를 제공합니다.
엣지 및 임베디드(Embedded) 시스템은 센서의 수, 성능 및 대역폭이 증가함에 따라 계속 활용되고 있습니다. Jetson AGX Orin 시리즈는 이러한 센서를 처리하기 위한 추가 컴퓨팅뿐만 아니라 다음과 같은 추가 I/O도 제공합니다.
* 최대 22 레인(lane)의 PCIe Gen4
* 10Gb 이더넷(Ethernet) 4개
* 고속 CSI 레인
* 64GB eMMC 5.1로 스토리지 2배 증가
* 메모리 대역폭 1.5배
그림 3. Jetson AGX Orin 시리즈 블록
USB 3.2, UFS, MGBE 및 PCIe는 UPHY 레인(Lane)을 공유합니다.
NVIDIA Orin NX 시리즈는 최대 100 TOPs의 AI 성능을 가진 Jetson Orin NX 16GB와 최대 70 TOPs의 Jetson Orin NX 8GB가 있습니다. 이 시리즈는 Jetson Xavier NX와 유사한 설계를 따랐습니다. NVIDIA Orin 아키텍처를 도입하였고 가장 작은 Jetson 폼 팩터인 저전력 260핀 SODIMM을 제공하고 있습니다.
드론이나 휴대용 장치와 같은 차세대 소형 폼팩터 제품에 이러한 높은 수준의 성능을 제공할 수 있습니다. Jetson Orin NX 16GB는 10W와 25W 사이에서 구성 가능한 전력을 제공하며 Jetson Orin NX 8GB는 10W와 20W 사이에서 구성 가능한 전력을 제공합니다.
Orin NX 시리즈는 Jetson Xavier NX 시리즈와 호환되는 폼 팩터로 같은 가격에 최대 5배, 최대 3배 성능을 제공합니다. 또한 Orin NX 시리즈는 최대 7개의 PCIe 레인과 3개의 10Gbps USB 3.2 인터페이스를 갖춘 추가 고속 I/O 기능을 제공합니다. 스토리지의 경우 추가 PCIe 레인을 활용하여 외부 NVMe에 연결할 수 있습니다.
Figure 4. Jetson Orin NX 시리즈 블록
Jetson AGX Xavier는 NVIDIA Xavier SoC를 기반으로 설계되었으며, 이는 자율 시스템을 위해 개발된 최초의 아키텍처입니다. NVIDIA Orin 아키텍처는 Jetson AGX Xavier을 한 단계 업그레이드합니다. 다양한 온-칩(On-chip) 프로세서를 계속 선보이며 더 큰 기능, 더 높은 성능 및 더 높은 전력 효율성을 제공합니다.
Jetson Orin 모듈에는 다음이 포함됩니다:
* 최대 2048개의 CUDA 코어 및 최대 64개의 텐서 코어를 지원하는 NVIDIA Ampere 아키텍처 GPU
* 최대 12개의 Arm A78AE CPU 코어
* 2개의 차세대 딥 러닝 가속기(DLA)
* 컴퓨터 비전 가속기
* GPU와 CPU를 오프로드하는 다양한 프로세서:
* 비디오 인코더
* 비디오 디코더
* 비디오 이미지 컴포지터(Compositor)
* 이미지 시그널 프로세서
* 센서 처리 엔진
* 오디오 처리 엔진
다른 Jetson 모듈과 마찬가지로 Jetson Orin은 SOM(System-on-Module) 설계를 사용하여 제작되었습니다. 모든 처리, 메모리 및 전원 레일은 모듈에 포함되어 있습니다. 모든 고속 I/O는 699핀 커넥터(Jetson AGX Orin 시리즈) 또는 260핀 SODIMM 커넥터(Jetson Orin NX 시리즈)를 통해 사용할 수 있습니다. 이 SOM 설계를 통해 시스템 설계에 모듈을 쉽게 통합할 수 있습니다.
출처: NVIDIA 테크니컬 블로그
비맥스테크놀로지에서 바로 NVIDIA Jetson AGX Orin 모듈과 Jetson Orin NX로 구동되는 NRU시리즈를 취급하고 있습니다!
자세한 내용은 아래 링크로 확인 부탁드립니다~!
