News

인텔 "5세대 제온, AI 가속기로 처리 성능 최대 10배 향상" | 비맥스테크놀로지

작성자
비맥스테크놀로지
작성일
2023-12-19 09:19
조회
207

안녕하세요!

Digital 시대를 만들어가는 Embedded System 산업용컴퓨터Display Solution 기업 비맥스테크놀로지입니다!

인텔이 14일(미국 뉴욕 현지시간, 한국시간 15일 0시) 뉴욕 나스닥에서 진행한 행사를 통해 서버·데이터센터용 5세대 제온 스케일러블 프로세서(에메랄드래피즈)를 전세계 시장에 정식 출시했습니다.

5세대 제온 스케일러블 프로세서는 비(非) EUV 공정인 '인텔 7'(Intel 7)에서 생산되는 마지막 서버용 제품입니다. 13세대 코어 프로세서의 P(퍼포먼스) 코어 기반으로 전력 소모를 줄이고 코어 집적도를 높였습니다.

 

50e7c8f20684595063de206159d71aa6.jpg
인텔 5세대 제온 스케일러블 프로세서(에메랄드래피즈). (사진=인텔)

최대 4개 타일을 모아 60개 코어를 구성하던 4세대 제온 스케일러블 프로세서(사파이어래피즈) 대비 타일을 2개로 줄여 생산과 검증시 복잡성을 최소화했습니다. 한 소켓당 최대 코어 수는 64개로 늘어났고 전력 소모를 줄일 수 있는 '최적화 전력 모드'를 추가했습니다.

이날 인텔은 "AI 가속 기능을 내장한 데이터센터 프로세서는 현재 제온 프로세서 뿐이며 5세대 제온 스케일러블 프로세서는 최대 20억 개 매개변수로 구성된 거대언어모델(LLM) 처리와 추론 성능을 전 세대 대비 최대 42% 향상시켰다"고 강조했습니다.

■ 프로세서 구성 코어 타일 4개→2개로 단순화

4세대 제온 스케일러블 프로세서는 15개 코어를 탑재한 타일 4개를 이용해 최대 60개 코어를 구성했습니다. 이는 생산과 검증에 많은 시간이 필요했고 지연 시간에서도 손해를 봤습니다.

반면 5세대 제온 스케일러블 프로세서는 최대 32 코어 타일 두 개로 64코어를 구현했고 지연시간을 전세대 대비 축소했습니다.

 

ecd02a53b32ef607eb4f6cd12c4d10b3.jpg
5세대 제온 스케일러블 프로세서는 코어 타일을 최대 2개로 줄여 제조 공정 복잡성과 지연시간을 개선했다. (자료=인텔)

제품군 구성도 타일 2개를 이용해 48-64코어를 구성한 XCC, 타일 1개로 최대 32코어를 구성한 MCC 등으로 이분화됐습니다.

■ CPU 부하 낮을 때 전력소모 줄이는 '최적화 전력 모드' 탑재

5세대 제온 스케일러블 프로세서는 전력 소모를 최소화할 수 있는 '최적화 전력 모드'를 내장했습니다. 소켓 2개를 활용하는 구성 기준으로 CPU 이용률이 30-40%일때는 소모 전력을 110W, 40%를 넘으면 소모 전력을 65W로 제한하고 50%를 넘어서면 풀가동합니다.

 

c20f871651c3b90139cfdc593a62084b.jpg
5세대 제온 스케일러블 프로세서는 CPU 이용률이 낮을 때 소모 전력을 제한하는 '최적화 전력 모드'를 내장했다. (자료=인텔)
인텔은 자체 테스트 결과를 토대로 "5세대 제온 스케일러블 프로세서의 와트당 성능은 전 세대 대비 1.34배 향상됐고 0% 대기 시점에서 프로세서 소켓 당 최대 100W를 절감한다"고 설명했습니다.

 

1206ece76990bcf7a4bd8eb7872eaba1.jpg
코스타리카 소재 공장에서 조립 후 점검 과정을 거친 5세대 제온 스케일러블 프로세서. (사진=인텔)

이어 "데이터베이스를 구동하는 1세대 제온 스케일러블 프로세서 서버 50대를 5세대 제온 스케일러블 프로세서로 교체하면 서버 수는 1/10(50→9) 수준으로 줄이고 전력 소모, 이산화탄소 배출량 감축을 통해 연간 19만 2천달러(약 2억 4천922만원)를 절감할 수 있다"고 덧붙였습니다.

■ AI 가속기 신규 탑재로 연산 성능 최대 10배 향상

4세대 제온 스케일러블 프로세서는 행렬 연산(AMX), 벡터 연산(AVX-512), 암호화/복호화(QAT), SSL 처리 등 특정한 연산을 전담하는 '가속기 엔진'을 탑재해 CPU 대비 효율적인 처리를 수행했습니다.

5세대 제온 스케일러블 프로세서는 AI 등 처리에 주로 쓰이는 AMX 연산을 전담 처리하는 AI 가속기를 추가했습니다. 인텔은 "5세대 제온 스케일러블 프로세서의 AI 가속기를 활용하면 CPU만 활용할 때에 비해 AI 연산 성능이 최대 10배 향상된다"고 설명했습니다.

 

cc1391c9e29972d4f3bfab4e3904ccfc.jpg
5세대 제온 스케일러블 프로세서 내장 AI 가속기 비활성화/활성화시 성능 비교. (자료=인텔)

5세대 제온 스케일러블 프로세서 내장 가속기는 서버 구매시, 클라우드 인스턴스 계약시 공급사 계약 아래 추가 구매 가능한 옵션입니다. 서버 도입 이후 추가 가속기 도입이 필요할 경우 추후 활성화도 가능합니다.

■ 64코어 최상위 제품 포함 총 32종 공급

5세대 제온 스케일러블 프로세서는 64코어를 내장한 제온 8592+ 프로세서 등 총 32종이 공급됩니다. 일반 서버용 프로세서 이외에 액체 냉각을 위한 프로세서, 5G·네트워킹 처리에 최적화된 D-2800, 보급형 서버용 제온 E-2400 프로세서도 함께 출시됩니다.

 

4e57a43c070fc5dbeac92e34098abc70.jpg
5세대 제온 스케일러블 프로세서 제품군. (자료=인텔)

인텔은 올 1분기부터 주요 고객사에 5세대 제온 스케일러블 프로세서 시제품을 공급했습니다. 델테크놀로지스, HPe, 레노버 등 주요 서버 제조사도 내년 1분기부터 5세대 제온 서버를 고객사에 출하 예정입니다.

5세대 제온 스케일러블 프로세서는 전작과 같은 소켓 규격으로 기존 4세대 제온 스케일러블 프로세서 기반 서버에 바로 적용할 수 있습니다.

 

41e78090677588f8f9769b77c21a1506.jpg
5세대 제온 스케일러블 프로세서는 전세대 제품과 핀 배열을 공유한다. (사진=인텔)

서버 제조사는 제품 시장 투입 시간을 단축할 수 있으며 기존 4세대 제온 기반 서버 도입 업체도 여건에 따라 프로세서 교체 등으로 소폭 업데이트가 가능할 것으로 보입니다.


출처: 지디넷코리아
 

비맥스테크놀로지는 원하시는 사양으로 완성 후 철저한 검사를 통해 최적의 PC를 고객님들께 제공해 드리고 있습니다.

*넓은 온도 범위 및 견고한 임베디드 팬리스 컴퓨터

*다중 GigE / PoE 포트가 있는 머신 비전 플랫폼

*GPU 엣지 AI Computing(컴퓨팅) 차내 팬리스 PC

*초소형 팬리스 컨트롤러

*감시 / 비디오 분석 컴퓨터 시스템

혹시나 더 궁금하신 점이나 문의사항이 있으시면 ​비맥스테크놀로지​​로 문의해 주세요!




메뉴 닫기