|
| |
|
|
|
|
|
| |
| 인텔, ML커먼스의 AI 성능 벤치마크를 통해 AI 경쟁 우위 성능 달성 |
2023.06.28 |
|
|
|
|
|
- 하바나 가우디2 및 4세대 인텔 제온 스케일러블 프로세서로 AI 학습에서 뛰어난 성능과 비용 절감 효과 제공
ML커먼스(MLCommons)가 AI 성능 벤치마크 ‘MLPerf 트레이닝(MLPerf Training) 3.0’ 결과를 발표했다. 인텔 하바나® 가우디®2 딥러닝 가속기와 4세대 인텔® 제온® 스케일러블 프로세서는 해당 벤치마크에서 뛰어난 학습 결과를 달성했다.
인텔 데이터 센터 및 AI 그룹 총괄 산드라 리베라(Sandra Rivera) 부사장은 “ML커먼스의 최신 발표를 통해 AI 분야에서 인텔 제온 프로세서 및 인텔 가우디 딥러닝 가속기가 고객에 제공하는 총소유비용(TCO) 가치를 확인할 수 있다. 제온 프로세서의 내장 가속기는 대용량 AI 워크로드를 범용 프로세서에서 실행하는 데 이상적인 솔루션이며, 가우디는 대규모 언어 모델 및 생성형 AI에서 경쟁력 있는 성능을 제공한다”며 “인텔 스케일러블 시스템은 프로그래밍하기 용이한 최적화된 개방형 소프트웨어를 기반으로 고객과 파트너가 클라우드에서 인텔리전트 엣지를 포함하는 데이터센터에서 AI 기반 솔루션을 더욱 쉽게 배포하도록 지원하고 있다”고 말했다.
현재 생성형 AI와 대규모 언어 모델(LLM)은 엔비디아 GPU에서만 실행할 수 있다는 것이 업계의 정설로 여겨지고 있다. 하지만, 이번 발표로 인텔 AI 솔루션 포트폴리오가 효율성과 확장성을 제한하는 폐쇄적인 생태계에서 벗어나고자 하는 고객에 경쟁력 있고 매력적인 선택지를 제공하고 있음을 확인할 수 있다.
이번 발표는 다양한 딥러닝 모델에 대한 인텔 제품의 높은 성능을 입증했다. 더불어 학습을 위한 가우디2 기반 소프트웨어 및 시스템의 성숙도 또한 대규모 언어 모델인 GPT-3을 통해 검증했다. 가우디2는 GPT-3의 LLM 학습 벤치마크에 성능 결과를 제출한 단 두 개의 반도체 솔루션 중 하나이다.
가우디2는 서버 및 시스템 비용 모두에서 고객에 경쟁력 있는 비용 이점을 제공한다. 가우디2는 GPT-3 상에서 기록한 가속기의 MLPerf 검증 성능, 컴퓨터 비전, 자연어 모델 및 향후 소프트웨어 개선을 바탕으로 엔비디아 H100 제품 대비 고객에 더욱 매력적인 가성비를 제공하는 선택지를 제공할 것이다.
CPU 측면에서 인텔 AI 엔진이 탑재된 4세대 제온 프로세서의 딥러닝 학습 성능을 통해 고객이 제온 기반 서버로 데이터 전처리, 모델 학습 및 배포를 위한 단일 범용 AI 시스템을 구축해 AI의 성능, 효율성, 정확성 및 확장성을 적절히 조합할 수 있다는 것을 입증했다.
생성형 AI 및 대규모 언어 모델 학습을 위해선 방대한 컴퓨팅 요구사항을 충족할 수 있는 서버 클러스터가 필요하다. 이번 MLPerf 결과는 가장 까다로운 모델인 1,750억 개의 매개변수 GPT-3에서 하바나 가우디2의 뛰어난 성능과 효율적인 확장성을 입증했다.
가우디2의 주요 결과는 다음과 같다:
- 가우디2는 GPT-3*에서 인상적인 학습 시간 기록 - 384개 가속기에서 311분
- GPT-3 모델에서 256개에서 384개 가속기로 95%에 가까운 선형 확장 가능
- 컴퓨터 비전(ResNet-50 가속기 8개 및 Unet3D 가속기 8개) 및 자연어 처리 모델(BERT 8 및 64 가속기)에서 우수한 학습 결과 제공
- 11월 제출 결과 대비, BERT 및 ResNet 모델 성능 각각 10%, 4% 향상. 이는 가우디2 소프트웨어의 성숙도가 높아지고 있다는 증거
- 추가적인 설정 변경 없이 가우디2 결과 측정 - 고객이 온프레미스 또는 클라우드에서 가우디2를 활용해 비슷한 성능 결과 확보 가능
가우디 플랫폼에 대한 소프트웨어 지원은 꾸준히 상승하고 있는 생성형 AI 및 LLM 수요에 맞춰 지속적으로 발전하고 있다.
- 가우디2의 GPT-3 성능은 파이토치(PyTorch)를 기반으로 하며, 커스텀 소프트웨어가 아닌 널리 사용되며 마이크로소프트 AI의 일부인 최적화 라이브러리 ‘딥스피드(DeepSpeed)’를 사용했다. 딥스피드는 3D 병렬 처리(데이터, 텐서, 파이프라인)을 동시에 지원해 LLM의 확장 성능 효율성을 더욱 최적화할 수 있다.
- 가우디2의 3.0 벤치마크 결과는 BF16 데이터 유형으로 제출됐다. 2023년 3분기에 FP8에 대한 소프트웨어 지원과 새로운 기능이 출시되면 가우디2 성능은 크게 향상될 것으로 예상된다.
* MLPerf 테스트 말뭉치는 GPT-3 모델의 1% 대표 슬라이스(representative slice)로 구성된다.
인텔 제온 프로세서는 여러 다양한 솔루션 중 MLPerf 결과를 제출한 유일한 CPU 제품이다. 이번 발표를 통해 인텔 제온 프로세서는 기업이 범용 시스템에 AI를 배포하고 전용 AI 시스템 도입에 따른 비용과 복잡성을 피할 수 있도록 즉시 사용 가능한 기능을 제공하는 것을 입증했다.
간헐적으로 대규모 모델을 기초부터 학습시킬 수 있는 소수의 기업들은 범용 CPU를 사용할 수 있으며, 이러한 기업들은 인텔 기반 서버에서 비즈니스를 운영하고 있는 경우를 종종 볼 수 있다. 그러나, 대부분의 기업은 사전 학습된 모델을 사용하며, 자체적으로 선별된 소규모 데이터 세트를 사용해 미세한 조정을 실시한다. 인텔은 과거 인텔 AI 소프트웨어 및 업계 표준 오픈소스 소프트웨어를 사용해 이러한 미세 조정을 단 몇 분 만에 수행할 수 있다는 결과를 발표한 바 있다.
주요 MLPerf 결과는 다음과 같다:
- 4세대 인텔 제온 스케일러블 프로세서는 폐쇄 부문(closed division)에서 BERT 및 ResNet-50 모델을 각각 50분 미만(47.93분), 90분 미만(88.17분)으로 학습을 완료할 수 있었다.
- 개방 부문(open division)에서 BERT를 사용한 결과, 4세대 인텔 제온 스케일러블 프로세서는 16개 노드로 확장할 때 약 30분(31.06분) 만에 모델 학습을 완료했다.
- 더 큰 규모의 RetinaNet 모델의 경우, 4세대 인텔 제온 스케일러블 프로세서는 16개 노드에서 232분이라는 시간을 달성했다. 고객은 제온의 사용량이 적은 시간대를 활용해, 오전, 점심 또는 밤새 모델을 학습시킬 수 있는 유연성을 확보했다.
- 인텔® 어드밴스드 매트릭스 익스텐션(Intel® AMX)이 탑재된 4세대 인텔 제온 스케일러블 프로세서는 여러 프레임워크, 엔드-투-엔드 데이터 과학 툴 및 광범위한 스마트 솔루션 생태계에 걸쳐 향상된 기본 성능을 제공한다.
일반적으로 AI성능에 대한 가장 공신력 있는 벤치마크 MLPerf는 솔루션 사이에서 공평하고 반복 가능한 성능을 비교할 수 있게 한다. 인텔은 100회 제출을 돌파했으며, 업계 표준 딥러닝 에코시스템 소프트웨어로 공개 CPU결과를 제출한 유일한 벤더로 남아 있다.
또한 이러한 결과는 인텔 oneAPI 기반 오픈 소스 인텔® 이더넷 패브릭 스위트 소프트웨어를 활용하는 인텔 이더넷 800 시리즈 네트워크 어댑터의 비용 효율성과 용이한 가용성이 제공하는 뛰어난 확장 효율성을 강조한다. |
|
 |
|
|
|
 |
|
| 7986 |
RED DEAD 온라인에서 박물학자가 되어 야생 동물과 교감하고 번창하기 [0] |
2023.07.12 |
597 |
|
| 7985 |
‘제노너츠 2’ PC 한국어판 7월 18일 다이렉트 게임즈 정식 출시 예정 [0] |
2023.07.11 |
910 |
|
| 7984 |
전 세계 유저 홀린 ‘데이브 더 다이버’, 넥슨 패키지 게임 새 지평 열었다! [0] |
2023.07.11 |
829 |
|
| 7983 |
‘소닉’ 시리즈 완전 신작 ‘소닉 슈퍼스타즈’가 레고그룹과 콜라보레이션! [0] |
2023.07.11 |
451 |
|
| 7982 |
EA SPORTS FC 24 얼티밋 에디션 커버 공개 [0] |
2023.07.11 |
831 |
|
| 7981 |
2K, NBA 2K24 커버 모델로 전설 코비 브라이언트 선정 [0] |
2023.07.10 |
485 |
|
| 7980 |
이브 온라인 20주년 기념 소장판 콘텐츠 공개 및 예약 판매 시작 [0] |
2023.07.10 |
663 |
|
| 7979 |
그랜드체이스 클래식, 스팀 인기 게임 2위 진입! [0] |
2023.07.07 |
420 |
|
| 7978 |
네오노비스 ‘이지투온 리부트 : R’ 신규 DLC ‘포트리스 콜라보레이션 DLC’ 출시 [0] |
2023.07.07 |
689 |
|
| 7977 |
네오위즈 ‘브라운더스트’ PC 버전 스팀 출시 예정… 글로벌 CBT 시작 [0] |
2023.07.07 |
489 |
|
| 7976 |
‘아틀라스 폴른’ PC, PS5 한국어판 8월 10일 정식 출시 예정 [0] |
2023.07.07 |
755 |
|
| 7975 |
디아블로 IV 출시 후 첫 시즌인 ‘악의 종자 시즌’ 공개, 21일 시작 [0] |
2023.07.07 |
554 |
|
| 7974 |
이집트의 전쟁에 합류하라! ‘토탈워 파라오’ 세력별 심층 탐구 영상 [0] |
2023.07.07 |
667 |
|
| 7973 |
어쌔신 크리드 미라지, 바그다드 역사학자 및 자문기관과 파트너십 [0] |
2023.07.06 |
1255 |
|
| 7972 |
페르소나3 리로드, 최신 홍보 영상 및 새로운 정보 공개! [0] |
2023.07.04 |
753 |
|
| 7971 |
술식 연계 액션 ‘주술회전 전화향명’(한국어판) 발매 결정! [0] |
2023.07.03 |
797 |
|
| 7970 |
‘소드 아트 온라인 라스트 리콜렉션’(한국어판) 다운로드 버전 예약 판매 시작! [0] |
2023.06.30 |
733 |
|
| 7969 |
넥슨 대규모 PvP 게임 ‘워헤이븐’ 스팀 넥스트 페스트에서 존재감 입증 [0] |
2023.06.29 |
902 |
|
| 7968 |
‘식스타 게이트: 스타트레일’, 스팀-닌텐도 스위치에 DLC 발매 및 대규모 악곡 업데이트 [0] |
2023.06.29 |
886 |
|
| 7967 |
코그(KOG) 신작 ‘리턴 얼라이브’ CBT 시작 [0] |
2023.06.29 |
582 |
|
| 7966 |
레인보우식스 시즈, 기간 한정 이벤트 ‘RENGOKU’ 진행 [0] |
2023.06.29 |
1225 |
|
| 7965 |
민트로켓, 하이브리드 해양 어드벤처 ‘데이브 더 다이버’ 스팀 정식 출시! [0] |
2023.06.29 |
961 |
|
| 7964 |
‘발티리안 아크: 히어로 스쿨 스토리 2’ 정식 출시 [0] |
2023.06.28 |
993 |
|
| 7963 |
스마일게이트 ‘카즈(KARDS)’ 여름 업데이트...확장팩 ‘전우’ 출시! [0] |
2023.06.28 |
499 |
|
| 7962 |
9년 연속 1등! MSI, 2023 상반기 최고의 노트북 선정 [0] |
2023.06.28 |
597 |
|
| 7961 |
인텔, ML커먼스의 AI 성능 벤치마크를 통해 AI 경쟁 우위 성능 달성 [0] |
2023.06.28 |
599 |
|
| 7960 |
한국레노버, 세계 최초 OLED 듀얼 스크린 탑재한 ‘요가북 9i’ 국내 출시 [0] |
2023.06.28 |
444 |
|
| 7959 |
로지텍, 비즈니스 화상회의 탁상용 카메라 'SIGHT' 출시 [0] |
2023.06.28 |
563 |
|
| 7958 |
스마일게이트 스토브인디 ‘아톰RPG: 트루도그라드’ 사전판매 시작 [0] |
2023.06.27 |
727 |
|
| 7957 |
‘섀도우버스 코리아 오픈 2023 시즌 2’ 성료…’kkulding’ 최종 우승! [0] |
2023.06.27 |
409 |
|
|
|
|
| |
| [처음] ◁◁ 11 12 13 14 15 16 17 18 19 20 ▷▷ |
|
|
|
