연구시설장비

서브비주얼 배경이미지

정보제공 : ZEUS 장비활용종합포털(www.zeus.go.kr)

GPU 서버

GPU server

DRIS No.	DRIS-19-1089
시설장비등록번호	NFEC-2024-07-298348
보유기관	대구경북과학기술원
담당자
연락처
이메일

장비정보

모델명	ESC4000A-E12	제작사	Asus
취득일자	2024-06-27	취득금액	56,530,000원
5대 미래산업 분류	해당없음	활용용도	시험
표준분류	데이터처리장비 > 하드웨어 > 슈퍼컴퓨터
장비위치	대구광역시 달성군 현풍면 테크노중앙대로 333 대구경북과학기술원　 E3 F2층 217호
장비설명	- 교원정착지원 과제에 기입된 3가지 연구주제 모두에서 인공지능 모델 학습 방법을 연구하는데 사용되는 핵심 장비임. - 분산 네트워크 및 컴퓨팅 환경 구축 및 대규모 언어모델의 기계학습을 위한 그래픽 장치(GPU)와 이를 효율적으로 동작시키기 위한 CPU, Memory, HDD로 구성되어 있는 장비임. - 인공지능 학습은 많은 양의 단순 사칙 연산을 필요로 함. GPU는 매트릭스 연산과 같은 단순 연산을 병렬적으로 처리하는 데 최적의 반도체이기 때문에 인공 지능 학습을 빠르게 연산하는데 핵심적인 역할을 수행을 하고 있음.
구성 및 기능	- 대규모 언어 모델(Large language model, LLM)을 위한 온 디바이스 (On-device) 인공지능 및 연합 학습 (Federated learning) 연구를 하는데 있어서, 최근 큰 주목을 받고 있는 LLAMA 모델의 경우 7Billion 개의 모델 파라미터를 가지고 있으며, 이를 학습시키기 위해서는 30GB이상의 VRAM을 갖는 GPU 장치가 필요함. - 30GB 이상의 VRAM 조건을 만족하는 GPU 장치 중, NVIDIA사의 RTX A6000ADA 모델의 경우 48GB의 VRAM을 가지고 있으며, 다른 상위 모델 (NVIDIA H100 9천만원대, NVIDIA A100 3천만원대)에 비해 1장당 1.5천만원대로 가격대 성능비가 우수함. - 인공지능 모델의 학습을 얼마나 빠르게 처리 할 수 있는가와 관련된 처리속도(FLOP:, floating operations per second)는 GPU의 가중 중요한 성능지표 중 하나임. - NVIDIA 사의 RTX A6000 ADA GPU 칩셋은 91.1 * 10^12 FLOPS로, 다른 상위 GPU칩인 NVIDIA H100 51.2 * 10^12 FLOPS (9천만원대), NVIDIA A100 19.5 * 10^12 FLOPS (3천만원대)와 비교했을 때, 뛰어난 가격대 성능비를 보여줌.
사용/활용예
이용안내
유의사항

이용료안내

담당자에게 문의하시기 바랍니다.