데이터는 안에 두고,
AI는 가까이에
01
데이터는 기관 안에
문서와 데이터를 외부 서비스로 보내지 않고, 기관 안의 서버에서 찾고·요약하고·씁니다.
02
책상 위 크기로 약 2,000억(200B) 파라미터
책상 위에 두는 NVIDIA DGX Spark 1대로 최대 약 2,000억(200B) 파라미터 모델을 추론합니다(FP4).
03
네트워크까지 함께 설계
AI 서버와 함께 포유링크 스위치·AP로 기관 네트워크를 설계하고, 설치와 유지보수까지 맡습니다.
사양
NVIDIA DGX Spark
1대 사양
NVIDIA 공개 사양 기준
- 칩
- NVIDIA GB10 Grace Blackwell Superchip
- 메모리
- 128 GB 통합 메모리 (LPDDR5x, 273 GB/s)
- AI 연산
- 최대 1 PFLOP (FP4, 희소 연산 기준)
- 처리 가능한 모델
- 1대로 최대 약 2,000억(200B) 파라미터 모델 추론 (FP4)
- 내장 저장장치
- 1 TB 또는 4 TB NVMe
- 연결
- ConnectX-7 고속 네트워크(200G QSFP) — 2대를 직접 연결해 최대 약 4,050억(405B) 파라미터
확장
필요한 만큼 이어 붙입니다
1대
약 200B파라미터 (FP4)
- 128 GB 통합 메모리
2대
약 405B파라미터 (FP4)
- 256 GB 통합 메모리
- 200G QSFP DAC 케이블로 서로 직접 연결 (스위치 불필요)
성능 수치는 NVIDIA가 공개한 DGX Spark 사양 기준이며, 실제 성능은 모델과 설정에 따라 달라집니다.
고속 스토리지 확장
큰 모델과 지식베이스를
위한 스토리지
협력사 제품 · ApeX Studio Mini 4
DGX Spark 내장 저장장치(1 TB 또는 4 TB)만으로 부족한 큰 모델과 지식베이스 데이터를 담는 전용 외장 스토리지입니다.
- 크기 · 무게
- 150 × 150 × 26 mm (0.58 L), 1 kg 미만, 팬 없는 수동 냉각
- 저장장치
- M.2 NVMe SSD 4개 (2280/22110), 1개 최대 16 TB, 합계 최대 64 TB
- 연결
- 100GbE / 2 × 100GbE, RDMA(RoCE), NVMe-oF
- GPU 직접 전송
- GPUDirect Storage(GDS) — CPU를 거치지 않고 저장장치에서 GPU 메모리로
- 소비전력
- 100 W 미만
- 호환
- DGX Spark와 연결, DGX Station, 워크스테이션·서버
쓰임새
이런 곳에 씁니다
기관 문서 기반 질의응답
규정·지침·민원 문서를 밖으로 보내지 않고 기관 안에서 검색하고 요약합니다(RAG).
행정 문서 요약 · 초안
행정 문서를 요약하고 초안을 씁니다. 문서는 기관 밖으로 나가지 않습니다.
학교 AI 교육 · 실습
학생과 교사가 기관 안에서 AI 모델을 직접 돌려 보는 실습 서버로 씁니다.
연구 · 개발
모델 미세조정(fine-tuning)과 추론 테스트를 기관 안에서 합니다.
구성
AI 서버와 네트워크를
한 번에
- 사용자 PC 기관 네트워크(포유링크 스위치)를 거쳐 AI 서버에 접속합니다.
- DGX Spark 2대 200G QSFP 케이블로 서로 직접 연결합니다. 이 구간에는 스위치가 필요 없습니다.
- ApeX Studio Mini 4 협력사 고속 스토리지를 100GbE로 연결합니다.