deep gadget by ManyCoreSoft

컴퓨터는 기록을 정확히 저장하는데 AI는 왜 오래된 기록을 현재 값처럼 사용할까요? AI 장기기억의 구조, RAG의 한계와 GPU 비용을 살펴봅니다.

AMD가 Instinct MI455X GPU 72개와 HBM4 31TB를 한 랙에 담은 Helios를 공개했습니다. Vera Rubin NVL72와 비교해 메모리와 네트워크의 차이, AMD가 제시한 FP4·tokens/$ 수치의 조건, 국내 AI 인프라에 주는 의미를 살펴봅니다.

DeepSeek V4 Flash의 7월 31일 공개본은 284B 모델 본체와 DSpark 가중치를 합쳐 약 304B입니다. 13B 활성 파라미터의 의미와 에이전트 성능, DSpark의 원리, 다중 GPU 서빙 조건을 공식 자료로 정리했습니다.

45°C 냉각수로 GPU를 식힐 수 있는 이유를 설명합니다. NVIDIA Rubin의 45°C 조건과 ASHRAE W45의 차이, CDU·드라이쿨러가 냉각 전력에 미치는 영향을 정리했습니다.

Kimi K3 96개 safetensors의 실제 용량과 정밀도 구성을 확인하고 104.2B 활성 파라미터, KDA·MLA 캐시와 현실적인 서빙 조건을 분석했습니다.

AI 인프라 오케스트레이션을 인프라, GPU 자원·워크로드, ML 워크플로와 추론으로 나눠 설명합니다. Kubernetes DRA, Kueue, llm-d 등 2026년 동향과 오픈소스·상용제품 선택 기준을 정리했습니다.

LLM 서빙 엔진이 하는 일을 쉽게 설명하고, vLLM과 SGLang의 차이와 선택 기준을 최신 오픈 모델 지원 현황과 함께 정리했습니다.

CAD-IT Korea가 dg5R의 RTX PRO 6000 Blackwell GPU 2·4·8장으로 STAR-CCM+ 약 8천만 격자 문제를 측정했다. GPU 8장은 50회 반복 계산을 35.2초에 마쳤다. 6U 액체냉각 서버 한 대에 담긴 성능과 CPU 2,500코어급 환산의 의미를 살펴본다.

CoreWeave가 공개한 Vera Rubin NVL72의 첫 실측은 Grace Blackwell NVL72 대비 토큰/MW 최대 10배였다. NVIDIA의 비용 10분의 1 비교는 별도의 Kimi-K2-Thinking 조건이다. 두 수치의 의미와 200kW가 넘는 랙, 45°C 액체냉각이 데이터센터 설계에 미치는 영향을 살펴본다.

2013년부터 이어 온 GPU 가속기 교육이 올해 14년째를 맞는다. CUDA 기초부터 GPU 최적화와 Multi-GPU 프로그래밍까지 4박 5일 동안 실습하며 등록 마감은 8월 17일이다.

사내 문서를 찾아 답하고 보고서를 작성하며 업무 도구까지 실행하는 AI 에이전트를 회사 안에 구축한다. 모티프테크놀러지스의 AI 모델·에이전트 플랫폼과 매니코어소프트의 액체냉각 GPU 인프라를 결합한 Motif AI BOX를 소개한다.

엔터를 누른 뒤 첫 토큰이 화면에 나타나기까지, 시간과 돈과 전기는 어디에 쓰일까

그래서 누군가는 AI 마을을 통째로 만들었다

문샷AI가 7월 16일 공개한 오픈웨이트 프론티어 모델. 가중치는 27일 풀리고 권장 배포 사양은 가속기 64장 이상이다.

RTX Pro 6000 Server Edition은 FP32 행렬곱 실측에서 RTX 5090보다 약 10% 느렸습니다(76.8 vs 87.2 TFLOPS). 원인은 최대 클럭 2430MHz와 한 단 낮은 메모리 클럭입니다. FP16 딥러닝 연산에서는 SE가 이론대로 앞섭니다.

지금까지는 산업단지가 데이터센터를 '유치'해 왔다. 우리는 이 관계가 곧 역전된다고 본다. 피지컬 AI와 저지연 AI 서비스가 산업의 기본 조건이 되면, AI 데이터센터가 클러스터의 중심이 되고 공장이 그 주위로 모인다.

2024년에 "GPU 발열이 1,000W를 넘을 전망"이라고 썼습니다. 2026년 출하되는 GPU는 한 장이 최대 2,300W를 씁니다

GLM-5.2가 쏘아올린 AI 추론 마진 붕괴 논쟁을 정리하고, 오픈웨이트 모델 경쟁이 왜 온프레미스 AI 인프라 수요로 이어지는지 분석합니다.

매니코어소프트가 퀀텀코리아 2026에서 공개한 QXel, GPU·NVMe 스토리지 오프로딩으로 딥가젯 서버 1대에서 43큐비트 state vector 양자 시뮬레이션을 구현합니다. 원리·사양·라이브 데모 안내.

콜드플레이트부터 CDU, 서버·시스템 통합까지 — 매니코어소프트가 고밀도 AI 데이터센터 냉각의 사업화를 주도합니다

모델을 섞고, 얹고, 지휘해서 일본에서 가장 빠른 유니콘이 된 3년

앤트로픽 페이블·미토스 모델의 전면 차단 사태는 클라우드 AI에 의존한 비즈니스가 지정학적 변수 하나로 멈출 수 있음을 보여줬다. 이 글에서는 온프레미스 AI 인프라가 왜 더 이상 선택이 아닌 생존 전략인지, 그리고 모델·연산 주권을 확보하는 구체적 방법을 분석한다.

AI EXPO KOREA 2026에서 매니코어소프트가 선보이는 액체냉각 기반 AI/HPC 인프라와 3사 협업 AI 데이터센터 솔루션을 소개합니다.

콜드플레이트, 매니폴드, CDU(In-rack·In-row·Sidecar, L2A·L2L), 냉각수, 액침까지. 액체냉각(DLC) 서버 용어를 가볍게 정리했습니다.

AI GPU의 전력과 랙 밀도가 빠르게 높아지면서 기존 공랭만으로는 발열을 감당하기 어려워지고 있습니다. 공랭의 한계가 칩과 데이터센터에서 각각 어떻게 나타나는지, 직접액체냉각(DLC,수랭)이 이를 어떻게 해결하는지 설명합니다.

PUE(전력사용효율)는 데이터센터 전체 전력을 IT 장비 전력으로 나눈 값입니다. 계산법, 좋은 PUE 기준, 액체냉각이 PUE를 낮추는 원리까지 정리했습니다.

dg5W-5090-6 서버를 2주간 무료로 경험하세요! 매니코어소프트가 6개 연구실에 액체냉각 기반의 쾌적한 연구 환경을 지원합니다. 대규모 LLM 서빙부터 3D 시각화까지 직접 검증하고, 체험 팀 한정 '특별 도입 할인 혜택'까지 놓치지 마세요.

MASGA 프로젝트로 주목받는 HD현대중공업 그룹. 매니코어소프트와 기가바이트는 GPU 서버, InfiniBand·Ethernet 네트워크, 고성능 스토리지를 공급하고 클러스터 구축·최적화·운영까지 총괄하며 울산 데이터센터에 최첨단 AI 학습 인프라를 완성했습니다.

ASRock Rack 공식 디스트리뷰터 매니코어소프트가 고성능 AI/HPC 인프라 구축을 위한 파트너십을 체결했습니다. 검증된 ASRock Rack 하드웨어와 독자적인 액체냉각 기술을 결합해 최적의 서버 솔루션을 제공합니다.

AI 추론 수요 폭증 속에서 GPU의 한계를 넘어서는 DSA (NPU) 의 부상. 딥가젯과 텐스토렌트가 함께 그리는 AI 인프라 최적화 철학을 소개합니다.

최대 6장 장착 가능한 딥가젯 서버와 RTX 5090의 만남. 생성형 AI, 3D 그래픽, 초고해상도 게임을 위한 최고의 GPU 솔루션을 제공합니다.

딥가젯 서버가 NVIDIA RTX PRO 6000 Blackwell을 지원합니다. 96GB GDDR7 메모리와 600W급 성능을 특허 냉각 기술로 안정적으로 구동, 최대 6장까지 탑재 가능한 고성능 서버 솔루션을 제공합니다.

Energy-Based Transformer(EBT)는 AI 추론 방식의 혁신을 제시합니다. EBT의 등장과 함께 고성능 컴퓨팅 인프라가 왜 중요한지, 매니코어소프트가 제시합니다.

삼성전자가 유럽 최대 HVAC 기업 플랙트를 약 2조 4,000억 원에 인수하며 공조·냉각 시장의 중요성이 부각되고 있습니다. 매니코어소프트는 직접 액체냉각 서버와 CDU 솔루션으로 첨단 데이터센터 인프라 혁신에 기여하고 있습니다.

중국 AI 기업 딥시크가 2,048대의 H800 GPU로 2,360억 파라미터 모델을 훈련해 Llama 2 70B에 필적하는 성능을 달성했습니다. 하드웨어 제약을 극복한 최적화 전략이 AI 인프라의 새로운 가능성을 보여줍니다.

액체냉각 기반 AI 인프라 기업 매니코어소프트가 고성능 AI 반도체 전문기업 텐스토렌트와 업무협약을 체결했습니다. 차세대 고밀도 AI 서버 플랫폼과 Direct-to-Chip 액체냉각 솔루션의 공동 개발·상용화를 추진합니다.

매니코어소프트, 웨이브파이브, 텐스토렌트가 손잡고 가성비 뛰어난 RISC-V 기반 AI 컴퓨팅 생태계를 국내에 확산 중입니다. WIS 2025 현장에서 혁신 기술과 생태계 전략을 확인해보세요.

매니코어소프트가 '딥가젯' 수랭식 GPU 서버를 앞세워 2025 월드IT쇼(WIS 2025)에 참가합니다. 고성능 AI 인프라 구축을 위한 혁신적 액체냉각 기술과 글로벌 진출 전략을 확인해보세요.

매니코어소프트, 텐스토렌트 전용 액체냉각 워크스테이션을 선보이다

매니코어소프트와 시멘틱그래프가 MOU를 체결했습니다. AI 인프라와 대형언어모델(LLM) 서비스 협력으로 혁신적인 데이터센터 솔루션을 함께 선보입니다.

매니코어소프트가 첫 해외 수출을 성공적으로 마쳤습니다. 베트남에 도착한 딥가젯 액체냉각 AI 서버는 Tenstorrent NPU 탑재로 고성능·고효율을 자랑합니다. 글로벌 AI 인프라 기업과 협력해 동남아 시장을 개척하고, 중국, 미국, 동유럽 등으로 확장 중인 매니코어소프트입니다.

ManyCoreSoft의 고성능 수냉 GPU 서버, 딥가젯은 높은 효율성과 안정성을 제공하며, 대학 연구실 및 기업 서버실에서 강력한 클러스터 구성을 통해 AI 연산과 고부하 작업을 최적화합니다. 30%의 재구매율로 신뢰받는 액체 냉각 기술을 경험해 보세요.

매니코어소프트가 10월 31일 한전KDN 주최의 '2024 빛가람 에너지밸리 ICT&보안 컨퍼런스'에 참가하여 에너지 절약에 효과적인 5세대 액체 냉각 서버 '딥가젯'을 선보였습니다. 데이터센터 냉각 에너지 절감에 큰 혁신을 가져올 최신 기술을 소개한 이번 행사에서는 다양한 글로벌 기업의 AI 및 ICT 솔루션도 함께 전시되었습니다.

텐스토렌트와 매니코어소프트, 다컴시스템, 웨이브파이브 등 AI 기업들이 협력해 엔비디아에 도전하는 새로운 AI 가속기 시장을 엽니다.

매니코어소프트, 텐스토렌트 한국 공식 런칭 행사 참가. AI 하드웨어 가속기 'Wormhole n300s'와 오픈소스 생태계 확장을 위한 최신 기술을 직접 체험하세요.