NVIDIA Minerva, GPU와 AI 작업을 연결해 장애 원인을 찾는 플랫폼

NVIDIA가 10월 22일 Minerva를 공개했다. 많은 GPU를 묶어 AI를 학습시키거나 서비스하는 데이터센터에서, 느려진 작업과 장비의 이상을 함께 조사하는 운영 플랫폼이다. GPU 온도, 네트워크 오류, 실행 중인 작업을 연결해 관리자가 원인을 찾고 조치하도록 돕는다. 공식 발표

어떤 장비에 문제가 있는지만 보는 데서 한 걸음 더 나아가, 그 장비를 쓰는 AI 작업까지 연결한다. 운영자는 여러 경보를 따로 쫓는 대신 같은 사건에 속하는 신호를 모아 살펴볼 수 있다.

AI 작업이 느려진 이유를 찾는다

대규모 AI 학습에서는 여러 GPU가 계산한 결과를 계속 주고받는다. GPU 자체가 정상이어도 통신 경로가 느려지면 함께 실행하는 작업의 진행이 늦어질 수 있다. 네트워크 팀은 연결 상태를, 학습 담당자는 작업 속도를 따로 보고 있다면 두 현상이 같은 문제에서 시작됐는지 파악하는 데 시간이 걸린다.

Minerva는 이런 조사를 위한 AIOps 플랫폼이다. AIOps는 AI를 IT 운영에 활용하는 방식이며, 여기서는 장비와 작업의 상태를 수집하고 이상을 찾아 관련 사건을 묶는 역할을 한다. 제품 설명은 GPU와 네트워크뿐 아니라 저장장치, 작업을 배정하는 스케줄러와 AI 작업까지 관찰 범위에 포함한다. 수집 대상과 주요 기능

가령 학습 속도가 떨어진 시점에 일부 네트워크 연결의 오류도 늘었다고 하자. 관리자는 영향을 받은 작업과 연결 경로를 함께 확인해 조사 범위를 좁힐 수 있다. 그 결과에 따라 장비를 점검하거나 작업을 다른 자원으로 옮길지 판단하는 식이다. 특정 수치 하나가 높다는 알림보다, 어느 작업에 어떤 영향이 생겼는지를 보여주는 정보가 필요한 상황이다.

동적 지식 그래프로 관계를 연결한다

기초 자료는 ‘텔레메트리’다. 장비가 계속 내보내는 온도·사용률·오류 기록 같은 상태 정보를 뜻한다. NVIDIA의 기존 기술 설명도 GPU, 네트워크, 작업 배정 정보를 함께 보아야 장애가 생긴 계층과 영향을 구분할 수 있다고 설명한다. GPU 사용률이 낮다는 결과만으로 원인이 GPU에 있다고 단정하기 어려운 이유다. AI 인프라 관측의 기본 구조

Minerva는 이 정보를 동적 지식 그래프로 연결한다. GPU, 네트워크 스위치, 케이블과 실행 중인 작업을 각각 구분하고 서로의 연결 관계를 함께 관리하는 구조다. 여기서 그래프는 수치를 그린 차트가 아니라 ‘어떤 작업이 어떤 장비를 이용하는가’를 나타내는 관계망이다. 작업과 자원 배치가 바뀌면 그 관계도 갱신한다. 지식 그래프와 이상 탐지

그 위에서 머신러닝으로 평소 동작 패턴을 학습하고 다른 움직임을 찾는다. 같은 연결 문제 때문에 여러 장비에서 경보가 발생했다면, 장비 사이의 관계를 이용해 하나의 사건으로 묶고 유력한 원인을 제시한다. 단순히 경보 수를 줄이는 것보다 운영자가 먼저 조사할 대상을 정하도록 돕는 데 의미가 있다.

Sherlock에 자연어로 조사 요청하기

내장 AI 도우미의 이름은 Sherlock이다. 관리자가 자연어로 질문하면 실시간 상태 정보를 바탕으로 조사하고 조치 방법을 제안한다. 제품 페이지는 혼잡이나 데이터 폐기가 많은 네트워크 인터페이스를 조사하는 예를 소개한다. 인터페이스는 장비가 네트워크와 연결되는 지점이다. Sherlock의 활용 예

기존 운영 도구와도 연결한다. Grafana로 상태 정보를 보내거나, 외부 AI 도구가 Minerva에 접근하도록 MCP 서버를 활용하는 구성이다. MCP는 AI 도구와 외부 시스템이 정해진 방식으로 정보를 주고받도록 하는 연결 규약이다. 운영자는 직접 권고를 실행할 수도 있고, 인프라 API와 자동화 시스템을 연결해 후속 처리를 맡길 수도 있다. 실제 실행 범위는 조직이 연결한 도구와 권한에 따라 정해진다.

성능은 회수한 GPU 시간으로 본다

NVIDIA가 강조하는 기준은 ‘AI 팩토리 수율’이다. 데이터센터가 확보한 자원을 실제 유용한 작업으로 얼마나 바꾸는지 보는 관점으로, GPU 가동 시간과 작업 처리량, 클러스터 운영 시간, 생성 토큰 수 등이 관련된다. 같은 GPU 수를 보유해도 장애와 원인 조사에 쓰는 시간이 길면 끝내는 작업량은 줄어든다. 운영 성과의 기준

중단 사이의 평균 시간이 길어지고 복구에 걸리는 평균 시간이 짧아지는 것이 목표다. 다만 이번 발표에는 동일한 클러스터에서 도입 전후를 비교한 구체적인 개선율이 제시되지 않았다. IREN이 사용 중이라는 사례와 다른 기업들의 도입 계획은 확인되지만, 그것만으로 모든 환경에서 같은 효과가 난다고 볼 수는 없다.

현장에서는 경보가 줄어든 정도와 함께 원인 파악 시간, 불필요한 조치 횟수, 실제 되찾은 GPU 작업 시간을 비교해야 한다. 잘못 묶인 사건이 중요한 장애를 가리지 않는지, 제안한 원인이 점검 결과와 맞는지도 확인할 항목이다. 이는 발표된 성능 수치가 아니라 운영 효과를 평가할 때 살펴볼 기준이다.

어떻게 도입할 수 있나?

Minerva는 개인이 질문을 입력하는 AI 앱보다 데이터센터 운영팀을 위한 제품에 가깝다. 공식 안내는 자체 시설에 설치하는 방식과 NVIDIA 클라우드의 SaaS 형태를 소개한다. 데이터 수집만 기존 관측 도구에 연결하거나, AI 분석을 더하거나, 내장 화면과 도우미까지 함께 쓰는 구성을 선택할 수 있다. 배포·이용 구성

확인한 공개 안내에는 구체적인 요금표와 모든 장비의 지원 범위가 제시돼 있지 않다. 도입하려면 현재 사용하는 GPU·네트워크·스케줄러에서 필요한 정보를 받을 수 있는지, 데이터를 어디에 보관할지, 자동 조치 권한을 어디까지 줄지 먼저 맞춰야 한다. Minerva Collector를 시작으로 주요 기능을 DSX OS에서 오픈소스로 공개한다는 계획도 있으나, 전체 플랫폼을 지금 무료로 내려받을 수 있다는 뜻으로 읽어서는 안 된다. 제공 방식과 공개 계획