NVIDIA Nemotron 3 Super: 오픈 AI 모델의 새 지평과 에이전트 워크로드의 미래 전망

최근 AI 시장의 변화 속도는 정말 놀랍지 않나요? 특히 NVIDIA Nemotron 3 Super 같은 혁신적인 오픈 모델이 등장하면서, AI 에이전트 워크로드의 가능성이 확 넓어지는 분위기예요. 매일 쏟아지는 AI 뉴스 속에서 어떤 정보가 진짜 중요한지 헷갈릴 때가 많을 텐데요. 오늘 이 글에서는 최신 AI 기술 동향의 핵심을 콕 집어 설명해 드릴게요.

 

📌 "NVIDIA Nemotron 3 Super, 오픈 모델의 효율성 혁신과 AI 에이전트 시대의 도래"

 

이 글에서 알 수 있는 것:

• NVIDIA Nemotron 3 Super의 기술적 특징과 압도적인 성능 지표
• AI 에이전트 워크로드와 "더 큰 IDE" 패러다임 변화의 흐름
• Anthropic Claude의 재귀적 자기 개선(RSI) 논의와 그 파급 효과
• 최신 멀티모달 모델 및 에이전트 평가 벤치마크 트렌드
• AI 기술 발전이 가져올 미래에 대한 저만의 인사이트

 

---

 

📊 핵심 요약

• NVIDIA Nemotron 3 Super: 120B 파라미터(12B 활성), 1M 컨텍스트, FP4에서 GPT-OSS-120B 대비 최대 2.2배 빠른 추론 속도.
• AI 에이전트: 단순 채팅 모델을 넘어 영구 런타임 및 오케스트레이션 레이어로 진화 중.
• Anthropic Claude: 미래 모델 코드의 70~90%를 Claude가 작성, 인간보다 427배 빠른 내부 작업 처리.
• Qwen 벤치마크: gpt-oss-120b-MXFP4-Q8 모델 16K 컨텍스트에서 2,710.5 t/s의 높은 처리량 달성.
• Google Gemini Embedding 2: 텍스트, 이미지, 비디오 등 멀티모달 임베딩 지원.

 

---

 

🔥 1. NVIDIA Nemotron 3 Super: 오픈 AI 모델 효율성의 새 기준

솔직히 말하면, 요즘 AI 분야에서 NVIDIA의 행보는 정말 대단해요. 특히 최근 발표된 Nemotron 3 Super는 오픈 모델 생태계에 새로운 기준을 제시했다고 봐도 과언이 아니거든요. NVIDIA는 이 모델을 블랙웰(Blackwell) 시대의 배포에 최적화된 성능 중심으로 포지셔닝하고 있는데, 단순히 성능만 좋은 게 아니라 "오픈"이라는 점이 핵심이에요. 가중치, 학습 데이터, 레시피, 인프라 세부 사항까지 공개하면서 개발자들이 더 자유롭게 활용할 수 있게 했더라고요.

 

Nemotron 3 Super의 가장 주목할 만한 기술적 특징은 하이브리드 Mamba-Transformer / SSM Latent MoE 아키텍처를 채택했다는 점이에요. 이게 왜 중요하냐면, 120B(1200억) 파라미터라는 거대한 모델임에도 불구하고 실제 활성 파라미터는 약 12B(120억) 수준이라는 거예요. 덕분에 자원을 훨씬 효율적으로 사용하면서도, 1M(100만) 토큰의 긴 컨텍스트를 지원하는 게 가능해진 거죠. 이런 효율성 덕분에 FP4 정밀도에서 기존 GPT-OSS-120B 모델 대비 최대 2.2배 빠른 추론 속도를 달성했다고 해요. 실제 출시 초기에는 최대 484 tok/s에 달하는 서빙 속도가 관측되기도 했고요.

 

그렇다면 이 모델이 이렇게 빠른 진짜 이유는 뭘까요? 기술적 논의를 좀 더 깊이 파고들어 보면, "네이티브 멀티 토큰 예측(MTP)"이라는 핵심 추론 최적화 기술이 큰 역할을 했다는 걸 알 수 있어요. 작은 배치 사이즈에서도 GPU 컴퓨팅 자원을 최대한 활용해서 여러 토큰을 동시에 예측하고 검증하는 방식인데, 이게 추론 속도를 드라마틱하게 끌어올렸다고 합니다. 또 다른 중요한 요소는 바로 KV-캐시 효율성이에요. Qwen3.5-122B 모델의 어텐션 KV 캐시가 토큰당 약 24,576바이트를 사용하는 데 비해, Nemotron 3 Super는 약 8,192바이트로 훨씬 가볍거든요. 긴 컨텍스트를 처리할 때 메모리 부담이 훨씬 적다는 얘기죠.

 

• Nemotron 3 Super는 120B 파라미터 모델임에도 불구하고 실제 활성 파라미터는 12B 수준으로, 자원 효율성이 매우 뛰어납니다.
• Qwen3.5-122B의 KV-캐시가 토큰당 24,576바이트를 사용하는 데 비해, Nemotron 3 Super는 8,192바이트로 약 1/3 수준이라 긴 컨텍스트 처리에서 유리합니다.

 

---

 

🤖 2. AI 에이전트 시대의 도래: '더 큰 IDE'를 향하여

예전에는 AI 모델과 대화하는 게 주된 활용 방식이었다면, 요즘은 "지속적인 에이전트 런타임과 오케스트레이션 레이어" 쪽으로 트렌드가 확실히 바뀌는 것 같아요. 카르파티(Karpathy) 같은 AI 전문가들은 "IDE의 시대는 끝났다"는 말보다는 "더 큰 IDE가 필요할 것"이라고 주장하는데, 이게 진짜 핵심을 꿰뚫는 말이라고 생각해요. 작업의 단위가 파일에서 에이전트로 바뀌고 있다는 거죠.

 

이런 흐름에 맞춰 다양한 서비스들이 쏟아져 나오고 있어요. 퍼플렉시티(Perplexity)가 발표한 "Personal Computer"가 대표적인데요. 맥 미니(Mac mini)에서 구동되는 로컬/클라우드 하이브리드 형태로, 로컬 파일과 앱, 세션을 넘나들며 항상 켜져 있는 개인 비서처럼 작동한다고 합니다. 심지어 원격 제어도 가능하다고 하니, 진짜 매력적이지 않나요? 퍼플렉시티는 엔터프라이즈용 컴퓨터도 확장해서 20개의 전문 모델과 400개 이상의 앱을 오케스트레이션할 수 있다고 밝혔어요.

 

리플릿 에이전트 4(Replit Agent 4)는 앱, 사이트, 슬라이드 제작을 위한 협업적이고 캔버스 같은 워크플로우를 제시했고, 베이스44 슈퍼에이전트(Base44 Superagents)는 비전문가도 쉽게 사용할 수 있도록 Gmail, Slack, Stripe, CRM 등과의 통합 기능을 "배터리 포함" 형태로 제공한다고 해요. 이쯤 되면 이제는 모델 자체보다는 에이전트 시스템을 묶어주는 "하네스(harness)"의 중요성이 점점 더 커지고 있거든요. 모델이 아무리 좋아도 이걸 어떻게 잘 연결하고 제어하느냐가 관건이 된 거죠.

 

"이제는 모델 자체보다는 에이전트 시스템을 묶어주는 '하네스'의 중요성이 점점 더 커지고 있거든요."

 

이런 에이전트 시스템의 발전은 "평가/측정 → 자율적인 하네스 수정 → 성능 개선"으로 이어지는 자기 개선 루프를 만들고 있어요. 랭체인(LangChain)은 딥 에이전트에 "자율 컨텍스트 압축" 기능을 추가해서, 모델이 특정 작업 경계에서 하드 토큰 임계치에 얽매이지 않고 스스로 컨텍스트를 최적화할 수 있게 했고요. 오픈AI(OpenAI) 개발자들은 에이전트의 컴퓨터 접근에 대한 기술 문서를 발표하며 실행 루프, 파일 시스템 컨텍스트, 네트워크 접근, 안전 장치까지 상세하게 다루고 있습니다. 이게 바로 AI 에이전트가 단순한 "툴"을 넘어 "파트너"로 진화하는 과정이라고 봐요.

 

• Perplexity의 엔터프라이즈 컴퓨터는 20개의 특화 모델과 400개 이상의 애플리케이션을 통합 관리하며, 복잡한 업무 자동화를 지원합니다.
• LangChain은 딥 에이전트에 자율 컨텍스트 압축 기능을 추가하여, 모델이 작업 경계에서 스스로 컨텍스트를 최적화할 수 있도록 했습니다.

 

---

 

💡 3. Anthropic과 Claude: 재귀적 자기 개선(RSI)의 그림자?

앤트로픽(Anthropic)은 강력한 AI에 대한 제도적 프레임을 구축하는 데 앞장서고 있어요. 잭 클락(Jack Clark)을 새로운 공공 이익 책임자(Head of Public Benefit)로 임명하고 앤트로픽 연구소(Anthropic Institute)를 설립했거든요. AI의 발전 방향과 공공의 대화를 주도하려는 시도라고 볼 수 있죠. 그런데 이런 움직임과 동시에, 내부에서 "재귀적 자기 개선(Recursive Self-Improvement, RSI)"의 초기 역학이 나타나고 있다는 우려 섞인 이야기도 흘러나오고 있습니다. 이게 진짜라면 정말 엄청난 변화의 시작일 거예요.

 

타임(TIME)지 기사를 통해 간접적으로 알려진 내용들을 보면, 미래 모델 개발에 사용되는 코드의 70~90%를 이제 클로드(Claude)가 작성하고 있다는 주장이 나왔어요. 모델 출시 주기도 몇 달에서 몇 주로 압축되었고요. 일부 연구자들은 완전히 자동화된 AI 연구가 1년 안에 가능할 수도 있다고 조심스럽게 예측하고 있습니다. 특히 클로드가 일부 내부 작업에서 인간 감독자보다 427배나 빠르다는 언급은 정말 충격적이었어요. 이미 중첩된 병렬 사용 패턴이 일반적이라고 하니, AI가 스스로를 개선하는 속도가 우리가 생각하는 것보다 훨씬 빠를 수도 있다는 생각이 들었습니다.

 

근데 이런 이야기가 현실이 될수록, 클로드 코드에 대한 운영 의존성도 커진다는 문제가 생겨요. 최근 로그인/인증 오류가 발생했을 때 개발자들이 겪었던 고통이 그 단적인 예라고 할 수 있죠. 한 개발자는 실리콘밸리 생산성이 90%나 떨어졌다고 농담할 정도였고요. 카르파티도 자신의 "자율 연구 연구소(autoresearch labs)"가 OAuth 오류로 날아갔다고 언급하면서, 미래 최첨단 모델 서비스 중단이 잠재적인 "지능 갈색화(intelligence brownouts)"로 이어질 수 있다고 경고했어요. AI 의존도가 높아질수록 시스템 오류가 가져올 파급 효과는 상상 이상일 겁니다.

 

• 일부 연구자들은 완전히 자동화된 AI 연구가 1년 안에 가능할 수도 있다고 조심스럽게 예측하고 있으며, 이는 AI 발전 속도에 대한 우리의 인식을 바꿀 수 있습니다.
• Claude 코드의 의존성이 너무 커서, 한 번의 시스템 오류로 실리콘밸리 전체의 생산성이 90%나 떨어졌다는 농담이 나올 정도로 AI 시스템 안정성의 중요성이 부각되었습니다.

 

---

 

📊 4. 멀티모달 모델과 에이전트 평가: 새로운 AI 벤치마크 동향

모델 자체의 품질을 넘어 이제는 에이전트 시스템을 측정하고 개선하는 연구가 다음 병목 현상으로 떠오르고 있어요. @karinanguyen_가 발표한 PostTrainBench v1.0은 최전선 에이전트가 단순화된 환경에서 언어 모델을 사후 훈련할 수 있는지 벤치마킹하는 도구인데, AI R&D 자동화와 재귀적 자기 개선(RSI)의 진척도를 추적하는 데 명확한 목표를 두고 있습니다. GPT-5.1 Codex Max의 경우, 중간 수준의 추론 노력이 높은 수준보다 더 좋은 결과를 냈다는 점은 꽤 흥미로웠어요. 추가 토큰이 컨텍스트 압축을 유발해 성능을 저해했기 때문이라고 하더라고요.

 

에이전트 학습 측면에서는 EvoSkill이 눈에 띄는데요. 실행자/제안자/스킬 빌더라는 3인조 체제가 실패로부터 재사용 가능한 스킬을 발견하고 개선하는 방식이에요. OfficeQA 벤치마크에서 Claude Code + Opus 4.5의 정확도를 60.6%에서 67.9%로 7.3%P 향상시켰다고 합니다. 또, @dair_ai가 공유한 AgentIR은 에이전트의 추론 과정과 쿼리를 함께 임베딩하는 추론 인식 검색기인데, BrowseComp-Plus에서 68%의 정확도를 기록했다고 해요. 이는 기존 대규모 임베딩 모델의 52%, BM25의 37%보다 훨씬 높은 수치입니다.

 

멀티모달 분야에서는 구글의 제미니 임베딩 2(Gemini Embedding 2)가 주목받고 있어요. 텍스트, 이미지, 비디오, 오디오, PDF 등 다양한 데이터를 위한 임베딩을 제공하는데, 저차원 저장을 위한 마트료시카(Matryoshka) 임베딩도 지원한다고 합니다. 다만 텍스트 임베딩 비용이 경쟁사 대비 높은 편이라, 주로 멀티모달 검색에 유리하다는 분석이 많아요. 비디오 임베딩 비용은 업로드 전에 FPS를 적극적으로 낮추지 않으면 폭증할 수 있다고 하니, 활용 시 주의가 필요하겠죠.

 

Qwen3.5의 멀티모달 아키텍처도 상세한 분석이 나왔는데, Gated DeltaNet 선형 어텐션과 Gated 풀 어텐션을 혼합한 하이브리드 어텐션 스택이 특징이에요. 397B(3970억) A17B MoE 변형과

 

---

 

📎 원문 보기: https://news.smol.ai/issues/26-03-11-not-much

 

🔗 더 많은 소식: https://dawith-link.vercel.app/Dawith_ai