[아이티비즈 박채균 기자] 엔비디아(CEO 젠슨 황)는 미국 새너제이에서 열린 GTC에서 추론 기능을 갖춘 개방형 엔비디아 라마 네모트론(NVIDIA Llama Nemotron) 모델 제품군을 발표했다.
이는 개발자와 기업이 비즈니스에 즉시 활용할 수 있는 기반을 제공해 개인 또는 팀으로 복잡한 작업을 해결할 수 있는 고급 AI 에이전트를 구축하도록 지원한다.
라마 모델을 기반으로 구축된 엔비디아 라마 네모트론 추론 제품군은 온디맨드 AI 추론 기능을 제공한다. 엔비디아는 사후 훈련(Post-Training) 과정을 통해 이들 제품군을 개선하며 다단계 수학, 코딩, 추론, 복잡한 의사 결정 능력 등을 향상시켰다.
이 개선된 프로세스는 기본 모델에 비해 모델의 정확도를 최대 20%까지 높이고, 다른 주요 개방형 추론 모델에 비해 추론 속도를 5배 최적화한다. 추론 성능 향상은 모델이 더 복잡한 추론 작업을 처리하고, 의사 결정 능력을 향상시키며, 기업의 운영 비용을 절감할 수 있음을 의미한다.
액센츄어, 암독스, 아틀라시안, 케이던스, 마이크로소프트, SAP, 서비스나우 등 에이전트 AI 플랫폼 선구 기업들이 새로운 추론 모델과 소프트웨어를 위해 엔비디아와 협력하고 있다.
엔비디아 창립자 겸 CEO인 젠슨 황은 “추론과 에이전틱 AI의 도입은 놀라운 일이다. 엔비디아의 개방형 추론 모델, 소프트웨어, 도구는 개발자와 기업들이 가속화된 에이전틱 AI 인력을 구축할 수 있는 기초 자료를 제공한다”고 말했다.
저작권자 © 아이티비즈 무단전재 및 재배포 금지
