[아이티비즈 김문구 기자] 데이터, 분석, AI를 위한 진정한 하이브리드 플랫폼 기업 클라우데라(한국지사장 최승철)가 생성형 AI 개발과 배포를 가속하기 위해 엔비디아의 추론 마이크로서비스인 엔비디아 NIM로 구동되는 ‘클라우데라 AI 인퍼런스(Cloudera AI Inference)’를 출시했다고 10일 밝혔다.
클라우데라 AI 인퍼런스는 업계 최초로 NIM 기능을 제공하는 AI 추론 서비스 중 하나다. 대규모 AI 모델의 배포와 관리를 혁신적으로 간소화해 기업이 데이터를 최대한으로 활용하고, 생성형 AI를 파일럿 단계에서 완전 생산 단계로 완성할 수 있게 한다.
클라우데라 AI 인퍼런스는 기업이 안전한 개발과 배포를 진행할 수 있도록 민감한 데이터가 비공개 영역을 벗어나 공급업체가 호스팅하는 AI 모델 서비스로 유출되는 것을 방지한다. 해당 서비스는 엔비디아 기술을 기반으로 신뢰할 수 있는 데이터를 구축해 신뢰할 수 있는 AI를 지원한다. 결과적으로 빠른 속도로 AI 챗봇, 가상 비서, 에이전트 애플리케이션의 효율적인 개발을 도와 기업의 생산성 향상과 신규 사업 성장에 기여한다.
디지털 전환, AI 통합의 복잡성 해결이 중요해진 시점에 출시된 클라우데라 AI 인퍼런스는 엔비디아와 협력한 결과물로, 기업 AI 혁신을 주도하는 클라우데라의 의지를 보여준다.
클라우데라 AI 인퍼런스의 주요 추가 기능에는 △고급 AI 기능 △하이브리드 클라우드 및 프라이버시 △확장성 및 모니터링 △오픈 API 및 CI/CD 통합 △엔터프라이즈 보안 △위험 관리된 배포: A/B 테스트, 카나리아 롤아웃을 통한 통제된 모델 업데이트 수행 등이 있다.
최승철 클라우데라코리아 지사장은 “한국 기업들 사이에서 AI 도입 가속화에 대한 관심이 높아지고 있는 가운데, 클라우데라 AI 인퍼런스는 대규모 AI 모델의 안전한 배포 및 간소화된 관리를 지원한다”면서 “클라우데라는 기업이 온프레미스, 클라우드 등 환경에 구애받지 않고 AI 애플리케이션을 유연하게 운영하며, 보안과 규제 준수까지 충족할 수 있도록 지원한다. 클라우데라는 데이터 활용과 AI 혁신 모두를 이룰 수 있도록 최선을 다하겠다”고 말했다.
