지코어, AI/ML 추론 가속화 인프라 ‘엣지 AI’ 발표

지코어, AI/ML 추론 가속화 인프라 ‘엣지 AI’ 발표: 이성호 기자 / 기사승인 : 2023-11-22 10:58:05

고성능 ‘서비스형 AI 인프라’ 구축 지원

[CWN 이성호 기자] 글로벌 퍼블릭 클라우드 및 엣지 컴퓨팅 기업인 지코어는 AI/ML 추론을 가속화하는 서비스형 AI 인프라스트럭처(AI structure as a service)인 ‘엣지 AI(Edge AI)‘를 발표하고, 강력한 AI 인프라 구축에 나서고 있는 신규 고객 확보에 나선다고 22일 밝혔다.

지코어의 ‘엣지 AI’는 온프레미스 하드웨어를 배포하거나 AI 인프라를 처음부터 구축할 필요 없이 온디맨드 방식으로 최첨단 머신 인텔리전스 컴퓨팅을 손쉽게 추가할 수 있는 서비스형 AI 인프라스트럭처(AI Infrastructure as a service)로서, 필요에 따라 비용 효율적으로 손쉽게 대규모 컴퓨팅으로 원활하게 확장할 수 있다.

특히 지코어의 엣지 AI는 통합 UI 및 API를 활용하여, AI/ML 추론을 가속화하는 인프라를 구축할 수 있도록 엔비디아(NVIDIA) GPU, 그래프코어(Graphcore) IPU 및 암페어CPU를 동시에 제공하는 유일한 CSP이다.

고객은 지코어의 엣지AI를 활용하여 기업들에게 개념 증명 구축에서 교육 및 배치에 이르기까지 AI 도입 과정의 모든 단계를 원활히 진행할 수 있다.

엣지 AI를 사용하면 모델 또는 사용자 지정 코드 학습을 쉽게 훈련하고 비교할 수 있으며, 모든 모델은 하나의 중앙 저장소에 저장한다. 이후 개발된 모델을 지코어 엣지 AI 인프라의 동일한 엔드포인트에 배포할 수 있다.

특히 Iot, 자율주행 자동차, 스마트 팩토리 등과 같이 현장과 AI컴퓨팅의 상호작용이 중요한 사용처에서는 대량의 센서 데이터나 영상정보가 빠르게 데이터센터에 전송되어야 하며, 신속한 피드백 처리가 필요하다.

이때 지코어의 저지연 글로벌 네트웍과 엣지 데이터센터에 위치한 AI플랫폼은 지금까지 생각하지 못했던 방식으로 서비스 아키텍처를 개선할 수 있다.

이런 구성을 위해서는 사물 현장과의 보장된 확장에 필수인데 지코어는 5G eSIM 서비스를 통해 전 세계에 특화망을 제공하고 있다.

즉 지코어의 엣지AI는 현장의 연결을 위한 5G특화망, 광범위한 엣지AI 컴퓨팅 인프라, 그리고 그들을 빠르고 안정적으로 연결해주는 엣지 네트워크로 완성이 된다.

지코어코리아는 현재 리소스 집약적인 컴퓨팅 작업을 위한 CPU 인 '엔비디아 H100' 기반 퍼블릭 및 프라이빗 클라우드 서비스를 즉시 제공할 수 있는 국내에서 유일한 CSP(클라우드 서비스 제공기업)로서, AI 기반 서비스 및 클라우드 리전을 설립하는 등 안정적인 인프라 서비스를 위한 AI 기술 적용 분야 리더로서 자리매김 하는데 주력하고 있다.

지코어는 전세계에 고성능 AI반도체을 장착한 ‘생성형 AI 클러스터’를 구축하고 있으며, 이를 기반으로 국내 AI 시장 공략에도 적극 나서고 있다.

지코어의 생성형 AI 클러스터는 다양한 사용자에게 AI/ML 모델 트레이닝을 가속화하여 AI 분야에서 혁신을 주도할 수 있도록 탁월한 GenAI 역량을 제공한다.

지코어의 생성형 AI 클러스터는 스타트업부터 대기업에 이르기까지 폭넓은 사용자에게 최첨단 인프라 및 연구 시설(research facilities)을 제공하여, 디자인 프로젝트 개발을 위해 인간의 창의성을 강화하는 것에서부터 운영 효율성을 높이는 것, 또는 흥미로운 게임 콘텐츠를 개발하는 것에 이르기까지 광범위한 사례에서 생성형 AI 모델 개발을 가속할 수 있도록 지원한다.

지코어의 세바 베이너(Seva Vayner) 엣지 및 AI 클라우드(Edge & AI Cloud) 부문 총괄 디렉터는 “지코어의 엣지 AI는 신뢰할 수 있는 안전한 클라우드 기반 플랫폼으로서, 자연어 처리를 위한 세계 최고 수준의 성능을 보장한다. 지코어의 엣지 AI는 금융, 의료, 제조, 과학 연구 등 다양한 분야의 비즈니스에 도움이 되도록 설계되었다. 개념 증명 구축부터 교육 및 배포에 이르기까지 AI 도입 여정의 모든 단계를 지원한다”며 “앤비디아 및 그래프코어, 암페어 등을 비롯하여 글로벌 대표 기업들과의 협력을 통해 혁신적인 프로세서를 클라우드 기반의 AI 인프라에 적용하여 고객의 ML 모델 개발하여 서비스할 수 있도록 안정적으로 지원할 수 있게 되었다”라고 말했다.

이성호 기자 sunghho@cwn.kr