스노우플레이크, AI모델 자동라우팅 도입…딥시크·GLM-5.3 추가

코텍스 AI 게이트웨이의 신규 기능은 워크로드별로 적합한 모델을 선택해 AI 비용을 절감하고, 스노우플레이크 내에서 데이터 거버넌스를 유지할 수 있도록 지원한다 (사진= 스노우플레이크코리아 제공)

스노우플레이크(Snowflake)가 코텍스 AI 게이트웨이(Cortex AI Gateway)와 자사 AI 제품에 '다이나믹 모델 라우팅(Dynamic Model Routing)' 기능을 도입한다고 밝혔다. 해당 기능은 프라이빗 프리뷰로 제공될 예정이며, 업계를 선도하는 오픈 모델에 대한 접근성도 함께 확대됐다.

이번 기능은 지난 7월 발표된 코텍스 AI 게이트웨이를 기반으로 한다. 코텍스 AI 게이트웨이는 에이전트 연결을 관리하고 요청을 지능적으로 라우팅하며 AI 소비를 최적화하는 기반이다. 기업이 하나의 모델을 모든 작업에 적용하면 비용이 급증하고, 다양한 모델을 일일이 평가·관리하면 개발팀 부담이 커지는 문제를 동시에 해결하기 위해 모델 선택을 자동화했다고 회사 측은 설명했다.

어떻게 작동하나

다이나믹 모델 라우팅은 스노우플레이크 코코(Snowflake CoCo), 스노우플레이크 코워크(Snowflake CoWork)뿐 아니라 코텍스 AI 게이트웨이를 사용하는 서드파티 AI 에이전트에서도 이용할 수 있다. 덜 복잡하거나 반복적인 작업은 비용 효율적인 모델로, 심층 추론이 필요한 작업은 프론티어 모델로 자동 배분한다. 이를 통해 고객은 요청마다 모델을 직접 선택·관리하지 않고도 불필요한 추론 비용을 줄일 수 있다. 관리자는 사용자가 이용할 수 있는 모델과 제공업체 범위를 직접 통제할 수 있으며, 새 모델이 출시돼도 애플리케이션이나 에이전트를 다시 구축할 필요가 없다.

어떤 모델이 추가됐나

스노우플레이크 코텍스 AI에는 딥시크 V4 플래시 0731(DeepSeek-V4-Flash 0731)과 GLM-5.3이 새로 추가됐다. GLM-5.3은 프라이빗 프리뷰로 공개됐다. 두 모델은 코텍스 AI, 코코, 코워크 전반에서 이용할 수 있으며, 고객은 앤트로픽·오픈AI·구글·스페이스X AI·메타·미스트랄 등 기존 모델과 함께 워크로드에 맞는 품질·성능·비용 조합을 선택할 수 있다. 스노우플레이크 AI 리서치팀이 딥시크 V4 플래시를 데이터 엔지니어링 과제로 평가한 결과 74.4%의 점수를 기록해 주요 상용 모델을 능가했고, GLM-5.2는 62.8%를 기록하며 테스트된 모델 중 가장 적은 토큰을 사용한 것으로 나타났다.

얼마나 효율적인가

스노우플레이크 내부 테스트에서 다이나믹 모델 라우팅을 활용한 에이전트는 프론티어 모델만 사용한 경우와 동등한 품질을 유지하면서 최대 3배 높은 토큰 효율성으로 dbt 파이프라인을 구축했다. 다른 테스트에서는 엔지니어링 팀이 동일한 수의 풀 리퀘스트를 처리하면서 토큰 효율성을 25% 높인 것으로 확인됐다. 코텍스 AI 게이트웨이는 관리자에게 토큰 사용량과 비용에 대한 가시성을 제공하며, 조직 차원의 지출 한도 설정도 지원한다. 코코는 기존 역할 기반 접근 제어와 태깅 프레임워크를 바탕으로 팀·코스트센터별 사용량 귀속, 사용자별 할당량 설정, 한도 근접 시 알림 기능을 제공한다.

슈리다 라마스워미 스노우플레이크 CEO는 "기업들은 갈수록 AI의 경제성을 더 엄격히 평가하고 있다"며 "관건은 얼마나 많은 AI를 사용하고 있는지가 아니라 AI가 유의미한 비즈니스 가치로 이어지고 있는지 여부"라고 말했다. 그는 이어 "스노우플레이크의 역할은 이러한 복잡성을 대신 처리하고 고객이 성과에 집중할 수 있도록 기반에서 모델 선택을 최적화하는 것"이라고 밝혔다. 산지브 모한 산지모 대표 겸 창립자는 "문제는 어떤 모델을 고를 것인가가 아니라 대규모 환경에서 모든 작업에 적합한 모델을 선택하는 데 따르는 운영 부담"이라며 "새로운 모델이 출시될 때마다 인프라를 다시 구축하지 않고도 워크로드 복잡성에 맞는 비용의 모델을 선택할 수 있다는 점이 기업이 AI 실험 단계에서 대규모 활용 단계로 전환하는 데 필요한 효율성"이라고 말했다.

출처 : 스노우플레이크코리아 보도자료(뉴스와이어)

· · · · · · · · · ·

▶ 노타, AI 모델 최적화 넘어 ‘에이전트 운영 최적화’로 사업 확장

▶ 스노우플레이크 한국 지사장에 이용석…구글·MS 20년 베테랑

· · · · · · · · · ·