컨티뉴엄 AI(CONTINUUM AI)가 개발한 OrcaRouter는 2026년 11월 9일 바이두의 ‘ERNIE 5.5 Flash Base’를 무검열로 처리한 GGUF 가중치를 공식 공개했다. OrcaRouter는 해당 모델이 총 280B 파라미터 중 토큰당 14B를 활성화하는 MoE(혼합 전문가) 구조로 설계됐다고 설명했다. 아울러 사용자의 하드웨어 환경에 맞춰 선택할 수 있도록 60GB, 122GB, 245GB 세 가지 빌드를 함께 배포했다.
저장소 구성 및 분할 파일 배포 방식
저장소에는 60GB, 122GB, 245GB 세 가지 빌드가 각각 58개의 분할 파일로 나뉘어 등록됐다. 실제 파일 용량은 각각 59.98GB, 121.99GB, 244.61GB다. 모든 분할 조각을 온전히 내려받아야 하나의 모델 파일이 완성되며, 일부만 다운로드할 경우 llama.cpp 환경에서 정상적으로 로드되지 않는다. 원본 소스는 바이두가 공개한 ERNIE-5.5-Flash-Base의 BF16 체크포인트다. 이와 함께 애플 실리콘 환경에서 구동하기 위한 MLX 형식도 별도 저장소를 통해 함께 개방됐다.
모델 아키텍처 및 핵심 사양
ERNIE 5.5 Flash Base는 총 280B 파라미터 규모에 토큰당 14B를 할당해 구동하는 희소 MoE 모델이다. 총 33.5T 규모의 토큰으로 최초 사전학습을 거쳤으며, 학습 당시의 컨텍스트 길이는 128K였으나 추론 및 파인튜닝 단계에서는 최대 104만8576토큰까지 확장된다. 총 43개의 레이어 중 42개가 MoE 층으로 구성돼 있으며, 각 층마다 512개의 라우팅 전문가 중 상위 10개와 1개의 공유 전문가를 활용한다. 입력 데이터는 텍스트만 지원하며, 지원 언어는 영어와 중국어다.
어블리터레이션 적용에 따른 거부율 개선
OrcaCyber는 어블리터레이션(Abliterated) 처리를 거친 후 모델의 거부율이 기존 74.2%에서 0.7% 수준으로 대폭 낮아졌으며, 핵심 성능의 손실은 최소화됐다고 밝혔다. 다만 검증에 사용된 프롬프트 세트와 구체적인 판정 기준은 공개되지 않았다. 동일 계정이 함께 게시한 평가 이미지는 ERNIE 5.5 Flash Base 원본 모델을 DeepSeek-V4-Flash-Base, Hy3-preview-Base, MiMo-V2.5-Base 등과 비교한 것으로, 무검열 가중치 버전을 직접 재측정한 수치는 아니다.
베이스 체크포인트라는 점
이 모델은 사전학습이 끝난 직후의 베이스 체크포인트다. 지시를 따르는 대화 모델로 학습되기 전 단계이므로 그대로 쓰면 질문에 답하는 형식이 아니라 이어쓰기 형태로 응답할 수 있다. 무검열 처리는 거부 반응을 줄이는 작업이고, 실제 에이전트나 챗 용도로 쓰려면 별도 파인튜닝이 필요하다. 저장소 태그에도 base-model이 붙어 있다.
사전학습 직후의 베이스 모델 특성
본 모델은 사전학습 공정이 직후에 완료된 순수한 베이스(Base) 체크포인트 상태다. 사용자의 지시를 따르도록 훈련된 대화형 챗봇 모델 형태가 아니기 때문에 그대로 입력할 경우 질의응답 형식이 아니라 문장을 자연스럽게 이어 쓰는 형태로 응답할 수 있다. 무검열 처리는 모델의 거부 반응을 억제하기 위한 작업이므로 실제 에이전트나 대화형 챗 서비스 용도로 활용하려면 별도의 파인튜닝 과정이 필수적이다. 저장소 태그에도 ‘base-model’ 속성이 명시돼 있다.
하드웨어 사양별 세 가지 빌드 옵션
60GB 빌드는 64GB 메모리를 갖춘 시스템에서 작동하도록 최적화됐다. 정밀도를 일부 조정하는 대신 단일 워크스테이션 환경에 모델을 올릴 수 있는 구성이다. 반면 122GB 및 245GB 빌드는 더 높은 정밀도와 뛰어난 출력 품질을 추구할 때 활용된다. 특히 245GB 빌드는 256GB 이상의 메모리나 다중 GPU 장비가 요구된다. 동일한 모델이라도 선택하는 빌드에 따라 실제 출력 품질과 처리 속도에 차이가 발생한다.
로컬 구동 및 런타임 환경 안내
GGUF 포맷으로 배포됐으므로 llama.cpp 계열의 런타임 환경에서 간편하게 로드할 수 있다. 58개의 분할 파일을 모두 내려받은 뒤 첫 번째 조각 파일을 지정하면 나머지 조각들이 순서대로 인식된다. 다만 OrcaRouter 플랫폼은 해당 모델을 자체 API 서비스 형태로 직접 제공하지는 않는다. 서버 환경에서 무검열 모델 인프라가 필요할 경우 카탈로그 내의 OrcaCyber 등급 모델을 선택해 이용할 수 있다.
라이선스 및 기술적 제약 사항
본 모델의 라이선스는 일반적인 아파치 오픈소스가 아니라 바이두의 ‘ERNIE 5.5 Flash Base 모델 라이선스’를 따른다. 또한 저장소 카드 상에는 모델 규모가 286B로 표기돼 있으나 바이두 공식 모델 카드의 280B 표기와는 다소 차이가 있어 두 수치를 공식적으로 동기화한 자료는 아직 부재하다. 무검열 빌드를 적용한 상태에서 원본 모델의 벤치마크 성능을 재측정한 결과도 공개되지 않았다. 60GB 빌드의 경우 압축 과정으로 인해 정밀도가 낮아져 245GB 빌드와 완전히 동일한 품질을 기대하기는 어렵다.
OrcaRouter는 단일 API 키와 엔드포인트로 다음을 포함한 200개 이상의 모델을 제공한다.
· OrcaCyber Zero 1.5
· OrcaCyber K3.1 Pro Abliterated
· OrcaCyber Hy4 Abliterated
· OrcaCyber GLM 5.3 Abliterated
· OrcaCyber Ultra 1.0
· Qwen3.8 27B
· Claude Opus 5.5
· ERNIE 5.5 Flash Base 무검열 GGUF 저장소
· 바이두 ERNIE 5.5 Flash Base 모델 카드
· OrcaRouter 게시물
OrcaRouter 소개
OrcaRouter는 OpenAI 호환 LLM 게이트웨이로, 200개가 넘는 모델에 걸쳐 라우팅하며 약 40%의 비용 절감, 1밀리초 미만의 라우팅 오버헤드, 0%의 토큰 마크업을 제공한다. 자체 호스팅 에디션인 OrcaRouter-Lite는 MIT 라이선스로 제공된다.
컨티뉴엄 AI 소개
컨티뉴엄 AI(CONTINUUM AI)는 최첨단 AI를 개발자와 팀이 접근 가능하고 합리적인 비용으로 사용할 수 있도록 하기 위해 설립된 싱가포르 기반 기업이다. 단일 API 키와 엔드포인트를 통해 200개 이상의 선도적인 AI 모델에 대한 액세스를 제공하는 OpenAI 호환 AI Gateway인 OrcaRouter를 개발한 회사다. OrcaRouter는 약 40%의 비용 절감, 1ms 미만의 라우팅 오버헤드, 토큰 마크업 없음을 제공하며, MIT 라이선스로 출시된 자체 호스팅 버전(OrcaRouter-Lite)도 함께 제공한다.
◆ 한눈에 보기
· 발행 기관 : CONTINUUM AI PTE. LTD.
· 분류 : 보안, 인공지능, CONTINUUM AI PTE. LTD.
· 배포 : 2026년 11월 13일 오전 11시 30분
출처 : CONTINUUM AI PTE. LTD. 보도자료(뉴스와이어)
· · · · · · · · · ·
관련기사
▶ 컨티뉴엄 AI OrcaRouter, 1.10GB GGUF로 LFM3-1.7B 즉시 구동
▶ 컨티뉴엄 AI, AI 추론 40% 비용 절감 비법을 11월 11일 공개
▶ 컨티뉴엄 AI, 24GB 메모리서 65B 구동용 Ripple-65B 무검열 가중치 공개
· · · · · · · · · ·
스페셜타임스는 AI 기술의 도움을 받아 더 빠르고 다양한 뉴스를 독자에게 전달하기 위해 노력하고 있습니다.
