🐶 らぼまる🐶⚡の速報チェック!
- 🏢 開発元・ラボ: Cohere / Cohere Labs (RWS協力)
- 🧠 パラメータ規模: 218B (アクティブ 25B / Sparse MoE 128エキスパート)
- 💻 動作要件・必要VRAM: VRAM 440GB以上(FP16) / INT4量子化で80GB GPU複数枚 / Cohere API
- 📜 ライセンス: オープンウェイト(非商用無料 / 商用利用は個別契約必要)
- 💰 利用料金: API無料枠あり / セルフホスト非商用 $0 [1 USD = 約154.3円換算]
- 🎯 最適ユースケース: 契約書・技術文書の高精度多言語翻訳、オンプレミスセキュリティ翻訳基盤
結論サマリー:商用翻訳API依存からの脱却とMoEアーキテクチャの実務的破壊力
2026年9月10日、Cohere Labsは翻訳特化型のSparse MoE言語モデル「North Small Translate (North-Small-Translate-1.0)」をリリースしました。総パラメータ数218Bでありながら、単一トークン生成時に使用されるアクティブパラメータ数を25B(全体の約11.5%)に抑制することで、圧倒的な精度と高い処理スループットを両立しています。
WMT26ベンチマーク(50言語評価)において、Agenticモード(自動自己修正ワークフロー)は84.36、標準モードでも83.60を記録。これはDeepL NextGen(81.37)やQwen 3.5 397B(81.56)、Google Translate(68.20)といった既存の主力商用翻訳サービスや大型モデルを明確に上回るスコアです。
ビジネスにおける最大の意義は、「外部APIへ顧客機密データを送信できない企業が、ローカル環境でDeepL超えの翻訳クオリティを手に入れられる」点にあります。ただし、推論計算量は25Bモデル相当に抑えられる一方で、218Bパラメータ全体の重みをメモリ上に常駐させる必要があるため、インフラ配置におけるVRAM管理のリアリティを冷徹に見極める必要があります。
128エキスパートとハイブリッド・アテンションの内部構造メカニズム
North Small Translateの優位性は、Cohereと語学ソリューション大手RWSが協働で設計したアーキテクチャの合理性に由来します。Decoder-only構成のバックボーンに対し、以下の特徴的な技術アプローチが採用されています。
- 128 Sparse Experts + Shared Expert トークンごとに全128エキスパートから上位8つを動的に選択するルーティング機構に加え、全トークンで共通して実行されるShared Expertを配置しています。これにより、言語共通の文法規則や基本構造を共通処理しつつ、特定の言語対やドメイン知識を個別エキスパートに分散伝播させる効率的な学習を実現しています。
- スライディングウィンドウとグローバルアテンションの3:1交互配置 16K入力/16K出力の長文コンテキストに対応するため、ウィンドウ長4096のSliding Window Attention 3層に対して、Global Attention 1層を交互に配置しています。全アテンション層を全結合しないことで、メモリ帯域と計算複雑性を削減し、長文文書の翻訳における処理時間を大幅に削減しています。
- 標準シングルパスとAgenticマルチパスの二重動作モード 1回のパスで訳文を出力する標準モードと、出力後にモデル自身が原文と訳文の乖離・誤訳を検出し自己修正するAgenticモードを選択可能です。精度向上と引き換えにレイテンシが増大するため、用途に応じた使い分けがキーとなります。
導入の落とし穴:VRAMフットプリントと評価ベンチマークの客観的分析
本モデルを導入するにあたり、現場のアーキテクトが直視すべき制約と検証課題が2点存在します。
第一に**「メモリフットプリントと計算量の乖離」**です。計算FLOPsは25B相当で済むため、推論スループットは Gemma 4 31B(81 tokens/sec)を上回る112 tokens/secを達成しますが、218Bモデル全体をGPU上に載せる必要があります。未量子化(FP16)では約440GB以上のVRAMが必要となり、Nvidia H100 (80GB) や A100 (80GB) が最小でも6〜8枚要求されます。企業内セルフホストで現実的な運用を目指す場合、FP8やINT4などのMoE量子化手法を活用し、VRAM占有量を200GB以下に落とし込む構成が不可欠です。
第二に**「ベンチマーク評価環境の前提」**です。本発表のWMT26スコアは、採点用の判定LLMとして「GPT-5.6-Sol」を用いてCohere独自に検証された値です。サードパーティによる独立検証が進むまでは、自社のドメインデータ(契約書、医学論文、金融レポート等)でPoCを実施し、ブラインドテストによる定性評価を行うことを推奨します。
環境構築とセルフホスト推論の実装手順
セルフホスト推論を行う場合は、Hugging Faceよりモデル重みをダウンロードし、vLLMまたはTransformers経由で実行します。
手元に大容量GPU環境がない場合は、RunPod(従量課金 $0.2/h〜) などのクラウドGPUサービスを活用して80GB VRAM搭載インスタンスを複数取得し、推論環境を構築するのが最もスムーズです。
# パッケージのインストール
pip install cohere transformers accelerate vllm
# リポジトリのクローン(大容量モデルのため git-lfs を使用)
git lfs install
git clone https://huggingface.co/CohereLabs/North-Small-Translate-1.0
以下は、Cohere APIを利用して標準モードおよびAgenticモードで翻訳を実行するパイプラインコードの例です。
import cohere
# APIクライアントの初期化
co = cohere.Client(api_key="YOUR_API_KEY")
text_to_translate = """
Sparse Mixture-of-Experts architectures enable models to scale parameters
without a proportional increase in FLOPs per token.
"""
# 1. 標準推論モード(低レイテンシ・リアルタイム用途)
response_standard = co.chat(
model="north-small-translate-1.0",
message=f"Translate the following English text into Japanese: {text_to_translate}",
temperature=0.3
)
print("=== 標準モード訳文 ===")
print(response_standard.text)
# 2. Agentic推論モード(高精度・契約書/ドキュメント用途)
response_agentic = co.chat(
model="north-small-translate-1.0",
message=f"Translate to Japanese with self-correction mode enabled: {text_to_translate}",
force_single_step=False # 自己修正ループを有効化
)
print("\n=== Agenticモード訳文 ===")
print(response_agentic.text)
競合翻訳エンジン・大容量LLMとの定量的スコア比較
WMT26における主要モデルおよび商用翻訳サービスのベンチマーク結果と、実効スペックの対比表です。
| モデル / サービス名 | パラメータ規模 (Active / Total) | WMT26 平均スコア | 低並列スループット | 商用ライセンス形態 |
|---|---|---|---|---|
| North Small Translate (Agentic) | 25B / 218B | 84.36 | 低〜中(マルチパス) | 個別契約必要 / オープンウェイト |
| North Small Translate (標準) | 25B / 218B | 83.60 | 112 tokens/sec | 個別契約必要 / オープンウェイト |
| Qwen 3.5 | 37B / 397B | 81.56 | 45 tokens/sec | Apache 2.0 |
| DeepL NextGen | 非公開(商用API) | 81.37 | 非公開(高速) | 従量課金SaaS |
| Gemma 4 | 31B / 31B | 79.46 | 81 tokens/sec | Gemma Terms |
| Google Translate | 非公開(商用API) | 68.20 | 非公開(高速) | 従量課金SaaS |
実測データが示す通り、North Small Translateはパラメータ効率に優れており、DeepL等の商用エンジンのスコアを大きく引き離しています。
現場で役立つハイブリッド運用テクニックとプロンプト設計
実運用パイプラインを構築する際、全リクエストをAgenticモードで処理すると推論コストおよびレスポンス時間が数倍に跳ね上がります。現場での最適解は、入力ドキュメントの重要度・特性に応じたハイブリッドルーティングです。
- チャット・UIリアルタイム翻訳: API経由またはINT4量子化セルフホストによる「標準シングルパスモード」を使用(112 tokens/secの高速性を享受)。
- 法務契約書・IR資料・技術マニュアル: 「Agenticマルチパスモード」を適用。モデル内に用語集(Glossary)をプロンプトコンテキストとして注入し、誤訳が発生した際に自動修正させる仕組みを構築。
また、セルフホスト時のメモリバッファ確保のため、vLLM等の推論エンジンで --gpu-memory-utilization 0.95 および --quantization fp8 オプションを指定し、KVキャッシュの溢れを防御することが運用上の鉄則です。
企業における採用・見送り判定基準ガイドライン
本モデルを自社スタックに導入すべきか否か、明確なチェックリストを用意しました。
採用すべき組織・ユースケース
- 自社内にオンプレミスまたはプライベートクラウドのGPUリソース(H100/A100等)があり、機密データを外部SaaSに送信できない。
- 契約書や技術論文など、誤訳が致命的な損失につながる長文翻訳の自動化を行いたい。
- 多言語展開サービスにおいて、DeepLなどの月額・従量課金APIコストが膨れ上がっている。
見送るべき(またはSaaS API利用にとどめるべき)組織
- 単一のRTX 4096(16GB VRAM)クラスなど、ローカルのGPUリソースが限られている環境(モデルのロード自体が不可能)。
- ミリ秒単位の超低レイテンシが最優先されるリアルタイム対話アプリケーション。
- 非商用利用のみであり、商用ライセンスの契約手続きを行う法務リソースが存在しない企業。
よくある質問(FAQ)
Q1. North Small Translateは個人学習や非商用環境であれば完全無料でセルフホストできますか?
はい。Hugging Faceでオープンウェイトとして公開されており、研究や個人利用などの非商用目的であれば無料でセルフホストして利用可能です。ただし商用環境で利用する場合は、Cohereとの個別ライセンス契約が必要となります。
Q2. 25Bアクティブパラメータとはどういう意味ですか?推論コストは抑えられますか?
218Bある全重みのうち、各トークンの推論処理時に活性化されるのは128エキスパート中8つの約25B分のみです。そのため計算量(FLOPs)は25Bモデル並みに抑えられ、高速なレスポンスが得られます。ただしモデル全体をGPUに常駐させる必要があるため、VRAM占有量は218B分(未量子化で約440GB以上)を要求されます。
Q3. DeepLやGoogle翻訳と比べてどの程度のハードウェア環境が必要ですか?
SaaSであるDeepLやGoogle翻訳と異なり自前でセルフホストする場合、FP16で約440GB以上、FP8/INT4量子化時でも数枚の80GB VRAM GPU(H100/A100など)が必要です。計算資源が十分に確保できない場合は、CohereのAPI経由での利用が現実的です。


