Ministral

ベースモデル
開発者
Mistral AI
ライセンス
Mistral Research License
リリース日
2024/10/16
コンテキスト長
128,000 トークン
対応言語
en, fr, de, es, it
知識カットオフ
2024-Q3
officialtext-generationedgeefficienton-device

Mistral AIのエッジ向け小型モデル。2024年10月16日公開。3Bと8Bの2サイズ展開。8BはインターリーブドSliding Window Attentionで高速・メモリ効率的推論を実現。オンデバイス、プライバシー優先の推論向け。LLaMA 3.1 8B、Mistral 7Bを上回る性能。128Kコンテキスト。

技術仕様

アーキテクチャ

Dense Transformer, Interleaved Sliding Window Attention (8B)

パラメータバリエーション

Ministral 3B(3B)

最軽量版。LLaMA 3.2 3Bを上回る性能。

VRAM8GB

GGUFファイルは登録されていません

Ministral 8B Instruct (2410)(8B)

HuggingFace

インターリーブドSWA採用。LLaMA 3.1 8B超。エージェントワークフロー向け。

VRAM20GB

GGUFファイルは登録されていません

家系図

現在のモデル: Ministral