Mathstral
ファインチューニングofficialmathreasoningstemopen-source
数学・STEM特化モデル。2024年7月16日公開。Project Numinaとの共同開発。Mistral 7Bベースの命令チューニング。複雑な多段階論理推論、数学的証明、科学計算に最適化。MATH 56.6%(単一)、68.37%(多数決)、74.59%(報酬モデル選択)達成。
ベンチマーク
MMLU
63.47
MATH
56.6
math-majority
68.37
math-prm
74.59
ソース: https://mistral.ai/news/mathstral
技術仕様
アーキテクチャ
Dense Transformer, Instruction-tuned for math reasoning
パラメータバリエーション
関連モデル
Mistral 7B
6 バリエーション
Mixtral 8x7B
2 バリエーション
Mixtral 8x22B
2 バリエーション
Mistral Large
2 バリエーション
Mistral Small
4 バリエーション
Mistral Medium 3
2 バリエーション
Codestral
3 バリエーション
Codestral Mamba
1 バリエーション
Mistral NeMo
2 バリエーション
Pixtral 12B
1 バリエーション
Ministral
2 バリエーション
Pixtral Large
1 バリエーション
Mistral Saba
1 バリエーション
Magistral
2 バリエーション
Voxtral
2 バリエーション
Devstral
4 バリエーション
Mistral Large 3
6 バリエーション
家系図
現在のモデル: Mathstral