AIwiki

Swallow (Llama 2)

ファインチューニング
開発者
東京工業大学 / 産総研
ライセンス
Llama 2 Community License
リリース日
2023/12/19
コンテキスト長
4,096 トークン
対応言語
ja, en
ベースモデル
meta-llama/Llama-2-7b
japanesemultilingual

東京工業大学と産業技術総合研究所が開発した日本語特化モデル。Llama 2をベースに日本語データで継続事前学習を行い、日本語性能を大幅に向上。

HuggingFace

技術仕様

アーキテクチャ

Transformer

パラメータバリエーション

Swallow 7B(7B)

HuggingFace

Llama 2 7Bベースの日本語特化モデル。

VRAM6GB
RAM16GB

GGUFファイルは登録されていません

Swallow 13B(13B)

HuggingFace

Llama 2 13Bベースの日本語特化モデル。

VRAM10GB
RAM32GB

GGUFファイルは登録されていません

Swallow 70B(70B)

HuggingFace

Llama 2 70Bベースの日本語特化モデル。高い日本語性能。

VRAM40GB
RAM140GB

GGUFファイルは登録されていません

関連モデル

LLaMA 1

4 バリエーション

Llama 2

6 バリエーション

Code Llama

4 バリエーション

Llama Guard 1

1 バリエーション

Spirit-LM

2 バリエーション

Llama 3

4 バリエーション

Llama Guard 2

1 バリエーション

Swallow (Llama 3)

2 バリエーション

ELYZA Japanese

1 バリエーション

Llama 3.1

6 バリエーション

Llama Guard 3

3 バリエーション

Swallow (Llama 3.1)

2 バリエーション

DeepSeek-R1-Distill-Llama

2 バリエーション

Llama 3.2

8 バリエーション

Llama 3.3

1 バリエーション

Swallow (Llama 3.3)

1 バリエーション

Llama 4

3 バリエーション

Llama Guard 4

1 バリエーション

家系図

現在のモデル: Swallow (Llama 2)