AIwiki

Llama 2

ベースモデル
開発者
Meta
ライセンス
Llama 2 Community License
リリース日
2023/7/18
コンテキスト長
4,096 トークン
トレーニングトークン
2T
対応言語
en
知識カットオフ
2022-09

2023年7月18日公開。商用利用を解禁した第2世代モデル。コンテキスト長を4Kに倍増、2兆トークンで学習。70Bモデルには推論効率向上のためGQA（Grouped-Query Attention）を初採用。Chat版はSFT+RLHFで人間の好みに合わせて調整。学習データにMeta製品・サービスのデータは含まない。

HuggingFace論文GitHub公式サイト

技術仕様

アーキテクチャ

Decoder-only Transformer (70BのみGQA)

パラメータバリエーション

Llama 2 7B(7B)

HuggingFace

軽量ベースモデル。効率的なローカル実行に最適。

GGUFファイルは登録されていません

Llama 2 7B Chat(7B)

HuggingFace

対話最適化版。SFT+RLHFで調整。

GGUFファイルは登録されていません

Llama 2 13B(13B)

HuggingFace

中規模ベースモデル。バランスの取れた性能。

GGUFファイルは登録されていません

Llama 2 13B Chat(13B)

HuggingFace

対話最適化版。SFT+RLHFで調整。

GGUFファイルは登録されていません

Llama 2 70B(70B)

HuggingFace

大規模ベースモデル。GQA採用で推論効率を向上。

GGUFファイルは登録されていません

Llama 2 70B Chat(70B)

HuggingFace

対話最適化版。GQA採用、SFT+RLHFで調整。

GGUFファイルは登録されていません

関連モデル

LLaMA 1

4 バリエーション

Code Llama

4 バリエーション

Llama Guard 1

1 バリエーション

Spirit-LM

2 バリエーション

Swallow (Llama 2)

3 バリエーション

Llama 3

4 バリエーション

Llama Guard 2

1 バリエーション

Swallow (Llama 3)

2 バリエーション

ELYZA Japanese

1 バリエーション

Llama 3.1

6 バリエーション

Llama Guard 3

3 バリエーション

Swallow (Llama 3.1)

2 バリエーション

DeepSeek-R1-Distill-Llama

2 バリエーション

Llama 3.2

8 バリエーション

Llama 3.3

1 バリエーション

Swallow (Llama 3.3)

1 バリエーション

Llama 4

3 バリエーション

Llama Guard 4

1 バリエーション

家系図

現在のモデル: Llama 2