CodeQwen1.5
ベースモデルofficialcoding
2024年4月16日公開。Qwen1.5-7Bベースのコード特化モデル。約3兆トークンのコード関連データで学習。92言語のプログラミング言語をサポート。64Kコンテキスト対応。Fill-in-the-Middle(FIM)によるコード補完をサポート。HumanEval 83.5%(Chat版)、SWE-BenchでGPT-3.5超え。
ベンチマーク
HumanEval
83.5
humaneval-base
51.8
humaneval-plus
78.7
mbpp
77.7
swe-bench
0.89
ソース: CodeQwen1.5 Blog 2024-04
技術仕様
アーキテクチャ
Qwen1.5 base, GQA
プロンプトテンプレート
フォーマット: fim
ユーザープロンプト:
<fim_prefix>{prefix}<fim_suffix>{suffix}<fim_middle>ストップトークン:
<|endoftext|>パラメータバリエーション
関連モデル
家系図
現在のモデル: CodeQwen1.5