規模
0.6B
コンテキスト
最大 32,768
形式
safetensors
ライセンス
apache-2.0

何に使う? 最初に試すこと

文書検索のために文章をベクトルへ変換するモデルです。チャットの回答生成用とは役割が違います。まず手元の数件の文章と質問で検索順位を確かめ、検索対象と質問で同じモデルの出力を使いましょう。

配布ファイルと実行方法を選ぶ

このページに登録している形式はsafetensorsです。配布ページのモデルカードと実行例で、取得するファイルと対応ソフトを確認しましょう。

Safetensorsの配布物と、GGUFを読み込むソフトの手順は分けて選びます。GGUF版を使う場合は変換元と量子化名を確認してください。

コンテキストの条件

  • 32K(32,768トークン)は検索用ベクトルを作るための入力長で、文章の生成上限ではありません。
  • 公式Transformers例は入力を8,192トークンで切り詰めます。長い文書を扱うときは、使う実装の入力上限と切り詰め設定を確認してください。
  • 今回再確認したのはコンテキスト仕様です。32K入力時の検索精度・速度・必要メモリを実測した値ではありません。

文章を生成するモデルではなく、検索用のベクトルを作るモデルです。形式が読めるだけでなく、利用する実行環境が埋め込みの出力に対応しているかを確認します。

仕様

Author
Qwen
Architecture
未確認
Quantizations
未登録
Last checked
2026/10/21

用途・タグ

semantic searchRAG retrievaltext embeddingembeddingretrievalmultilingual

あなたのPCとの対応記録

このモデルの対応記録はまだ登録されていません。GPUを設定しても照合できる記録はありません。関連記事と、別に掲載している実測の条件を確認してください。