本文へスキップ
snowkitAI

ファインチューニング用のJSONLデータセットを作成・チェック

プロンプトと回答のスプレッドシートや、入力した例を、チャット形式または補完形式のJSONLに変換します。そのあと、アップロードする前に、JSONLファイルを1行ずつチェックします。

形式

CSVから

型付きの例

データセット

0例
0推定トークン数
0エラー
0警告

                

    データは、この端末上で読み取られ、書き込まれます。何もアップロードされません。質問と回答のスプレッドシートを、JSONLの学習ファイルにしたり、既存のJSONLファイルが、使う前に有効かを確認したりします。無料で、プライバシーも守られます。

    データセットを作成する方法

    1. 「データセットを作成」タブを開いて、形式を選びます:チャットまたはコンプリーション。
    2. 「CSVを開く」を押すか、「CSVテキスト」に貼り付けます。「例を試す」で、サンプルの行が読み込まれます。
    3. CSVやシンプルなフォームから、ファインチューニング用のチャットまたはコンプリーションのJSONLデータセットを作成し、アップロードする前に、すべての行のエラーを確認します。
    4. 必要なら、「例を追加」で、行を追加します。
    5. 例の数、推定トークン数、エラー、警告の数を確認します。
    6. 「コピー」または「.jsonlをダウンロード」を押します。

    JSONLファイルを確認する方法

    1. 「JSONLファイルを確認」タブを開きます。
    2. 「.jsonlを開く」を押すか、「JSONLテキスト」に貼り付けます。
    3. 「期待する形式」を設定するか、「ファイルから判別」を選びます。
    4. レコードがいくつあり、いくつがエラーなしかを読みます。
    5. 問題の全一覧には、「レポートCSVをダウンロード」を押します。

    チャットとコンプリーションの形式

    チャットのデータセットは、1行に1つのJSONオブジェクトで、messagesのリストが入ります:任意のシステムメッセージ、そのあとユーザーとアシスタントのやり取りで、モデルに学習させたい回答で終わります。コンプリーションのデータセットは、各行にpromptとcompletionがあります。現在のほとんどのファインチューニングサービスは、チャット形式を期待し、一部の評価ツールや古いサービスは、promptとcompletionを使います。

    チェッカーが探すもの

    有効なJSONでない行、1つのオブジェクトでない行、messagesの欠落や空、不明なロール、空の内容、アシスタントの回答がない例、途中のシステムメッセージ、同じロールが2回続くもの、tool_call_idのないツールメッセージ、混在した形式、重複した行、空行。エラーは、通常、アップロードの失敗の原因になり、警告は、確認する価値はありますが、問題ない場合もあります。

    よいデータセットのコツ

    • モデルに真似させたいスタイルに、回答をぴったり合わせてください。
    • 例を一貫させてください。スタイルが混在すると、混在した振る舞いを教えてしまいます。
    • ファイルを作成する前に、重複とミスを削除してください。
    • あとでテストに使えるよう、別のサンプルのセットを取っておいてください。
    • 回答に現れてほしくない個人情報は、決して含めないでください。

    こんな方に

    学習用の例を準備する開発者や小さなチーム、スプレッドシートをJSONLに変換するアナリスト、クライアント向けにデータを納品するフリーランサー。コストを見積もるには、AIコスト見積もりを、回答をテストするには、AI回答スキーマチェックをお試しください。

    よくある質問

    CSVはどのような形式にすればよいですか?

    1行に1つの例で、プロンプトの列と回答の列、必要に応じてシステムメッセージの列を用意します。prompt、question、inputという名前の列と、completion、answer、outputという名前の列は自動で認識され、リストから選び直すこともできます。

    いくつの例が必要ですか?

    提供元は通常10件以上を求め、50〜数百件の明確で一貫した例があると、結果が改善する傾向があります。数より質が大切です。

    トークン数は正確ですか?

    いいえ、1トークンあたり約4文字に、各メッセージごとに数トークンを加えた見積もりです。コストの判断や、長すぎる例の発見には十分な精度です。

    非常に大きなファイルもチェックできますか?

    はい。数万行のファイルも一瞬でチェックできます。レポートには、画面上に最初の1,000件の問題が、CSVにはすべての問題が一覧表示されます。

    次はこちら

    作ったものを、そのまま端末上で続けましょう。

    Snowkitのその他