JevCode / はじめに

Jevについて知る

Jev は TypeSafe のフラッグシップモデルであり、最初の System One モデルです。非構造化状態と型付きクエリを、ソフトウェアが直接使用できる型付きの意思決定に変換します。

本文はzh-CNからの機械翻訳です。校正は未実施で、参考情報としてのみご利用ください。

ソース: docs.typesafe.ai/introductionoverviewsystem-one
Overview of the three-layer Jev architecture

一言で理解する

Jev はチャットモデルではありません。Jev に状態(state)と型付きの質問(typed questions)を入力すると、型付きの判断(typed decisions)——選択肢、スコア、または確率としてのブール値——を信頼度(confidence)付きで返します。

この位置づけが、Jev と対話型モデルとの根本的な違いを決定します。

次元 対話型モデル Jev
出力 自由形式のテキスト 固定スキーマの構造化結果
用途 生成、対話、推論チェーン 分類、ルーティング、スコアリング、検証、ガードレール
統合方法 モデルの出力をパースする 戻り値を直接消費し、正規表現によるパースは不要
信頼度 通常は存在しない 各回答に付随する
レイテンシ 秒単位、出力長に比例して増加 低く、安定している

「判断層」が必要な理由

LLM をビジネスシステムに統合する際、最も一般的な課題は、モデルが自然言語で出力するため、パース処理を実装し、境界ケースを処理し、モデルの意図を推測しなければならない点です。Jev はこの層を抽象化します——質問自体が出力タイプを宣言しており、モデルはスキーマに従って回答する必要があります。

{
  "department": {
    "type": "choice",
    "instructions": "Which team should handle this",
    "criteria": {
      "billing": "Payment or subscription issues",
      "technical": "Bugs or integration problems",
      "sales": "Pricing or account questions"
    }
  }
}

戻り値は billing / technical / sales のいずれか、および信頼度になります。パース処理は不要で、フォールバック形式も必要ありません。

3つの質問プリミティブ

すべての判断は3種類の質問に帰着します。これらは Jev の中核的な抽象化であり、これらを理解することがシステム全体を理解することにつながります。

  • Choice — 排他的な候補群から1つを選択します。意図認識、チケットのルーティング、アクションの選択に使用します。
  • Score — 尺度や評価基準に基づいてスコアリングします。関連性のソート、品質評価、リスク分级に使用します。
  • Noul — はい/いいえの質問に回答し、「はい」である確率を返します。コンテンツ検証、アサーションのチェック、ガードレールに使用します。

1つのリクエスト内でこれら3種類の質問を混在させることができます。モデルは状態を1回だけ読み取り、すべての質問を並列で評価します。

System One の位置づけ

System One は、「ソフトウェアが直接使用できる高速な構造化判断」を行うために構築されたモデルの一種です。Jev はこのカテゴリの最初のモデルです。System One は System Two 型の推論モデルと置き換わる関係ではなく、役割分担の関係にあります。

  • System One:高頻度、低レイテンシ、構造化された判断。ビジネスパイプラインにおける if/else のアップグレード版です。
  • System Two:多段階の推論や長い思考チェーンを必要とする複雑なタスク。

実際の運用では、パイプライン内で System One を多用して高速な分流を行い、本当に深い推論が必要な場合のみより強力なモデルにアップグレードすることで、コストとレイテンシを抑制します。

次のステップ