トークン

カテゴリ: 技術実装

テキストを処理する際の最小単位。LLMでは、単語や文字をトークンに分割して処理する。日本語の場合、1トークンは約2~3文字に相当する。APIの利用料金はトークン数に基づいて計算されることが多く、コスト管理において重要な概念。入力トークンと出力トークンで料金が異なる場合もある。

関連キーワード

トークン