👤
AIに何かを質問した時の回答のブレって許容するしかないですか?例えば「最高の映画100本教えて」と聞いたときに、1回目に聞いた時と直後に聞いた2回目だとけっこう内容が違っていて、ちょっと気持ち悪い感じがしちゃうんです・・・
そのまま使うとブレますよね どうしても
API経由でChatGPTを使う場合とかは、TemperatureとかTop-pといったパラメータを設定することで、ある程度、一貫性を持たせることもできます
ーーー
AIのtemperature(温度)とTop-Pは、AIがテキストを生成する際の「ランダム性」や「創造性」をコントロールするパラメータです。
■Temperature(温度)
- 0に近い:より予測可能で一貫性のある回答。最も確率の高い単語を選ぶ傾向
- 1.0付近:バランスの取れた創造性と一貫性
- 高い値(1.5以上):より創造的でランダムな回答。予想外の単語選択が増える
例えば「今日の天気は」の続き:
- 低温度→「晴れです」(最も一般的)
- 高温度→「虹色の雲が踊っています」(創造的だが不自然)
■Top-P(nucleus sampling)
確率の累積が指定した閾値(例:0.9)に達するまでの単語候補のみを考慮する方法です。
- 0.1:最も確率の高い少数の単語のみ使用(保守的)
- 0.9:幅広い単語候補から選択(多様性がある)
- 1.0:すべての可能な単語を考慮
コメントするにはログインが必要です。