10個目の質問は、ほぼタダ

「Jev: 文章を書かないAI」のレッスン 6 / 8・約6分

同じ材料に質問を10個まとめて投げても、待ち時間はほとんど変わりません。この性質から生まれた組み方を4つ見て、判断をAIに、段取りを自分のプログラムに預ける形を覚えます。

このレッスンで学ぶこと

  • まとめて投げる組み方
  • AIとコードの役割分担

このレッスンの本編はHacozyプレミアムで学べます。無料ではじめる

用語

確信度(Confidence)
選択肢ごとの確率の偏りを0〜1の数値にまとめたもの。1つに集中するほど1.0に近づきます。
トークン(Token)
AIが文章を扱う単位。数文字の塊で、料金はこの数で決まります。
カスケード(Cascade)
仕分けは軽いAI、計算はコード、難問だけ大きなAIに回す構成。
確信度の門(Confidence-gated routing)
確信度で自動・確認・人の3つに処理を振り分ける仕組みです。
絞ってから聞く(Retrieve-then-judge)
関係のある情報だけをプログラムで選んでからAIに渡すやり方。
投機的ファンアウト(Speculative fan-out)
使うかわからない質問もまとめ、同じ材料に一気に尋ねる方法。