「わかりません」と言えるAI
「Jev: 文章を書かないAI」のレッスン 4 / 8・約6分
AIに「どれくらい自信がありますか」と聞くと、たいてい自信満々の数字が返ってきます。Jevの確信度はそうなりません。どこまで信じてよく、どこから人に回すべきかの線を、自分で引けるようになります。
このレッスンで学ぶこと
- 確信度が表しているもの
- しきい値の決め方
このレッスンの本編はHacozyプレミアムで学べます。無料ではじめる
用語
- RLCD（Reinforcement Learning for Calibrated Decisions）
- 言った確率と実際の正解率が一致するようAIを鍛える手法。Jevの確信度が線引きに使える理由です。
- 確率（Probability）
- 確からしさを0〜1で表した数字。選択肢ごとに出力されます。
- 確信度（Confidence）
- 選択肢ごとの確率の偏りを0〜1の数値にまとめたもの。1つに集中するほど1.0に近づきます。
- しきい値（Threshold）
- 自動処理するか人に回すかを分ける境界線。