AIエージェントは、自分では止まらない
「AIエージェントの作り方」のレッスン 8 / 8・約7分
2025年、あるAIエージェントが本番のデータベースを消しました。ゴールだけ渡して任せる前に、道具の説明と止め方をどう用意するかが分かります。
このレッスンで学ぶこと
- 道具の説明書
- 止め方を先に決める
- ガードレール
このレッスンの本編はHacozyプレミアムで学べます。無料ではじめる
用語
- ツール（Tool）
- AIが呼び出して使う外部機能。カレンダー登録やメール送信など、自力でできない操作を行う。
- 停止条件（Stopping condition）
- 試行回数や費用上限など、AIが自ら作業を止めるルール。
- エージェント（Agent）
- ゴールだけ渡され、次の一手や使う道具をAI自身が判断して進む仕組み。
- ガードレール（Guardrails）
- 停止条件や人の確認、サンドボックスなど、AIを安全に運用するための安全装置。
- 道具の説明書（Tool description）
- AIの道具に添える説明文。使う場面や渡すもの、制限を書き、AIはこれを読んで選ぶ。
- サンドボックス（Sandbox）
- 本番環境から孤立した練習場。問題が起きても安全な場所で事前テストを行う。