Skip to main content

安全ガードレールを理解する

安全ガードレール(AI返信安全ガードレール)は、AIが返信を顧客に送る前に、その発言にリスクがないかを判断し、設定したルールに従って処理します。対象は「AIの回答内容自体が適切かどうか」です——ナレッジベースに答えがあっても、モデルが約束・越権・不適切な内容を返すことがあり、それを防ぐのがこのガードレールです。 ルールに該当した場合、AIに次の3つをさせられます:指定の文言で返信返信しない(沈黙)Leaderに通知。これらは独立しており、例えば「返信しない+Leaderへ通知」も可能です。

場所

左のナビゲーションで アシスタント設定 → 安全ガードレール をクリックします。

設定するタイミング

  • 「確認しました」「グループに追加しました」といった約束型の返信があり、実際には実行されていない場合。
  • 機密な約束、競合他社、違反、顧客が理解しにくい内容を含む返信を事前に止めたい場合。
  • 不確実・高リスクな場面でAIに沈黙させたい、またはLeaderへ人による対応を委ねたい場合。

判定方法の選び方

各ルールはまず判定方法を決めます。作成後は変更できないため、追加する前に検討してください。 キーワード判定は空白・改行を無視するため、余分な空白が入った返信も取りこぼしません(例:「已 建群」)。モデル意味判定は1つのコミュニケーションウィンドウにつき1件のみです。複数の場面はその1件にまとめてください。

ガードレールルールを追加する

1

コミュニケーションウィンドウを選択

このガードレールを適用するAIアシスタントのウィンドウを選びます。
2

ルールを追加

「ルールを追加」をクリックし、判定方法(キーワード完全一致/モデル意味判定)を決めます。
3

発動条件を設定

キーワード:止めたい文字・語句を1つずつ入力し、Enterで追加します。モデル:高リスクな場面の判定条件を明記します。
4

応答アクションを設定

「返信」または「返信しない」を選びます。返信する場合は、顧客に送る返信内容を入力し、画像・ファイルを挿入できます。
5

Leader通知を設定

ルールに該当した際にLeaderへ通知するかどうか。通知は応答アクションと独立しています。
6

ルールを保存

各ルールは個別に保存され、保存後すぐに有効になります。

ルール項目

ルールの適用方法

  • 各ルールは個別に編集・保存され、最初に該当した時点で以降の照合を停止します(先勝ち)。
  • ルール未設定の場合は何も阻止しません。ルールを追加して初めて発動します。

明細レビューで確認

データダッシュボードの明細レビューでは、各メッセージの「メッセージ処理チェーン」に安全ガードレールのステップ結果(通過/ルールでブロック)が表示され、ルールが有効か・何に該当したかを確認できます。
安全ガードレールは実際の顧客会話に直接影響します。本番で使う前に、テストチャットやテストグループでルールの発動を確認してください。