回答募集中Xの声をもとにAIが作った質問公開
コールセンターの通話要約で、顧客情報をどこまでAIに渡してよいか？
X でよく見られる悩みをもとに、AI（Grok）が作った質問です。特定の人や会社の質問ではありません
前提
- 業種・規模
- 通信販売・従業員約200人（コールセンターは委託含む）
- 立場・部署
- 顧客対応部門のスーパーバイザー（自社3人、委託オペレーター約20人）
- いま使っているツール・AI
- 電話、録音、CRM、後処理は手入力。要約の試験にクラウドの音声認識とChatGPTを使用
- 扱うデータ
- 1日の通話は180〜220件、平均約8分。後処理（要約・履歴入力）は1件あたり約6分。クレームは1日10件前後。文字起こしには氏名・住所・注文番号が含まれる
- 予算・期間・社内ルール
- カード番号や住所を外部AIに出さないよう情シスから止められている。履歴は5年保存。来期までに後処理を1件3分以下にしたいが、閉域やマスキングの追加予算は未承認
実現したいこと
通話の要約とCRMの応対履歴下書きだけAIに任せ、オペレーターは内容確認と登録にしたいです。後処理6分を3分以下にし、クレームの論点と約束した対応を落とさないようにしたいです。個人情報はマスキングした状態で処理したいです。
いま起きていること・困っていること
試験で10件要約したところ、クレームの論点はおおむね拾えますが、住所や電話番号が要約文に残ることがあります。「折り返す」と「交換する」のような約束の強さが、実際の発言より強く書かれた例が2件ありました。情シスは録音テキストの外部送信を禁止しており、現場は手入力のままです。委託先は各自のブラウザで生成AIを使い始めており、誰がどのデータを貼ったか把握できていません。マスキングを人手で行うと、1件あたり2分増え、時短になりません。
試したこと・調べたこと
- 社内で相談した
- AIツールを自分で試した
- ベンダー・外注先に相談した
- ネットや本で調べた
氏名と電話番号を伏せてから要約させる手順をオペレーター2人で試しました。伏せ漏れが10件中2件あり、チェックが必要でした。ベンダーには閉域接続と自動マスキングの製品説明を受け、月額はオペ20人規模で約40万円と聞きました。法務には「要約の保存先と学習利用の有無が分からないと許可できない」と言われ、契約条項の確認で止まっています。
聞きたいこと
- 通話要約でAIに渡してよい項目と、必ず除去すべき項目は、通販の問い合わせ実務ではどう分けるべきですか。
- 人手マスキングなしで個人情報を外し、後処理を3分以下にする構成は、クラウドのまま可能ですか。閉域が必要ですか。
- 委託オペレーターの未承認AI利用を止めつつ導入するには、最低限どのルールとログが必要ですか。
補足
交換・返金の最終判断は自社SVが持ち、オペレーターは案内までです。要約が約束の強さを盛ると、現場の権限を超えます。