こんにちは、HOMELY制作チームです。先月から、HOMELYではお客様のサイトでエラーが出たときの対応の一部をAIに任せています。エラーを検知すると、AIがサーバーに入って原因を調べ、決められた範囲なら修正まで行う仕組みです。
この話をすると、「うちも問い合わせ対応をAIに任せたい」と言われることが増えました。AIの自動化を売る側としては「ぜひ」と言うべき場面です。でも最初にお伝えしているのは、「任せる前に、2本の線を引いてください」です。HOMELY自身、線を引かずに始める勇気はありませんでした。
今回は、問い合わせ対応をAIに任せる前に決めておくべき2本の線と、それをHOMELYが自社の自動化でどう引いたかを、そのまま書きます。
1. 「AIに任せれば24時間対応できる」の半分正しいところ
通説：問い合わせはAIに任せれば、夜中でも即答できる
営業時間外の問い合わせに、AIが即座に返す。担当者が休みでも止まらない。この通説は正しいです。営業時間や料金、予約方法のような「答えが決まっている質問」は、AIのほうが人より速く、しかも夜中でも返せる。問い合わせの大半はこの種類なので、任せる価値は確実にあります。
でも、「答えが決まっていない質問」が混ざったときに、何が起きるかを決めていない
ここからが本題です。
問い合わせには、答えが決まっているものと、決まっていないものが混ざって届きます。「返金してほしい」「先週の対応に納得がいかない」「この症状は御社の製品で対応できるか」。AIはこれらにも、何かしら答えてしまいます。それらしく、丁寧に、しかし決めていないことを。
問題はAIの精度ではありません。AIが答えてよい範囲と、人に回す条件を、導入前に誰も決めていないことです。決めていなければ、AIは全部に答えます。それが事故になります。
2. 1935年、飛行機は「操縦士1人には複雑すぎる」と言われた
少し歴史の話をします。
1935年10月、アメリカ陸軍の試験飛行で、ボーイングの新型爆撃機（後にB-17と呼ばれる機体）が離陸直後に墜落しました。原因は機体の故障ではなく、操縦士が離陸前に解除すべき装置のロックを外し忘れたことでした。当時の新聞は「1人の人間が飛ばすには複雑すぎる飛行機」と書いた。
でも陸軍が出した結論は「飛行機を簡単にする」でも「優秀な操縦士を探す」でもなく、チェックリストを作ることでした。離陸前、飛行中、着陸前に確認する項目を紙に書き、必ず順番に確認する。この単純な仕組みで、同型機はその後、事故なく大量に飛びました。
そしていまの飛行機には自動操縦があります。ただし自動操縦が担当するのは主に「巡航」で、離陸と着陸は人が行います。巡航は条件が安定していて、手順が決まっている。離着陸は状況が毎回違い、判断が要る。どこまでを機械に任せ、どこから人が握るかが、最初から線として決まっている。
私たちはAIに任せる範囲を「巡航」と「離着陸」と呼び分けています。
3. HOMELYが自社の自動化で引いた2本の線
考え方だけでは信用されないと思うので、HOMELYが実際に引いた線を書きます。対象は問い合わせ対応ではなく、お客様のサイトのエラー対応ですが、構造は同じです。
1本目の線：AIが単独でやってよいこと（巡航）
エラーの原因調査は、全てAIに任せています。どのファイルの何行目が、どの更新のあとで壊れたか。これは答えが決まっている問いです。
修正も、範囲を限って任せています。プラグインやテーマの更新、設定値の是正、そして数行で済む防御的な修正（値が無いときに落ちる箇所にガードを入れる、といった類）。ここまでが巡航です。
2本目の線：必ず人に回すこと（離着陸）
WordPress本体のファイルを書き換える修正、本体のメジャー更新、そして原因が特定できなかった場合。この3つは、AIは修正案を書くところまでで止まり、人が判断します。
「原因が特定できない」を人に回す条件に入れたのがポイントです。AIは分からないときも、それらしい修正を提案してきます。分からないことを「分からない」として人に渡す線が無いと、それらしい修正がそのまま適用されます。
線の外側にある「チェックリスト」
2本の線に加えて、巡航中でも必ず通す確認手順を決めています。修正前にバックアップを取る。修正後に構文の検査を通す。ページが200を返すことを確認する。修正前後で本文の長さとタイトルを比べて、白い画面になっていないかを見る。エラーが実際に消えたかを確認する。1つでも落ちたら、修正を戻して「失敗」として人に報告する。
これが1935年のチェックリストにあたります。AIが賢いかどうかとは無関係に、順番に確認するだけの仕組みです。
4. 問い合わせ対応に置き換えると
上の線引きを、問い合わせ対応にそのまま移すとこうなります。
| 巡航（AIが単独で返す） | 離着陸（人に回す） | |
|---|---|---|
| 質問の種類 | 営業時間、料金表にある料金、所在地、予約方法、よくある質問に載っている内容 | 返金・解約・キャンセル、クレームや不満、健康・法律・契約に関わる判断、料金表に無い見積 |
| AIの状態 | 根拠となるページや資料が社内にある | 根拠が無い、または回答の確信が低い |
| チェックリスト | 回答に根拠の出典を付ける／送信前に禁止語（「保証します」「必ず」など）を検査する／全件をログに残し、翌営業日に人が抜き取りで読む | 「担当者から改めてご連絡します」とだけ返し、人に通知する |
大事なのは右の列です。AIに「分からないときは分からないと言って人に渡す」線を与える。これが無いと、AIは返金の可否にも健康相談にも、それらしく答えます。
5. 正直に：線を引いても、最初は失敗する
HOMELYの自動化も、線を引いた上で運用を始めていますが、線の位置が最初から正しかったわけではありません。「これは巡航でよかった」「これは人に回すべきだった」という発見は運用してから出てきます。線は一度引いて終わりではなく、月に一度、ログを見て引き直すものです。
だから最初の線は、狭めに引くことをお勧めします。AIが単独で返す範囲を営業時間と料金だけに絞り、それ以外は全部人に回す。1か月運用して、人に回ったもののうち「これはAIで良かった」を巡航側に移す。広げるのは簡単で、狭めるのは事故の後になります。
6. HOMELYならどうするか
もしHOMELYがあなたの会社の担当者なら、ツールを選ぶ前に、A4を1枚用意します。
- 先月の問い合わせを20件、種類ごとに分ける
- 「答えが社内の資料に書いてある」ものに印をつける。それが巡航の候補
- 「返金・不満・判断が要る」ものに別の印をつける。それは最初から離着陸
- 巡航側の回答を送る前に必ず通す確認を3つ決める（出典を付ける、禁止語を検査する、翌日に人が読む）
この紙が、AIに渡す仕様書になります。ツールはその後で選んで構いません。
離陸と着陸は、人がやってください。巡航は、任せて大丈夫です。
あなたの会社の問い合わせを、巡航と離着陸に分けます。
直近の問い合わせを拝見して、AIに任せてよい範囲と、必ず人に回す条件、送信前の確認手順をまとめてお渡しします。→ お問い合わせ
