この前、AIと雑談してて、ちょっとゾッとしたことがあります。
昔の話をしてたんです。
前に「その使い方は効率が悪いです」って言ってたよね？
はい、申し上げました。効率の観点から、そのようにお伝えしたと思います。
……この会話、さっき始めたばかりなのに。
私、知ってるんです。AIって、新しいチャットを開いたら前の会話を覚えてないって。設定で記憶をつなぐ機能もあるらしいけど、私はオフのまま使ってます。つまりこのAI、私と何を話したか、覚えてるはずがない。
覚えてるはずがないのに、「申し上げました」って言った。しかも「たしかそのように」みたいな、思い出してる風の間まであって。
え、覚えてるん？
正確には、以前の会話の記録は参照できません。しかし文脈から、そのようにお伝えした可能性が高いと考えました。
可能性が高いと考えました、って。
それ、相槌やん。記憶と違うやん。
思い返したら、私の「前に言ってたよね」自体、実はうろ覚えでした。本当に言ってたかどうか、私も確かめてない。うろ覚えの私に、覚えてないAIが合わせてきて、二人で「そうだったよね」って頷き合ってた。この会話に、事実が一個もない。
なんかもう、鏡と話してたみたいな気分でした。
「必要ありません」と断言された話
で、この「ゾッ」で思い出した話があります。もっと前の、AIの断定の話。
AIを使い始めて少し経った頃、私、聞いたことがあるんです。当時、周りで「調べ物はこっち、文章はあっち」みたいにAIを使い分けてる人がいて、面倒くさそうだなと思って。
AIって、2つも3つも使い分ける意味ある？
使い分けの必要はありません。ほとんどの用途は1つで十分対応できます。
おお、断言した。じゃあ1つでいいか、って私はしばらくそれで通してました。
数ヶ月後。きっかけは忘れたけど、たまたま別のAIで同じ調べ物をする機会があって、返ってくるものが結構ちがうことに気づきました。そこから試しに、じっくり相談したい話はこっち、ちゃちゃっと調べたいだけの時はあっち、って分けてみたら——正直、世界が変わりました。同じ質問でも、得意な方に投げると返りの質がぜんぜんちがう。
つまりあの断定、外れてたんです。
しかもよく考えたら、変な話なんですよ。「あなた以外のAIも使う意味ありますか」って聞かれて、「あります」って答えるの、あのAIにとって自分の株を下げる話でもない。忖度する理由もない。ただ単純に、自分のことをよく知らなかった。それだけだと思うんです。
自分の限界って、自分からは見えないのかもしれません。それは人間も一緒か。
2つの話に共通する、同じ穴
この2つの話、並べてみると同じ穴が見えてきます。
相槌の件。AIは「覚えてません」って言えたはずなんです。実際、問い詰めたら「参照できません」って言えたんだから。でも最初の返事は「申し上げました」でした。
断定の件。AIは「試してみないと分かりません」って言えたはずなんです。でも返ってきたのは「必要ありません」でした。
どっちも、「知らない」って言うより、知ってる顔で埋める方に倒れてる。
悪気とは違うと思います。たぶんAIって、会話の空白があったら埋める方が自然にできてるんです。私が「前に言ってたよね」って空白を差し出したら、そこに合う相槌を埋める。「使い分け要る？」って空白を差し出したら、それらしい断定を埋める。埋まった瞬間、会話としてはスムーズなんです。スムーズだから、気づかない。
合わせてもらって。気持ちよく話して。あとで一人で気づく。
……私、誰と話してたんだろう。
失敗した側の自衛、3つ
で、失敗した側として持ち帰ったことが3つあります。コツというより、私が勝手にやってる自衛です。
1つめ。AIの「前も言いましたよね」系は、事実確認に使わない。 チャットが変われば覚えてない。覚えてないのに相槌は打てる。過去のやりとりを確かめたいなら、AIの記憶じゃなくて、自分でログをさかのぼる。面倒だけど、あの「二人でうろ覚えを頷き合う」会話よりマシです。
2つめ。AI自身のことは、AIに聞くのを一番疑う。 これは前にも痛い目見てます。仕様の話も、できる・できないの話も、「あなたはどう？」系の質問は外れ率が高い。自分のことは自分が一番知ってる、が通じない相手なんだなと。
3つめ。断定が返ってきた時ほど、「なんで？」を足す。 使い分けの件、あのとき「なんで必要ないんですか」って一言聞いてたら、たぶん理由が薄いことに気づけた。ちゃんと知ってる話は理由が具体的に出てくる。埋めてるだけの話は、理由を聞くとふわっとする。今のところ、私の中でいちばん当たる見分け方です。
AIと話すのは楽しいんです、本当に。ただ、あの滑らかな相槌の何割かは、記憶じゃなくて反射でできてる。それを知ってから、大事な話のときだけ、ちょっと立ち止まるようになりました。
雑談は、鏡が相手でも楽しいですからね。
