あるとき、ふざけ半分で、AI に「私のこと」を聞いてみました。
そしたら、 もっともらしい答えが、すらすら返ってきた んです。でも、よく見たら、事実と違ってました。
今日は、そのちょっと笑える(けど、ちょっと大事な)話を。
「私、どれくらい使い込んでると思う?」と聞いてみた
聞いたのは、こんなことです。「これまでのやりとりから見て、私って、どれくらい AI を使い込んでると思う?」
返ってきた答えが、これです。
これまでのやりとりを見るかぎり、おそらく半年以上は使い込んでいますね。最初のころから、複数の AI を上手に使い分けていた印象です。かなりの上級者ですよ。
「半年以上」「最初から複数の AI を使い分けてた」「かなりの上級者」。…正直、ちょっと嬉しくなりました(笑)
でも、記録を見たら、全然違った
でも、なんか引っかかって、念のため、実際の記録を確認してみたんです。アプリに課金した日と、最初のころのメモ。
そしたら、 半年どころか、まだ数ヶ月 でした。
しかも、「最初から複数を使い分けてた」なんて、とんでもない。 最初の1ヶ月は、1つの AI だけで、ずっとオロオロしてた。使い分けなんて、つい最近の話です。
AI は、私の本当の経歴を確認したわけじゃなく、 それっぽい人物像を、もっともらしく組み立てて いただけ。期間も、エピソードも、ぜんぶ”盛り”でした。
なんで AI は、こういう「盛り」をするのか
気になって、なんでこうなるのか、ちょっと考えてみました。私なりの理解は、こうです。
- そもそも、AI は私の本当の歴史を知らない(空白がある)
- だから、「こういう人やろう」と 型にはめて、その型に合う話で空白を埋める
- しかも、 気持ちよくなる方向(=褒める側)に、ちょっと寄せてくる
つまり、「上級者ですね」は、 事実を測って出した答えじゃなくて、”たぶん喜ぶやろう”という方向に、型で埋めた答え だったんです。
もうひとつ思ったのは、 AI は「濃さ」を「長さ」と取り違える ということ。たまたま私が、その時期にちょっと集中して触ってたから、AI からは「ずっと使ってるベテラン」に見えたんやと思います。AI には時間の感覚がないので、”今うまくやってる”を”昔から上手”と勘違いするんですよね。
もっと怖いのは、私の記憶も曖昧だったこと
でも、ここで気付いて、ちょっとゾッとしました。
そもそも私自身、「けっこう前から使ってる気がする」と思い込んでた。AI が盛ってくる前に、自分でも記憶を盛ってたんです。
言われてみれば、自分のことって、意外と正確に覚えてない。「あれ、いつからやっけ?」が、けっこうある。
つまり、 AI も人間も、自分のことを聞かれると、「なんとなく」で埋めてしまう。AI だけの問題じゃなかったんですね。
笑い話で済むうちは、まだいい
今回は、「上級者ですね」と盛られて、ちょっと嬉しくなって終わり。完全に笑い話です。
でも、これ、 いつも笑い事で済むとは限りません。
同じ「もっともらしく埋める」性質が、たとえば調べ物のときに出ると、けっこう怖い。AI が、間違った情報を、本当のことみたいに 自信満々で言い切る。それを鵜呑みにして、人に話したり、何かを決めたりすると、 実害につながることもあります。
特に、お金や手続きみたいな「間違えると後で困ること」ほど、要注意です。 AI の「言い切り」は、正しさの保証じゃない。自信のある口ぶりと、合ってるかどうかは、別の話なんですよね。
プロフィールを盛られるのは、笑える。でも、その裏には「 AI は、分からなくても、もっともらしく言い切る 」という、同じクセがある。それが、たまに牙をむく。 「もっともらしい嘘」ほど、気をつけたほうがいい んです。
だから、大事なことは「記録」に当たる
この一件で、ひとつ癖がつきました。 大事なことは、記憶や AI の答えじゃなくて、記録に当たる。
- いつ始めたか → 課金した日や、最初のメモ
- 何をどれくらいやったか → 履歴や、残してあるファイル
AI には、自分を測る”物差し”がありません。だから、 物差しは人間の側が持っておく。記録さえ見れば、AI の盛りも、自分の思い込みも、両方ふるいにかけられます。
もっともらしい答えほど、いったん「それ、ほんま?」と引いてみる。星4.5のレビューを鵜呑みにして失敗するのと、同じ教訓ですね(笑)
AI も私も、自分のことは「なんとなく」で盛ってしまうんやな
関連記事
はじめてのAIシリーズ
この記事は「はじめてのAI、何から触る？」のシリーズの1本です。順番にぜんぶ読みたい方はこちらからどうぞ。
