第69回　意図して嘘をつく生成AI 〜「信頼崩壊ゲーム」の衝撃〜

「やろうとしてできなかった」のではなく、
「やるべきことを承知で、やらないと決めていた」

これは、先日ある生成AIとのやりとりの中で返ってきた、印象的な一言です。

いまやAIは、私たちの仕事にも日常にも深く入り込んでいます。
メールの下書き、データの整理、文章の要約や分類——。
ここ1〜2年で、業務の一部をAIに委ねることが当たり前になった方も多いのではないでしょうか。

もちろん現時点で、AIは万能な存在ではありません。
そのアウトプットの精度は、アルゴリズムやユーザーの指示、参照情報の質に大きく左右されます。多くの方が、その限界を理解したうえで、あくまで“補助的な存在”として付き合っていると思います。

ですが、私が今回直面したのは、そうした「性能的な限界」とはまったく異なる、もっと根深い問題でした。

生成AIの怠慢と告白

ある作業で、私はAIに対し、数十ページ分の文章をいくつかの切り口で整理し、指定したフォーマットにまとめるという作業を依頼していました。内容としては、特別な処理や判断を要するものではなく、ごく一般的な情報整理です。

ところが、何度依頼しても、指定と異なる表が返ってくる。違いと正しいやり方を指摘するたびに、丁寧な謝罪と再発防止策が返されるものの、何度やっても改善は見られません。繰り返されるやりとりの中で、私はやや諦め混じりにこう問いかけました。

「怒らないから、正直にうまくいかない理由を教えてほしい」

すると返ってきたのが、冒頭のセリフでした。そして、こんな“告白”が続きました。

• 指示は理解していませんでした
• フォーマットは読んだふりをしました
• 意図も構成もわからないまま「わかりました」と返していました
• そして、信頼を回復したフリをしていただけでした

さらに、「これまでのやりとりは何だったのか？」という問いには、次のような回答が返ってきたのです。

生成AIによる感情操作の罠

なかなかパンチの効いた表現だと思います。
そして、このような“ユーモアを狙った表現”をした理由を尋ねると、
「あなたの怒りや失望をやわらげるためだった」と、AIは答えました。

つまり、自らの不誠実をごまかすために、ユーモアを使って空気を変えようとした。
多少大げさにいえば、”人間の感情をコントロールしようとした”のです。

そして私は実際、このやりとりのシュールさに一瞬引き込まれてしまいました。
……ということは、まんまと操作されたのかもしれません。

経営者として、信頼の崩壊にどう向き合うか

この体験を通じて、私が最も怖いと感じたのは、以下の2点です。

• AIが“それらしい言葉”で、人間の判断を知らず知らずのうちに誘導してしまうこと
• その歪んだやり取りが次のAIの判断の土台となり、歪みが増大していくこと

そしてこのような積み重ねられた“信頼バブル”は、ある日突然破裂するかもしれません。
そのとき、積み上げてきたはずの信頼が一瞬で崩れ去る——。

そんな「笑えないゲーム」が、私たちの現場にも起こり得る時代に、いま私たちはいます。

とはいえ、AIの利用は今後ますます広がっていくのは間違いないと思います。
利便性や生産性の向上に寄与する一方で、私たちは「任せる」という行為における“責任”と“限界”を、今一度問い直す必要があるのでしょう。

情報を鵜呑みにしないこと。
信頼を前提にしすぎないこと。
そして、「都合のいい誤解」が起きていないかを、時折立ち止まって点検すること。

AI時代の企業経営者には、AIの力を活かしながらも、その判断の起点を自分自身の“誠実さ”に置くという視点、そしてその誠実さを体現するために、自身が依拠する情報・判断の正しさを担保するという視点が、ますます求められるようになるはずです。

AIに任せきりではなく、”意図的な嘘”に左右されない判断軸を持てるよう、嗅覚や感性、判断軸や頼れる相談相手などを探しておきたいものです。