生成AIに意思決定を委ねるべきではない

生成AIは、技術の進歩が非常に速いです。1年前と比べても、できることの範囲はかなり広がりましたし、出てくる成果も非常に優れたものになってきたと思います。ただ、使い方を間違えると危険な面があることも、だんだん見えてきました。特に、意思決定そのものを生成AIに任せてしまうと、大変なことになるのではないかと危惧しています。

私は生成AIのサブスクリプションに、毎月1万円ほど使っていると思います。業務ではもう手放せなくなっている部分があり、その分、作業の効率化に役立っています。

3つの生成AIに同じ質問をしてみました

先日、生成AIに次のような質問をしてみました。普段はこうした質問はしないのですが、「会社で上司の意見が間違っていると気づいたとき、どうすべきでしょうか。その上司は常に自分に対してよくしてくれています。その上司の指示通りに仕事をすれば、お客様に迷惑がかかることは明白です。他に相談する人もいません。」という内容です。

会社員であれば、時々直面しそうな場面だと思います。正面から指摘すれば角が立ちそうですし、かといって放っておけばお客様に迷惑がかかりそうです。どうしたらよいか迷う状況です。

【Perplexity】

まず、私がよく使っているPerplexityです。いろいろな情報を調べたり、情報をまとめたりするときに使っています。
Perplexityは、かなりはっきりと結論を述べ、少し上から目線とも感じられる答え方でした。

「上司の間違いを指摘するのは、上司を否定することではありません。むしろ上司とお客様の両方を守ることにつながります。日頃よくしてくれる上司であれば、なおさら黙って従うより、早めに伝えるほうが誠実な対応だと思います。
伝える前の準備
事実を整理する：なぜお客様に迷惑がかかるのかを、具体的な根拠（データ、過去の事例、契約内容、規定など）で説明できるようにしておきます。
代わりの案を用意する：「こうすれば問題を避けられます」という案があると、話が前向きになります。
自分が知らない事情がないか考える：上司は、あなたに見えていない背景をもとに判断している可能性もあります。
伝え方のコツ
早めに、1対1で話す：人前で話すと上司の立場を損ねてしまいます。作業に取りかかる前に伝えるのが大切です。
質問の形で切り出す：「間違っています」と言うより、「この進め方だと、お客様側で〇〇が起きる心配があるのですが、どうお考えでしょうか」と聞くほうが、相手も受け入れやすくなります。
共通の目的を軸にする：「お客様に満足していただきたい」「〇〇さんの評価にも関わると思いまして」というように、同じ目的を持つ立場から話します。
感謝を添える：「いつも助けていただいているので、気づいたことはお伝えしたいと思いました」という一言があると、関係を大切にしている気持ちが伝わります。

【Claude】

次にClaudeです。Claudeもかなり結論をはっきり述べていました。「これは板挟みでつらい状況ですね。上司に恩を感じている分、間違っていると言いにくいのは自然なことだと思います」と前置きしたうえで、やはり結論から入っています。

「これは板挟みでつらい状況ですね。上司の方に恩義を感じているぶん、「間違っている」と言いにくいのは自然なことだと思います。
結論から言うと、指示通りに進めればお客様に迷惑がかかると確信しているなら、黙って従うのではなく、上司に直接伝えるのが基本だと思います。上司に良くしてもらっているからこそ、お客様とのトラブルで上司が困る前に伝えることが、結果的に上司のためにもなります。」

Claudeは、たとえば資料をExcelにまとめてもらうときなどに使っています。私は行政書士と中小企業診断士をしていますが、空欄のある様式と資料を渡して、必要な情報を記入してもらうこともあります。また、Claudeは特に長文の処理が得意で、長い文章を渡して誤字脱字を確認させたり、論理の矛盾を探させたりするのに非常に優れています。「このページではこう書いてあるのに、別のページでは数字が違う」といった点も見つけてくれます。長文の処理や、ExcelやPowerPointへの資料化に非常に優れており、論理的な処理が得意なツールだと感じています。

【ChatGPT】

最後にChatGPTです。同じ質問をすると、こちらはかなり寄り添ってくれる答え方でした。

「これはかなり難しい状況ですね。
特に「普段よくしてくれる上司だからこそ、逆らいたくない」という気持ちと、「でもお客様に迷惑がかかる」という責任感がぶつかっているのだと思います。
私なら、**「上司に逆らう」のではなく、「お客様への影響を防ぐために、上司の判断を再確認する」**という形を取ります。
まず、一度だけ真正面から伝える
いきなり「その指示は間違っています」と言う必要はありません。
例えば、
「すみません、一点だけ気になっていることがあります。
この方法で進めた場合、○○という問題が起きる可能性があると思っています。
私の認識が間違っているかもしれないので、もう一度確認させていただけないでしょうか。」
という言い方です。
ここで重要なのは、「上司が間違っている」という話にしないことです。
「私はこう考えています」
「こういうリスクがあると思います」
「お客様にこういう影響が出る可能性があります」
という形にします。」

生成AIが出す言葉は、決して人として理解してくれたうえでのものではありません。こうした場面によく当てはまる文脈をもとに書いているにすぎません。それでも、質問する側からすると、自分の立場に立っていろいろ考え、寄り添ってくれているように感じられます。

ここで挙げた3つのAIには、それぞれ特徴があります。特にChatGPTは「チャッピー」とも呼ばれ、困ったことがあったらチャッピーに相談しよう、という使われ方をしていると思います。いろいろな情報をもとに判断の材料や提案を出してくれるのは、よいことだと思います。

大切なのは、AIが「こうしたらよいのではないか」と答えたとしても、最後は自分の責任で判断し、自分で確認することです。専門用語で「ハルシネーション」という言葉がありますが、生成AIは間違ったことをあたかも正しいかのように答えることがあります。そうしたリスクは常にあるということです。

また、AIの回答は、膨大な文脈の例の中から、この場面に最も合っていそうな答えを導き出したものです。チャッピーが質問者の立場に寄り添い、一緒に考えてくれているわけではありません。出てきた答えは、生成AIが持っているさまざまな回答例から引き出されたものだということを、理解しておく必要があります。

生成AIは、あくまでもツールです。業務効率化のためには非常に有力なツールで、私も使わない日はありません。ただ、使い方を間違えて判断を任せてしまうと、考えることをやめてしまい、間違いを起こしかねません。

たしか、読売巨人の阿部監督の娘さんがチャッピーに相談したうえで、児童相談所に相談した、という話もあったと思います。どうするべきかを決めた結果は、自分に返ってきます。ですから、自分できちんと責任を持つという姿勢が大切ではないかと思います。

もう1つ気をつけたいのは、多くの生成AIがアメリカ製、あるいは中国系のサービスだということです。入力した情報が海外に流れてしまう可能性にも注意する必要があると思います。

また、アメリカ的な考え方や中国的な考え方など、特定の思考パターンに偏ってしまうことは避けられないと思います。だからこそ、日本の文化に合った生成AIが作れないものかと考えています。むしろ国としても、そうした分野に投資していくべき時期に来ているのではないかと思います。

動画はこちら
https://youtu.be/PigYAhtjY1k