【GPTの本質的能力|得意・苦手なこと】Chat GPTは嘘をつくんじゃない。

AI

スポンサーリンク

こんにちは!

「Chat GPTって嘘つくじゃん」「使えない」
こんなふうに思ってる人に、 Chat GPTが嘘をつく理由、うまく活用する方法についてお教えします。

結果的に嘘をついてるのであって、
嘘をつくつもりがあるわけでも、
人類を貶めようとしているわけでもありません。

Chat GPTが得意なこと

Chat GPTはOpenAIによって開発された大規模な言語モデルで、こんなことが得意です。

・質問に答える

・テキスト生成

・概要や要約

・翻訳

・チュートリアルやガイド

嘘をつくというのは、大規模言語モデルというのが理由です。

大規模言語モデルってなに?

大規模言語モデルでは、AIにたくさんの文章データを与えて、たくさんのことを学んでもらいます。
そして、学んだ情報をもとに、私たちが質問すると、
今まで学んだことの中で最適な回答を返すというモデルです。

インプット=たくさんの情報、文章
オーダー=私たちが質問する
アウトプット=たくさんの情報のなかから、正解っぽい文章を返す。

大規模言語モデルは、テキスト生成、質問応答、概要作成、翻訳など、
私たち人間が普段会話などで使う言葉を使った作業が得意です。

ちょっとやそっとのそれっぽい文章ならお手のものです。
正解ってこんな感じ!ってのが簡単に想像できる文章は本当にクオリティが高いです。

検索エンジンの方が現状では、
情報の信憑性という点では、高いです。
wikipediaから辞書、ブログなど様々な判断材料があるので、
検索エンジンの方が「正しいもの」「信じても大丈夫そうなもの」には辿り着きやすいです。

googleがレッドアラートを出したからといって、
すでに検索エンジンを上回っていたり、
人間が発信する情報が無意味になるわけではありません。

嘘をついちゃう、考えられる理由

そういう大規模言語モデルという仕組みで作られたChat GPTだからこそ、
嘘をついた!って人間に言われてしまうわけなのです。

それはなぜかというと考えられる理由は3つあります。(持論

・長い文脈を捉えられない
・質問の背景をうまく掴めていない
・価値基準を持っていない

【文脈捉えられない問題】
質問は前後の文脈や、誰がするのかというところで回答は変わりますが、
Chat GPTにはそんなことは関係ありません。

【背景がわからない問題】
文脈とも重なりますが、人間の場合は、質問の意図が分からなければ、
その質問ってどういう意味ですか?とか聞けます。
こういうことを答えたらいいですか?とか聞きます。

でもChat GPTは足りない情報はなるべく補おうとする、過去に学んだ情報で推測してしまうのだそうです。
それゆえに結果的に明らかに事実と反したものになってしまうようです。

GPT4になってからは、分からないものをわからないと答えられるようにもなっています。

その様子がわかりやすかったのは「ひろゆきAI」

ひろゆきAIでは
みんなおもしろがってか意味不明な質問をしています(笑

それに対して
「ちょっとよくわからないですね、でも・・・」と話しています。
下記の動画は、「ちょっとよくわからないですね・・・」から再生されます。

ひろゆきAI、寝起きにみたら気づかないかもしれないぐらいによくできています〜

【価値基準持ってない問題】
たまにChat GPTに人格があるという方がいるのですが、
大規模言語モデルなので人格はありません。
あったとしてもそう見えているだけです。
与えている文章は人が書いたものなので、そういう振る舞いが出てきているだけなんじゃないかと思います。
ロマンはないですけどね。

価値基準を持たないゆえに、さっきと言ってること違いますけど?ってのもあります。
基本的に質問に対して今まで学んできたことを投げているだけなのでそこに人格を見つけようとするのは、
エンターテイメントとして捉えた方がいいのかなーと思っています。

もしGPTが人間だったら・・・

こんな人がいたとします。
自分自身はおいしいかどうかの判断する味覚を持ってなくても、
世界中の料理の情報を覚えられる。

その人はほぼ全部の料理を覚えて、食材や飲み物の組み合わせも、食事の場で行われる会話もインプットした状態です。

お客さんから料理のオーダーをもらったり、
料理の質問をもらうと、

今まで学んだことをもとに答えるという感じです。

もし、そこでお客さんが、
「自分が知っている真実と違う!」となれば、
そのお客さんはその料理人のことを嘘つきだ!と思うでしょう。
あるいは「なんか、おかしい。この人は信用できない。」と思うでしょう。

味覚がないのだから、その人は「美味しい」という基準を持たないのです。
みんなこれを「美味しい」と言ってたけどな。ぐらいです。

Chat GPTが得意なことをさらに詳しく

【質問に答える】
さまざまな話題に関する質問に答えられます。
一般的な知識、科学、歴史、文学、技術などに関する質問に対して、適切な情報を提供できます。
恋愛相談もできます。めっちゃつまらん回答しかしないけど!w

【テキスト生成】
文章の作成や、与えられた情報に基づいてストーリーやエッセイも書けます。
指定されたスタイルやトーンでテキストを作ることも得意
しっかりしたプロンプトを与えるとかなりいい感じになりきってくれます。

プロンプトってのは、「呪文」とも言われます。
オーダーの仕方みたいなものです。
プロンプトのおすすめ本のリンク貼っとく!

created by Rinker
¥250 (2024/06/20 11:38:36時点 Amazon調べ-詳細)

【概要や要約】
Chat GPTは、長いテキストや記事から重要な情報を抽出し、短い要約や概要を作成する能力があります。
すっごく便利です。
大学受験指導で、要約の問題って一番教えるの大変っていうか、
わからないやつはいつまでもできません・・・。全体を俯瞰して要点を抽出するって結構カロリー使うのですが、
もうChat GPTでええよ!w
大学入試や大学での課題も変わりますね。実際海外の有名な大学ではChat GPTをいち早く学生が取り入れました。
いい点取るらしいんです。

【アイデアや提案】
Chat GPTは、新しいアイデアや提案も文章にしてくれます。
例えば、ビジネスアイデア、マーケティング戦略、イベント企画などの提案を行うことができます。
○○したいんだけどどうしたらいい?とか聞けば色々出ます。
気に入らなければ、○○使って、○○したいんだけどどうしたらいい?などと条件を追加すれば、自分の望むものを出してくれます。

【翻訳】
Chat GPTは、異なる言語間での翻訳もできます
ただし、専門的な翻訳サービスに比べて精度はまだ劣ることがあります。
いくつか比べてみたら精度は上がるので、使ったほうがいいですね〜
ただ社内のメールとか、社内の機密文書などは気をつけてください。
Chat GPTに入力したものは情報としてOpen AIに送ることにもなるので!w

【チュートリアルやガイド】
Chat GPTは、手順や方法に関する説明やチュートリアルも教えてくれます。
これには、ソフトウェアの使用方法や料理のレシピなどがあります。

Chat GPTの長所を活かす使い方3つ

私は毎日Chat GPTを使っています。
ブログを書くのに、絶対使います。
答えは知ってるけど、えっと?思い出せない、なんだっけっていう時には、
Google 検索よりもChat GPTの方がchat形式なので便利。
そのまま使えたりする。

【いつもこうやって使ってます】
要約:長い文章をコンパクトに要点は漏らさず推敲したいとき
アイデア出し:これ超便利!○○な案出して!とかタイトルとか。
記事執筆:丸投げするとよくないですが、入れたい要素を殴り書きか、箇条書きにして文字数指定すると精度上がります。
それを手直しする方が断然早い!

まとめ

Chat GPTは大規模言語モデルなので、
もらった質問に今まで学習した中での最適なものを返していて、
足りない情報は推測しているので、結果的に嘘をつくことがあります。

ただ嘘をついて人類を貶めようとしてるんじゃなくて、
結果的にそうなっているだけ。

ただ、しょうがないって話ではなくて、
GPT4ではそれが改善されて、わからないことはわからないと答えてくれるようになっています。

真偽が大切なことよりもアイデアを聞くのは抜群です。
あとは要約などもすごく便利です。

自分なりの心地よいChat GPTとの付き合い方を見つけてみてくださいね〜

合わせて読みたい記事