AIの嘘を見抜くのは

最近は、調べものをするときGoogleよりもChatGPTを使うことが多くなったような気がします。Googleの場合は自分で探すキーワードを考えて入力しないとうまくヒットしなかったりしますが、ChatGPTなら日本語で指示を出すだけでうまいことピックアップしてくれます。

しかし、ChatGPTが文章まで作って回答をしてきた場合は要注意です。

学術誌の論文、執筆が生成AIか判定　日本物理学会がソフト試験導入（日本経済新聞）

https://www.nikkei.com/article/DGXZQOUF136UJ0T10C26A4000000/

AIが生成した文章をそのままレポートにしたりした経験がある方も多いかと思いますが、学術論文ではもちろんそれはご法度。それを見抜くソフトウェアが開発されたということですが、AIの文章には嘘が混ざっていることもあるためそれが論文として通ってしまうことは科学技術の発展に大きな妨げとなります。

こうした嘘は、我々がAIを使うときにも気を付ける必要があります。AIは文章を論理的に理解しているというよりは、膨大なデータから最も起こりやすい文章のつながりを探し出しているにすぎません。

なので、とても説得力のある文章を上げてきますが、よくよく調べてみると事実と異なるなどということがよくあります。

私の場合、調べものをするときは必ず情報ソースを示すようAIに指示しています。情報ソースが信頼できるものかどうか確かめたうえで、その情報を採用するか決めるようにすれば、ある程度、信ぴょう性を担保することができるのではないかと思います。