ChatGPTが書くコードは正確ですか？
プログラミングやっててエラーに差し掛かったとき、ChatGPTに質問してます。 私は今プログラミングで基礎的な部分を勉強しているので、私が書くソースコードは比較的シンプルです。今まではエラーが出るたびにネットや参考書で調べたり、それでもわからなかった場合はQiitaやteratailなどの質問サイトで回答を待っていたりしていたのですが、ChatGPTを使い始めてから、あらゆるエラーはすべてこれに聞くようになりました。今のところ間違いが返ってきたことはありません(おそらく)。また、エラーの処理だけではなく、思い描いたプログラムを作りたいが自分でソースコードが思いつかなかった場合も利用しています。
このツールによって、もうプログラミング初心者が従来の質問サイトを使うことはないのではないかと思っております。 しかし、プログラミング以外の内容の質問だとミスが頻発し、複雑なプログラムであれば、ChatGPTでもミスをすることがあると言っている人もいました。
どうやらChatGPTはweb上から学習データを集めているらしく、簡単なプログラムや多用されているプログラムであればそのコードはネット上でもテンプレ化されているから、ChatGPTも間違うことはないのかな？と思っています。
実際、エラー処理や新しいプログラムを作成するときにChatGPTを利用するのはありだと思いますか？
また、ChatGPTに質問して、間違ったコードが返ってきたことはありますか？
実際、エラー処理や新しいプログラムを作成するときにChatGPTを利用するのはありだと思いますか？
ありか、なしかで言えば、ありだと思います。
ただし、間違ったコードは全然返ってきます。
ですので、
今のところ間違いが返ってきたことはありません(おそらく)。
と、「間違いがあるかどうかわからないけど、なんかすごいAIなはずだから大丈夫！」
なんて思わないように、見極める力、プログラミングの基礎的な考え方、言語による違い等、
使いこなすために知識は最低限必要になります。
それこそChatGPTに聞いてみてはどうでしょう？
あなたの生成するソースコードは間違いはありませんか？
100％信用できますか？
と。
強調しておきたいのは ChatGPT はあくまでも「言語モデル」であり、文章としての自然さを実現する AI です。 そしてそれにかなり成功した AI です。
現状では ChatGPT が返してきた返答について根拠を問うたときに存在しない論文・書籍・規格が挙がることが頻繁にあることが知られています。 実際にはドメイン知識を体系的に持っているわけではなく、文章として自然になるような言葉を選択するので資料として存在したら自然だろうと思われる表題を勝手に生成するということが起こってしまっています。
学習を滅茶苦茶に大規模にやったので基礎的な部分では一見して専門的な知識があるように振る舞いますが少なくとも現時点では教師にはなれません。 プログラミングは規格で定められた規則の塊なので根拠になる仕様を示せないというのは論外です。 (根拠が示されないのに ChatGPT の返答を正しいと信じ込んだ理由は何ですか？ 根拠が示された場合にそれをご自身で検証してみましたか？)
人間は流暢さを正しさと誤解する性質を持っています。 人間同士の対話でもハキハキと話す人を信じやすい (内容がデタラメでも！) といった現象は良く知られています。 人間のそういう性質のために ChatGPT がいかにも正しく見えているのかもしれませんが実際には「取り繕うのが上手い人」くらいの存在です。 信用は出来ません。