実務でもちょくちょくChatGPTに頼ることがあるのですが、
つい最近ギョッとする使い方を小耳に挟んだので、
自分なりにこういったこと注意しないといけないなぁと思ったことをつらつらと書きたいと思います。
エンジニア未経験の方や、まだ経験が浅い方に対して意識改善の助けにしてもらえたらと思います。
注意すべきこと
機密情報の漏洩
最悪取り返しがつかない事故になりかねないため、これは最重要だと思います。
具体的に注意することとしては、
- 個人情報、パスワードなどは載せない
-
ソースコードを貼り付ける際には抽象化する、マスキングする
などが考えられると思います。
同様のケースとして、翻訳アプリにも気をつけましょう。
そのまま実務で使用しているソースコードを貼り付けてしまうと、外部に漏洩しているのと同義です。
情報が古い
意外と見落とされがちですが、ChatGPTが持つ情報は2021年までのものです。
例えばですが、モダンな技術を使っている場合特に注意かと思います。
つい最近アップデートされた内容やそれに関連するエラーなどを聞いても正確な答えは返ってこない可能性があります。
当時推奨されていたコードの書き方も、現在では非推奨となっていることもしばしばありますので注意しましょう。
回答を鵜呑みにしない
ネットで検索する場合にも当てはまるので当たり前と言っちゃ当たり前ですが、
「ChatGPTすごい！」「AIなんでもできる！」
みたいな風潮があるので今一度心に留めておいた方がいいと思います。
ChatGPTは普通に間違えた回答をしてきますし、指摘するとごめんなさいと謝ってきます。
誤った情報をあたかも正しそうに回答しているケースがあったので、
情報の正確性を見抜けないうちは返ってきた答えが本当に正しいかまで調べるクセをつけた方がいいと思います。
（ちなみに冒頭で言ったギョッとしたのはこれに関してです。
レビューの際に「どうしてこの実装になったの？」と聞いた際に
「ChatGPTでそう返ってきたから」という仰天内容を聞きました。）
回答の質は入力される情報に依存する
ChatGPTは機械学習に基づくモデルですので、その性能は入力されるデータに依存します。
そのため、入力データの質や量によってChatGPTの応答が異なる場合があることに注意しましょう。
まとめ
ChatGPTに限らず、
上記のことは本質的にはどれも社会で生きてく上でわかっておくべきことなのかなと思います。
ただこういう革新的なものが生まれた時はそれに魅了されてつい忘れてしまうこともあるかもしれません。
自分もリリース直後ChatGPTにコードを書いてもらった時は、
まるで偉大なエンジニアから回答を渡された気分になったことがあります。
ですので、自戒の意も込めてここで投稿させていただきます。
それでは最後まで読んでいただきありがとうございました。