はじめに
最近記事投稿プラットフォーム上でも、SNS上でもAIの話題はよく目にしますし、その進化も目まぐるしいですよね。
その中で少し気になったことがあったので、今回は開発に慣れている人と、最近開発を始めた方との間で発生している認識の乖離についてお話ししようと思います。
問題になっていること
ケース①
上司「ここなんでこの実装にしたの？」
部下「AIに実装させたらこうなりました」
ケース②
上司「ここについてどう思う？」
部下「
AIに聞いてみました。
結論、◯◯ です。
理由：△△...
」
何が変なのか
開発に慣れている人が気にしているのは全て成果物の責任がAIのように伝えていることです。
もし本人がそう思っていないとしても、相手にそう思わせてしまう表現はしないほうがいいでしょう。
逆にもしAIの責任と思っていれば、これは考え方を改める必要があります。
人間の責任とはどういうことか
あくまでも開発においてAIはツールに過ぎません。
例えば車で例えると
車で人を轢いてしまった という事象が起きたときに責任を取るのは人間です。
車が人を轢いた とは言わないはずですし、法もそう捉えません。あくまで運転をしている人間の責任です。
仮に車のブレーキが壊れていたとしても、それも整備不良で人間の責任です。
これは開発においても同じということです。
プロとしての説明責任
経済産業省のAI利活用ガイドラインなどでも、AIを利用する人間には「説明責任」があることが示唆されています。
- 根拠の提示
- なぜそのアルゴリズムを採用したのか？
- リスクの把握
- そのコードに脆弱性やライセンス違反はないか？
これらを説明できない状態は、技術者としての善管注意義務(プロとして当然払うべき注意)を怠っていると見なされかねません。
上司が求めている姿
前述したケースでいうと下記のようになります。
ケース①
上司「ここなんでこの実装にしたの？」
部下「◯◯と△△という仕様があるためです。」
ケース②
上司「◯◯についてどう思う？」
部下「◯◯は△△と思います。ただ、××というリスクもあるため□□がいいと思います。」
先程とは全く別の主張に変わりました。
意志を持って発言し、その責任の所在も自身にあります。
最後に
AIはこれからも進化が止まらないと思いますが、どこまでいっても責任を取るのは人間です。
これは少なくとも今後しばらくは変わらないと思います。
（でないとエンジニアという職業も存在意義がなくなってしまいますからね...）
とはいえ、正しく使い、正しく向き合うことで成長をブーストしてくれる存在でもあります。
上手に活用し日本を世界一のテックカントリー（？）にしていきましょう💪