前回のコラムでご紹介したようにAIであるChatGPTは人間のような自然な文章を作成します。その動きは、人間の脳の神経回路の働きをモデルとする「深層学習（ディープラーニング）」と呼ぶ技術が基盤となっていますが、この深層学習の仕組みは理解されていても、それがなぜ上手く機能するのかは、学者にも「よくわからない」のだそうです。

　ChatGPTも、学習モデルの規模が大きくなることによって生成文章の質がかなり向上したと言われていますが、その理由が完全に解明されているわけではないようです。そうした経緯から「AIの暴走」や「AIによる支配」といった懸念も生まれてくるわけです。そこで、「AIが暴走することはないか」とChatGPTに問いかけてみたところ下記の回答でした。

「AIが暴走する可能性はゼロではありませんが、現在の技術水準では非常に低いと考えられています。一般的に、AIが暴走するということは、AIが自己目的化して人間の制御を超えて自律的に行動することを指します。しかし、AIは人間が与えたデータやルールに基づいて動作するため、AIが暴走するということは、人間の誤ったプログラミングや設計に起因する可能性があります。そのため、AIの開発や運用にあたっては、セキュリティや倫理面を考慮し、人間がAIを監視し、必要に応じて制御することが重要です。また、AIによる行動の透明性や説明可能性を確保することも求められます。」

　さらに、「AIが人間を支配しないか」と聞くと、「現時点では、AIが人間を支配することはありません。AIはプログラムされた範囲内でしか機能しないため、意図しない行動を起こすことはありません。しかし、AIの技術が発展し、自己学習が可能になった場合や、複数のAIが相互に作用して予期せぬ結果を生み出した場合には、AIの動きをコントロールすることが困難になり、人間を支配する危険性が生じます。」とのことでした。というわけで、今週のCEOコラムも半分ほどはChatGPTに代筆してもらったようなものになりましたが、AIの暴走もAIによる支配も可能性がゼロではないことをAIが自ら語っていることを重く受け止めなければなりません。