現在第３次ＡＩブームと呼ばれるほど、様々な分野でＡＩが活用され社会に深く浸透しつつあります。そもそもＡＩ（Ａrtificial Ｉntelligence：人工知能）とは、一般的には人間の知的ふるまいの一部をソフトウェアを用いて人工的に再現したものと定義されています。第３次ＡＩブーム以前のＡＩは、知的ふるまいをさせるためにコンピュータに「探索・推論」をさせることや、数多くの専門知識を持たせることを人間がプログラミンしたソフトウェアで実現しようとしていました。しかしながら、今日のＡＩブームほどの発展と普及までにはいたらなかったのです。
ではなぜ今日のようなＡＩブームが起きたというと、機械学習という仕組みが考案されその考え方をＡＩに取り入れ、そして「ディープラーニング：深層学習」とよばれる人間の脳のプロセスと非常に似ているニューラルネットワークを用いた機械学習へと発展し、より複雑な判断がＡＩで可能になったからです。
しかしながら、この「ディープラーニング：深層学習」でコンピュータが自己学習しより人間的思考が少しずつ可能となり利用分野が拡大していく反面、自己学習で得られた概念や知識そして思考プロセスを人間が理解できず、ＡＩの判断が道徳的・倫理的にも本当に正しくて信用できるかという問題が表面化してきているのです。これがＡＩのブラックボックス問題です。
このブラックボックス問題が浮き彫りになった象徴的な事例として、囲碁AI「AlphaGo」が世界トップ棋士を破った対局があります。この対局で複雑怪奇なAlphaGoの打ち筋に、解説者のプロ棋士はもとより、AlphaGoを開発したメンバーでさえも、勝因が分からなかったそうです。AlphaGoは過去の棋譜を元にした「教師あり学習」と、囲碁AI同士を対局させて鍛える「強化学習」のみ行い、囲碁のルールは組み込まれていなかったのですが、プロ棋士でも見つけられないような未知の定石や打ち筋を生み出しました。一般的なソフトウェアであれば、プログラムコードを追いかければ要因が分かりますが、「AlphaGo」のようなAI（ディープラーニング）では、人間が分かる論理コードはなく、コンピュータが自己学習して導き出したアルゴリズムが存在し、このアルゴリズムは人間には理解できないブラックボックスとなっています。なので、この対局においても勝利はしましたが、思考はすべてブラックボックスで行われ結果的に勝因はわからなかったということです。
人命や安全に関わる分野や人道的倫理観が必要とされる分野では、判断や決定にその責任を問われ信頼できる説明が求められます。今後益々ＡＩが進歩したとしても、ブラックボックス問題があるかぎりこれらの分野ではＡＩの活用は望めないし、その他の分野でも活用が制限されてしまうかもしれません。ＡＩのブラックボックス問題は、今後のＡＩ利用及び発展の大きな課題となってきています。そして、政府が策定した「ＡＩの7つの原則」の中にも、“AIを利用した企業に決定過程の説明責任”が提言されており、社会的にもＡＩによる決定や判断の過程に対する説明責任が問われる時代になってきています。
そこで近年、このＡＩのブラックボックス問題に対してＡＩのホワイトボックス化のという観点から、ＸＡＩ（Explainable AI：説明可能なＡＩ）の研究が進められています。
ＸＡＩは簡単にいえば、ＡＩによる結果のみならず、その判断に至った過程・理由を人間が理解し検証できるようにしたＡＩです。
ＸＡＩの研究が進めば、ブラックボックス問題によりＡＩの利用に無かなった人命や安全に関わる分野や人道的倫理観が必要とされる分野への利用拡大が望めるようになると期待されています。
