【 Vol.16 From Hello,AI Lab 】
最後のお返事です！

AIは、使用したデータや学習によって、結果を導きます。ただその計算過程はブラックボックスとなっていて、なぜその答えが出てくるのかと、研究者さえも時々びっくりさせられます。AIは今、さまざまな分野への適用が加速していますが、医療などの人命に関わる分野やローン査定など公平性が必要な分野など、信頼性や説明性が特に重要になる分野で、このブラックボックスは大きな課題となっています。

そこで、欧州ではそれらの課題を踏まえた法規制の動きがあったり、国内でもAIガイドラインが制定されたりと、AIのブラックボックスを解消しようと今さかんに研究されており、この研究は「説明できるAI（XAI：Explainable AI）」と呼ばれています。たとえばXAIを画像認識に使用した場合、鼻の形に注目したから80%猫だと思いました、と判断の根拠を教えてくれるようになります。

仮にAIの判断でローンの査定が通らなかった場合、そのAIの精度の高さだけをどんなに説明されても、顧客は納得しないでしょう。きっと判断の理由や根拠が欲しいと思いますよね。一方、人が同じ業務をする場合でも間違いが起こることはあります。ただ、人が行った場合、判断の根拠がどこなのかが分かるので、もし何か問題が起こったとしても、責任の所在が明確です。

また、XAIの研究は利用者向けのみならず、開発者向けとしても大きな可能性を秘めています。私たちは、AIをもっと理解して、不具合が起きないようにしたいと思っています。そして万一不具合が起きたときには何故それが起きたのかといったかたちで、AIについてさらに理解を深めたいと思っています。

AIが何を考えているのかを人が理解しつつ、付き合っていくことが大切だと思っています。

娘さんからの質問が鋭すぎて思わずはっとさせられました。
18世紀といえば、イギリスで産業革命が始まりました。綿織物の生産では、水車を動力とする「水力紡績機」の発明や、蒸気機関を利用した「力織機」の発明で、それまでは難しいとされていた糸を紡ぐ作業が機械化され、自動の工程が増えました。農業中心から工業中心へと人々の生活が大きく動いた時代です。また18世紀に日本で出版された「機巧図彙」（からくりずい）によると、自動で茶碗を運ぶからくり人形が記録されています。想像するに、人力ではなく「自動で動くもの」に心惹かれる人が増え始めた時代、といえるでしょうか。

18世紀の人間が現代に来たとしたら、AIを
【「自動」をより発展させた「自分で考える」技術。
人の生活をもっとよくするために生まれてきたんだ！】
って説明したいですね。

きっと18世紀の人にとっては、あらゆるものの自動化が未来の技術だったのではないかと思うので、自動を通り越した、自動がより発展した技術なんだと伝えたいです。そして、人と対立するものではなく、人の生活をよりよくするために生まれたもの、だということも。
後の1920年、カレル・チャベックという作家が初めて「ロボット」という言葉を戯曲の中で使います。彼はこの作品の中で、倫理観のない技術発展の危険性について謳っています。
過去の人類に、「AIって人を中心に開発されているんだよ。人の生活をもっとよくするために！」って胸を張って言えるような開発を、これからも続けたいですね。

怖がらずに、ぜひどんどん使ってみてください。そして、ここはちょっと違うな、よくないなと思うところは、AIを作った提供元に教えていただけるとありがたいと、開発側の一人として思います。

新たな未来を作っていく一人一人がAIに関心を持って、AIの得意なところとそうではないところを学び、自分がどうやって生きていったら幸せか、どうやって生きていったら周りも幸せにできるか、というところをぜひみんなで考えていければと思います。