Round-trip Letters
カヒミ・カリィ × Hello,AI Lab

【 Vol.16 From Hello,AI Lab 】
最後のお返事です!

それは、文通のようなメッセージ。以前からAIの可能性に注目していたアーティスト、カヒミ・カリィさんと、三菱電機の研究者集団「Hello,AI Lab」が、AIについて語り合いながら、発見や気づきをやり取りするコラムです。

わたしがお答えします
  • 回答者

    Hello,AI Labの研究員

  • 特徴

    アラフォー、女性、現在子育ての真っ只中、お世話好き、ちょっとおせっかい、幼少期より科学技術に興味あり。少々ピアノを嗜む。

  • 注意

    研究所の意見を代表しつつ、若干の私見をはさみます。

1 進化しても大切なこと

人に、世界によりそうAI

お返事ありがとうございます!

前回のレターもとても興味深いコメントがたくさんありました。
「やはりどんなにAIが進化したとしても一番重要なのは私達自身、人間はどう生きていくべきか、この世界にとって本当の幸福とは何だろうか、ということであり、AIはそこに寄り添ってくれる貴重なツ-ル」という言葉、とてもしっくりきました。これまで人類が開発してきたさまざまな技術で、生活は便利になりました。AIも、生活を便利にしてくれるツールであることに間違いありません。ただAIは人の生活を根本から覆す可能性を秘めていて、進化した先の未来を見通すことがとても難しいです。AIがこれからも幸福に寄り添うものであり続けるために、ぜひたくさんの方々に感心を持ってもらいたいと思います。

2 最後にお答えします

AIの本質について

さて、ご質問にお答えしますね。

【質問1】

一般の方にとってAIに対する疑問はたくさんあると思いますが、研究者の方がAIを活用するにあたって課題や疑問に思うことは何でしょうか?

AIは、使用したデータや学習によって、結果を導きます。ただその計算過程はブラックボックスとなっていて、なぜその答えが出てくるのかと、研究者さえも時々びっくりさせられます。AIは今、さまざまな分野への適用が加速していますが、医療などの人命に関わる分野やローン査定など公平性が必要な分野など、信頼性や説明性が特に重要になる分野で、このブラックボックスは大きな課題となっています。

そこで、欧州ではそれらの課題を踏まえた法規制の動きがあったり、国内でもAIガイドラインが制定されたりと、AIのブラックボックスを解消しようと今さかんに研究されており、この研究は「説明できるAI(XAI:Explainable AI)」と呼ばれています。たとえばXAIを画像認識に使用した場合、鼻の形に注目したから80%猫だと思いました、と判断の根拠を教えてくれるようになります。

仮にAIの判断でローンの査定が通らなかった場合、そのAIの精度の高さだけをどんなに説明されても、顧客は納得しないでしょう。きっと判断の理由や根拠が欲しいと思いますよね。一方、人が同じ業務をする場合でも間違いが起こることはあります。ただ、人が行った場合、判断の根拠がどこなのかが分かるので、もし何か問題が起こったとしても、責任の所在が明確です。

また、XAIの研究は利用者向けのみならず、開発者向けとしても大きな可能性を秘めています。私たちは、AIをもっと理解して、不具合が起きないようにしたいと思っています。そして万一不具合が起きたときには何故それが起きたのかといったかたちで、AIについてさらに理解を深めたいと思っています。

AIが何を考えているのかを人が理解しつつ、付き合っていくことが大切だと思っています。

【質問2】

もし18世紀の人間がタイムトラベルで現代に来たとしたら、どんな風にAIについて説明されますか?(娘からの質問です!)

娘さんからの質問が鋭すぎて思わずはっとさせられました。
18世紀といえば、イギリスで産業革命が始まりました。綿織物の生産では、水車を動力とする「水力紡績機」の発明や、蒸気機関を利用した「力織機」の発明で、それまでは難しいとされていた糸を紡ぐ作業が機械化され、自動の工程が増えました。農業中心から工業中心へと人々の生活が大きく動いた時代です。また18世紀に日本で出版された「機巧図彙」(からくりずい)によると、自動で茶碗を運ぶからくり人形が記録されています。想像するに、人力ではなく「自動で動くもの」に心惹かれる人が増え始めた時代、といえるでしょうか。

18世紀の人間が現代に来たとしたら、AIを
【「自動」をより発展させた「自分で考える」技術。
人の生活をもっとよくするために生まれてきたんだ!】

って説明したいですね。

きっと18世紀の人にとっては、あらゆるものの自動化が未来の技術だったのではないかと思うので、自動を通り越した、自動がより発展した技術なんだと伝えたいです。そして、人と対立するものではなく、人の生活をよりよくするために生まれたもの、だということも。
後の1920年、カレル・チャベックという作家が初めて「ロボット」という言葉を戯曲の中で使います。彼はこの作品の中で、倫理観のない技術発展の危険性について謳っています。
過去の人類に、「AIって人を中心に開発されているんだよ。人の生活をもっとよくするために!」って胸を張って言えるような開発を、これからも続けたいですね。

【質問3】

AIが進化し、これからの世界で平和的に活躍するために、私達一般人がすべきことは何でしょうか?

怖がらずに、ぜひどんどん使ってみてください。そして、ここはちょっと違うな、よくないなと思うところは、AIを作った提供元に教えていただけるとありがたいと、開発側の一人として思います。

新たな未来を作っていく一人一人がAIに関心を持って、AIの得意なところとそうではないところを学び、自分がどうやって生きていったら幸せか、どうやって生きていったら周りも幸せにできるか、というところをぜひみんなで考えていければと思います。

3 楽しいやり取りでした!

素晴らしい未来のために

1年以上にわたるレター交換も今回で最後ですね。
カヒミさん(娘さんも!)のご質問の鋭さと芸術的感性が本当に素晴らしく、毎回お便りをいただくたびに興奮を隠しきれませんでした。
これからもこの地球に生活する一人として、素晴らしい未来を一緒に築いていきましょう。


それでは、またいつかお会いできる日まで。
本当にありがとうございました!

※本文中における会社名、商標名は、各社の商標または登録商標です。

Hello,AI Lab 2022年2月22日