【感想】JOA2020 AIがもたらす人間と社会の未来　―先端的な生命科学を巡る倫理

お仕事整形外科医です。

日本整形外科学会総会（JOA）2020はオンラインでの開催となっています。

普段聞きにいかないような内容の講演にも耳を運ぶ（？）ことができ、非常に勉強になっています。

さて、最近なにかと話題のAIですが、脅威と捉える人も多くいるようです。

その一つに「AIが人間の仕事を奪うのではないか？」「AIが人間の能力を上回るのではないか？」という面です。

今回、「AIがもたらす人間と社会の未来　―先端的な生命科学を巡る倫理」を聴講させていただき、非常に勉強になりましたので雑感を述べます。

なお、講演は国立情報学研究所の新井紀子先生によるものです。

先生の著書は非常に有名です。

実は以前から気になっていたのですが、「SF感のつよい内容かな？」と勝手な先入観で読んでませんでした。

この機会にぜひ、購入したいと思います。

【2019年ビジネス書大賞大賞】AI vs. 教科書が読めない子どもたち

AIに負けない子どもを育てる

実は、現代日本の教育の問題点を突く名著！！！

医療安全にも繋がる大事な話

AIにできること

AIときくと、ディープラーニングを思い浮かべる人が多いと思います。

ディープラーニングってよくわからないけど機械が勝手に自立的に学習して、どんどん知識つけていくことじゃない？

情弱！！それが、そもそも違うwwww

AIといっても、人間の脳の機能を完全に再現できるものではないようです。

今回はじめて、知った内容としては

人間が教えたことしか吐き出せない
正解・不正解は人間が決めているため、それ以上の評価はできない
正規分布の端っこにいるようなものには（通常からははずれているもの）AIにできることは少ない
そもそも、自分で判断はしない
AIには意味を理解することはできない
前処理までしかできない。大量なデータのなかからキーワード検索しているだけ

意外と、弱点が多くみられました。

このことから多少逆算的ではありますが、新井先生はAIに対して人間が生き残る道・近年の教育の欠点・AIとの付き合い方を考察しておられました。

人間とAIの違い

先ほど述べましたように、AIにはその内容を理解することができません。

つまり「読解力」がないのです。

問題に対してその前後にあるキーワードから、蓄積されたデータの中を検索することはできますが、言葉の意味を知りません。

180度内容が違う質問にたいして、同じように質問すると、キーワードだけで答えを出すAIは、同じ答えを導き出してしまうそうです。

また、人間が読めば当然でしょ！って思う内容にも、その言葉やモノが持つ意味や役割を知らないために、違う答えを導いてしまうこともあるようです。

日本の教育の問題点・今後さらに必要とされる読解力

AIに欠如している、「読解力」「意味の理解」については日本人に欠如している能力であることが講演で話されています。

そして、さらに大きな問題は、読解力のなさは自覚できないことです。

よく、Twitter上で、医師とそれ以外の職種の方との炎上騒ぎを目にします。

「どうして、この内容に大して、そのような解釈になるのだろう？」というやりとりが散見されています。

今回の講演を聞いて、文字を読んで、内容を理解していないからこのようなことが生じるのか・・。と実感しました。

つまり、説明してもわからない人に、Twitterという文字数制限のある中で、一生懸命説明することがどれだけ無駄な作業か？ということが身に染みました。

このような人は、相手にしないことが一番賢い選択であることが明確になりました。（もちろん、本人にも自覚がないので悪気はないのかもしれません）

たしかに、無視できない無茶苦茶な内容を展開して拡散する人はおられます。

その被害に遭う人を見過ごせない気持ちも大事ですが、無茶苦茶な人と議論することは無駄であり、自論を他ツリーで展開するほうがよっぽどマシ。
絡まれるリスクはありますが、自分のツイートを引用して変な理論にもっていかれる場合は、ツイートを削除するなりして、なるべく距離を置いた方が良さそうです。

これらのことを踏まえても今後、情報は受け取る側が責任を負うため、情報の選択能力・信憑性の判断能力をつけることの重要性がさらにアップします。

この力をつけるためにも、読解力は非常に重要です。

教育においても、そもそも教科書が読めないのに、勉強しろ！という状況に無理があります。

今こそ、読解力をもう一度見つめ直す必要がありそうです。

そこが、AIに対して、人間が差別化できる有利な点の一つかもしれません。

読解力と医療安全

少し話がそれましたが、読んでも意味が理解できない人にどう説明するか、どのような表現で理解を深めるか？が、医療安全にもつながります。

会議を重ねて作成した医療マニュアルは伝わっていない可能性も十分考えられます。

すでに教育から完成されている人間に対して再教育を促すのは難しいかもしれませんので、どのように表現するか？で工夫する他ないのかもしれません。

まとめ

かくいう私も、本講演で出された問題を１題間違えました。

AIは情報の箱と引き出しという機能は備えていますが、それをどう理解し利用するかは人間の仕事として残りそうです。

AIと上手に共存するには、お互いの役割を理解することがスタートです。

医療においては、医師と患者間には知識量に大きな差があります。

それだけでも、情報を正確に伝えて理解を得ることに困難さがあるのに、読解力の差はさらにその溝を深めます。

相手の理解度を、表情や空気から読み取るなども人間としての能力なのかもしれません。