AIのポテンシャルを 生かすも殺すも人間次第【日本橋人形町校】

こんにちは。
ステモン日本橋人形町校です。

今日のお題は・・・昔、ワープロが出たころにさかのぼります。

その当時、手書きの資料より「活字」化された資料の方を信じる傾向が人々にありました。結果としてくだらない資料で、手書きでは単なるメモとして無視されるようなものも、ワープロで出力するとそれなりに信じられてしまうというちょっとバカバカしい現象がありました。

さすがに今はそんな傾向を持つ人もいないと思いますが。

ワープロが普及する以前には、和文タイプ（※）というデカい機械を使って、A4一枚の資料を何時間もかけて打っていました。（慣れた人なら時間はかからないですけど。）　※（ちょうど印刷屋さんが机の上にあるようなもの、一つ一つ活字を拾って紙に印字していくものです）

その後、パソコンが普及し、オフィスソフトが普通に使われるようになってくると、エクセルなど表計算ソフトで出力された数値は間違いがない・・・かのように扱われ始めます。

普及し始めたころは、出力結果を算盤（そろばん）やら電卓やらで検証しているところも多かったと聞いていますが、そのうちに、エクセルで出力した結果を検証するなんてバカバカしい、と言われて検証することもほとんどなくなりました。

個人で使っている場合にはさして問題は大きくないですけど、行政やら営業やらで使っていて大丈夫なの？って思ってしまう面もあります。業務用ソフトではないわけですから。

内部の計算ミスでトラブルが出たときにだれが責任取るの？ってハナシです。（パソコンの計算誤差というのは必然的なもので-１０進数と二進化１０進数ｰｰ、Windows10でも計算機のエラーが修正されたのはつい最近のこと。）

［４の平方根を取って、それを２乗しても４に戻らない、というバグがありました。バグというよりは、数値の表し方が違うので必然だったのですが。］

さて、AIブームの昨今、AIが出した答えだから人間の判断よりも正確だ、とかAIは客観的な判断をしている、というAI教みたいな考えが広がりつつあります。確かに膨大なデータを学習（蓄積）し、高速で解答（演算）するAIには人間は太刀打ちできない、と思い込まされても無理からぬところがあります。

ここ数年、国政レベルの選挙で、マスコミが事前予測した結果と実際の選挙結果が非常に近いものになっています。マスコミ各社は出口調査やらAIやらを駆使して、開票開始とほぼ同時に選挙の最終結果を予測しテレビなどで流しています。まだ開票率０％でしょ？どうしてわかるの？・・・でも、予測通りに当選議員が決まったり、落選したり。すごいねぇ。

ところが、AIを闇雲に信じちゃいけませんよ、という警鐘を鳴らす先生がいらっしゃいます。名古屋大学の久木田先生。

久木田先生がおっしゃるには、いくらAIといえども、プログラミングを作ったのは人間であり、プログラマーの判断というバイアスが潜在しているよ、ということですね。様々なデータを元に判断したとしても、どのデータを利用するかを決めるのは人間だし、そこでもバイアスが加わってくる。AIがAIを作ったとしても、元のAIを作ったのは人間なのだから、当然バイアスが存在する、ということですね。

もちろん、久木田先生はAIを否定的に考えていらっしゃるのではなく、AIの未来とか可能性とかは肯定的に考えていらっしゃるようです。ポイントは過信するな、使い方を誤るな、というところ。

先に上げたリンク先から一つ例として挙げられていることをそのまま引用します。（DIAMOND Harvard Business Preview 2018.03.29)

ｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰ

『犯罪発生の予測にも使われていて、米国にはプレディクティブ・ポリシング（予測警察）と呼ばれるAIがあります。AIが過去の犯罪データを学習し、事件が起こりやすい場所と時間帯を確率で示すというものです。
実際、事件の発生確率が高いと予測された地区では、犯罪検挙率が上がるといわれています。しかし、それは予測が的中したのではなく、予想に基づいてたんにパトロールの警察官を増やしたからかもしれません。もしかしたら、警察官がその場にいなければ、事件にならないような些細なトラブルだった可能性もあります。いずれにしても、その地区では実際に逮捕者が出るため、予測が当たったということになり、AIが導き出す発生確率はより高まっていきます。でも、それが正しいかどうかは疑問です。
このように判断材料となるビッグデータにバイアスがあると、AIもバイアスのかかった判断を下すことになります。その結果、「AIが予測した地区で逮捕者が増えて事件の発生確率がより高くなることで、他の地区はパトロールが疎かになる」といった悪影響を増幅してしまう恐れもあります。
また、AIによる「ローン審査」もそうですね。住んでいる場所や人種、家族構成などを加味して審査すると、貧しい地域で育った人はお金を借りられないかもしれません。そうなると、ますます貧しくなり、よりお金を借りられなくなってしまう。結果的に、お金を貸さなかったAIは正解ということになってしまうわけですが、それが果たしていいのかどうか。』

ｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰ

うっかりすると、AIの予測通りに・・・した結果、検挙率が上がった、ローンの貸し倒れが減った、という結論になりがちですが、実際はそうではないかもしれないよ、ちゃんと検証する必要があるよ、ということです。

久木田先生がおっしゃるように、AIに考える作業の一部を任せたり、AIに倫理観が伴ったりすると、それはそれでまた別の可能性、人間との共存という分野につながるのでしょう。でもその前に、AIの判断が、考えが正しいかどうか、しっかりと見抜けるだけの知見を人間が持たなければいけない、ということは変わらないでしょう。

ｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰｰ

ANDゼミナール（アンドゼミナール）日本橋人形町校へお気軽にお問い合わせください。

◆お問合せ

メ ー ル：info@and-sem.jp
電　　話：03-6860-4021
運営会社：ANDゼミナール（モイライビジネス株式会社）
住　　所：〒103-0013 東京都中央区日本橋人形町1-19-3島村ビル3F
営業時間：15:00~22:00迄（日祝はお休み）

◆Facebookページ「ANDゼミナール日本橋人形町校」ぜひ「いいね！」を！
※教育・塾のニュースや、キャンペーン・授業風景・STEM教育・国語・算数・英語など随時更新中♪