Human-centric AIとは

欧米では、AIを語る際に、”Human-centric"という言葉が良く語られる。
例えば、Stanford大学のHAI
Home | Stanford HAI

日本語だと、人中心のAI、なのだが、いくつかの文脈が発生していると思ったので、今回紹介したい。

おっさんたちが大好きなスカイネット
今、世の中で偉くなっているおじさんたちがかなりの確率で認知しているAI関連のコンセプトがスカイネットだ。
スカイネット - Wikipedia
映画ターミネータでは、このスカイネットの暴走によって、人類は滅亡の危機を迎えている。
2000年代まではシンプルにSci-fiのストーリーだったものが、2010年からのDeep Learning技術の爆発的な実用発展により、
少し誤解や誇張も含めて、「現実味を増している」と理解されている。
wired.jp
2018年にセルゲイ・ブリンが出したメッセージも、イーロンマスクも似たようなメッセージを出していた。

ちょっと現実味を帯びたAlpha GoとAlpha Zero
ただ、これがポジショントークではなく、リアルにやばいのでは？と皆が考えるようになった決定的なものはAlpha Goだと思う。
今までAIでは、手も足も出なかったものが、まったく逆に人間の手が出ない分野になった。
更にその子孫系AIが将棋やチェスでも他AIを打倒するようになってきた。
deepmind.com

そして、このAIが想起させた一番の恐怖は、誰もAlpha Goの内部がどうなっているかを説明できないことだった。
そして、Alpha Go自体が見せた対局の打ち筋が人間には理解できなかったことである。

1つ目のHuman-centric：人間に理解可能なAI
https://bcgplatinion.com/cema/insights/ai-design-human-centered-approach

BCGの言うHuman-centricで大切なのは、解釈可能なAI（explainable AI (XAI)）である。
SHAPとかLIMEパッケージなどの説明可能なinterpretable機械学習はその一例なのではないだろうか。
shap.readthedocs.io

1つ目のHuman-centric：人間に持続可能なAI
一方で倫理、sustainabilityの視点でもAIは人間中心であるべきだという主張がある。
これは、Amazonが採用にAIを活用した際に人種、性別のバイアスだらけの選考になったという記事が記憶に新しい。
www.reuters.com

例えば、MITでも下記のような記事があがっている。
mitsloan.mit.edu
これは、AIの利用者、開発者、そして規制者全員が考えるべきAIの開発方針、と呼べるかもしれない。

僕自身の経験を述べれば、人間と機械のコンビネーションが一番強いけど役割分担と権限をはっきりすべきだと思っている。
昔機械学習で全自動の広告運用、人間のみ、人間と機械のコンビネーションで広告運用を試したが、一番最後のパフォーマンスが一番悪かった。
しかしながら、人間だけがやる部分を特定した（クリエーティブの定性評価など、当時のAIでは判断が難しい部分を人間に任せた）ときが一番良いパフォーマンスを残した。
AIと人間が共存できる世の中。というのがこれからのデータサイエンティストにも求められていると思う。