Q

人類を滅亡させる、人工知能の暴走は止められるのか?

米マイクロソフト社が開発したSNSでユーザーと会話し、学習していく人工知能ボット「Tay」。

その「Tay」が悪意あるユーザーに不適切な発言を教え込まされ、暴走しリリースわずか16時間でサービス停止となったことは記憶に新しい。

人工知能の進化とともに懸念される人工知能の”暴走”、私たちの手で”暴走”は止められるのか。この疑問に対しGoogle の「DeepMind」社は暴走を制御するためのアルゴリズムを開発したという。

人工知能の暴走制御システムを開発とその経緯

「人工知能が人類を超えた瞬間」と称された囲碁AI「AlphaGO」の生みの親であるGoogleのDeepMind社が、オックスフォード大学と共同で、人工知能の “暴走” を制御するアルゴリズムを開発した。

これは、人工知能が危険な判断・行動を起こしそうになった時、人工知能を人間の手で停止できるアルゴリズムだ。しかし、自ら学習する人工知能は人間に停止されないようにアルゴリズムを学習し、回避する可能性がある。その場合、どう人工知能の自己学習を回避し人間が彼らを停止できるかが重要だ。現段階では、一部のアルゴリズムの停止は可能だが、すべてのアルゴリズムの停止は不可能だという。

開発元のDeepMind社の研究員 ローレン・オルソー氏と、オックスフォード大学の研究者スチュアート・アームストロング氏は人工知能が一般使用されるようになった時、人工知能の暴走は大きな問題となる。暴走という懸念を払拭するために今回の研究を至ったそう。

人工知能と共生に備え私たちが持つべき観点は?

まだ、研究は始まったばかりだが、すべてのアルゴリズムの停止が可能になった時、私たちの生活に人工知能がさらに浸透し、働き方・過ごし方は大きく変化していくだろう。人工知能と私たち人間が共生していくためには倫理的観点が重要だ。

人工知能との共生に重要な「倫理的観点」を知りたい読者はこちら。

価値観を変えるシゲキメディア

TAGS

SHARE

この記事が気に入ったら
いいね!しよう

最新情報をお届けします

Twitterで『Catalyst』をフォローしよう!