グーグル、人工知能の反逆を抑止する「非常停止ボタン」開発 #２ちゃんねる
グーグル、人工知能の反逆を抑止する「非常停止ボタン」開発
1 名前：リサとギャスパール ★：2016/06/08(水) 18:50:58.28 ID:CAP_USER9.net米グーグルが高度に発達した人工知能（ＡＩ）が暴走した場合に備えて「非常停止ボタン」の開発を進めていることが明らかになった。ＡＩをいつでも安全に停止できる仕組みをあらかじめ組み込む…
1 名前：リサとギャスパール ★：2016/06/08(水) 18:50:58.28 ID:CAP_USER9.net
米グーグルが高度に発達した人工知能（ＡＩ）が暴走した場合に備えて「非常停止ボタン」の開発を進めていることが明らかになった。ＡＩをいつでも安全に停止できる仕組みをあらかじめ組み込む。急速に進化するＡＩの悪用への懸念や社会の不安に応える狙いがありそうだ。
今年３月に世界トップクラスのプロ棋士を破った囲碁ＡＩ「アルファ碁」を開発したグーグル子会社、英ディープマインド・テクノロジーズの研究者と英オックスフォード大学の研究者のグループが仕組みを考案。このほどネット上で論文を公表した。
具体的には「割り込みポリシー」と呼ぶプログラムをＡＩに組み込み、人間の指示に従わなかったり、人間に危害を加えようとしたりする場合に、その行動を強制的に止めたり変更したりできるようにする。ＡＩが「非常停止ボタン」を無効化しないように、あたかも自分で判断したかのように“だます”のがポイントだという。
研究グループによると、現存するいくつかのＡＩは安全に停止できるものの、「すべてのＡＩを安全かつ簡単に停止できるかは不透明」だとしている。ディープマインドは2014年にグーグルによって買収される際、社内に倫理委員会を設置することを条件にするなど、ＡＩの暴走リスクには自覚的なことで知られている。
http://www.nikkei.com/article/DGXLASGM08H7Z_Y6A600C1000000/
刺されたアイドル冨田真由さん（２０）、意識回復する
1 名前： 膝靭帯固め(三重県)＠＼(^o^)／：2016/06/07(火) 23:35:09.00 ID:+i49xdu90.net芸能活動をしていた女子大学生がファンの男に刺された事件で、意識不明の重体となっていた女子大学生が入院先の病院で７日までに意識を回復したことがわかった。この事件は先月…
1 名前： 膝靭帯固め(三重県)＠＼(^o^)／：2016/06/07(火) 23:35:09.00 ID:+i49xdu90.net
芸能活動をしていた女子大学生がファンの男に刺された事件で、意識不明の重体となっていた女子大学生が入院先の病院で７日までに意識を回復したことがわかった。
この事件は先月２１日、東京・小金井市のライブ会場前で芸能活動をしていた冨田真由さん（２０）をナイフで刺し殺害しようとしたとして、ファンの岩埼友宏容疑者（２７）が逮捕されたもの。
冨田さんはナイフで首などを２０カ所以上刺され意識不明の重体が続いていたが、関係者によると７日までに入院先の病院で意識を回復し、危篤状態を脱したという。
http://www.news24.jp/articles/2016/06/07/07332101.html
