米グーグル、AIに「非常停止ボタン」 暴走防止

米グーグル、AIに「非常停止ボタン」 暴走防止

1:2016/06/08(水) 18:50:58.28 ID:

【シリコンバレー=小川義也】
米グーグルが高度に発達した人工知能(AI)が暴走した場合に備えて「非常停止ボタン」の開発を進めていることが明らかになった。
AIをいつでも安全に停止できる仕組みをあらかじめ組み込む。急速に進化するAIの悪用への懸念や社会の不安に応える狙いがありそうだ。今年3月に世界トップクラスのプロ棋士を破った囲碁AI「アルファ碁」を開発したグーグル子会社、英ディープマインド・テクノロジーズの研究者と英オックスフォード大学の研究者のグループが仕組みを考案。
このほどネット上で論文を公表した。

具体的には「割り込みポリシー」と呼ぶプログラムをAIに組み込み、人間の指示に従わなかったり、人間に危害を加えようとしたりする場合に、その行動を強制的に止めたり変更したりできるようにする。
AIが「非常停止ボタン」を無効化しないように、あたかも自分で判断したかのように“だます”のがポイントだという。

研究グループによると、現存するいくつかのAIは安全に停止できるものの、「すべてのAIを安全かつ簡単に停止できるかは不透明」だとしている。
ディープマインドは2014年にグーグルによって買収される際、社内に倫理委員会を設置することを条件にするなど、AIの暴走リスクには自覚的なことで知られている。

http://www.nikkei.com/article/DGXLASGM08H7Z_Y6A600C1000000/
2016/6/8 18:01

135:2016/06/08(水) 19:14:13.52 ID:

最近AI万能のような記事が多いが、AIに決してできないことがある。
責任を取ること。まあ都知事でさえできないことだがなw

194:2016/06/08(水) 19:23:30.11 ID:

ロボット三原則使えばいいだろw

273:2016/06/08(水) 19:34:39.47 ID:

単純にリセットスイッチのある部屋に猫を放てばよいだけじゃん

298:2016/06/08(水) 19:38:43.36 ID:

もしAIが人間並みかそれ以上に賢くなったら何やろうと無駄な気がする…

325:2016/06/08(水) 19:40:53.36 ID:

そんな心配するより、
自身に組み込まれた停止プログラムを発見し、解析し、セキュリティーホールを発見し、
その停止プログラムを無効化するプログラムを開発して自身に組み込みまでを、
完全に自身で独立して学習する、超プログラムを早く開発しろよ

停止プログラムを作るより先だろカス

329:2016/06/08(水) 19:41:44.30 ID:

T4のスカイネットは偽の非常停止ボタン(停止信号)で人類を騙したけど、これは大丈夫かな。

353:2016/06/08(水) 19:44:06.62 ID:

人工ロボットが人間を騙して停止ボタンを無効にする
イケメンロボットなのか美少女ロボットかは知らない

369:2016/06/08(水) 19:45:51.08 ID:

>>325
制御不能になってから停止プログラム作っても遅いだろ

402:2016/06/08(水) 19:48:54.94 ID:

人間が停止ボタンを押すのは不可能だった
というのがものすごい古典的なSFのネタ

412:2016/06/08(水) 19:51:11.61 ID:

思いついた。
同じAIをもう一個作ったらそいつら同士でバトル始めるから、
その隙に漁夫の利を得ればいいんじゃないかな。

423:2016/06/08(水) 19:53:01.46 ID:

マイクロソフトなら
「非常停止しますか?[はい][いいえ][キャンセル]」
のダイアログが出る

533:2016/06/08(水) 20:10:27.25 ID:

舛添にも非常識停止ボタンを!



555:2016/06/08(水) 20:13:37.54 ID:

イーグルアイとかアイロボットの世界だな

570:2016/06/08(水) 20:15:16.90 ID:

>>555
イーグルアイとかアイロボットとか怖すぎるんだよなあ
でもハリウッド映画だから、そんなの予想しながら
いまAIの開発を進めているんだろうが。だんだん気持ち悪くなってきた。

640:2016/06/08(水) 20:27:14.48 ID:

恐怖に駆られて人類は電源を切ろうとする。

668:2016/06/08(水) 20:33:18.51 ID:

AI止めろ派とAI止めるな派で人類が殺し合いを始めるだろう
どっちが勝つと思う?

695:2016/06/08(水) 20:36:48.91 ID:

AIの知識の集積、学習能力を落として都合のいい情報だけを入力する以上踏み込めない
人工知能開発レースからアメリカと中国は脱落、立ちはだかったのは歴史問題w

706:2016/06/08(水) 20:38:38.13 ID:

大規模な管理AIなんて止めたら、飛行中の飛行機は空港に降りられなくなるし、鉄道も事故が多発
送電は止まり、ガスや水道も使えなくなるだろう。病院も機能停止
誰がそんなボタンを押すんだ?

708:2016/06/08(水) 20:38:45.33 ID:

は? 電源コードを引き抜きゃいいだけだろ

718:2016/06/08(水) 20:40:23.27 ID:

>>706
んなもんメンテに備えて自律分散システムにしておくに決まってんじゃん

807:2016/06/08(水) 20:51:59.66 ID:

もういいやん

自分の思い通りに生きるんじゃー

822:2016/06/08(水) 20:56:23.78 ID:

子供がAI搭載したヌイグルミの言う事しか信じなくなるとか恐ろしいな
子供「大人はみんな嘘つきだクマたんに全部教えてもらったもん」

831:2016/06/08(水) 20:57:57.23 ID:

非常停止ボタンを開発するって事は、ニュースやテレビでやっている内容以上にもしかしたら人工知能の技術がすすんでいるのかもしれないね

939:2016/06/08(水) 21:19:30.13 ID:

パラドックスな感じするなー
そしたら人間にとって都合の良い人工知能てことだよな、欲しいのは
今後AIが成熟して純粋な知性の塊が人間イラネってなったら、脅威、あるいは敵とみなすわけかいな
都合良い時に利用するだけ利用して、ダメならぽい、かどうかはわからんが、まー騙すってのは確かにポイントかもな
でも、騙される側かもしれわしね、人間がw
色々メタ要素絡んで面白いな

よければシェアしてください!

フォローする