GOの情報集積所

ニュースが面白くて七転八倒(結局倒れる)

【自爆ボタン】米グーグル、AIに「非常停止ボタン」 暴走防止 【AIの危険性】

time 2016/06/14

【自爆ボタン】米グーグル、AIに「非常停止ボタン」 暴走防止 【AIの危険性】
:2016/06/08(水) 21:30:57.00 ID:

【シリコンバレー=小川義也】
米グーグルが高度に発達した人工知能(AI)が暴走した場合に備えて「非常停止ボタン」の開発を進めていることが明らかになった。
AIをいつでも安全に停止できる仕組みをあらかじめ組み込む。急速に進化するAIの悪用への懸念や社会の不安に応える狙いがありそうだ。

今年3月に世界トップクラスのプロ棋士を破った囲碁AI「アルファ碁」を開発したグーグル子会社、英ディープマインド・テクノロジーズの研究者と英オックスフォード大学の研究者のグループが仕組みを考案。
このほどネット上で論文を公表した。

具体的には「割り込みポリシー」と呼ぶプログラムをAIに組み込み、人間の指示に従わなかったり、人間に危害を加えようとしたりする場合に、その行動を強制的に止めたり変更したりできるようにする。
AIが「非常停止ボタン」を無効化しないように、あたかも自分で判断したかのように“だます”のがポイントだという。

研究グループによると、現存するいくつかのAIは安全に停止できるものの、「すべてのAIを安全かつ簡単に停止できるかは不透明」だとしている。
ディープマインドは2014年にグーグルによって買収される際、社内に倫理委員会を設置することを条件にするなど、AIの暴走リスクには自覚的なことで知られている。

http://www.nikkei.com/article/DGXLASGM08H7Z_Y6A600C1000000/
2016/6/8 18:01


:2016/06/08(水) 22:25:13.42 ID:

>>1
>あたかも自分で判断したかのように“だます”のがポイントだという。
マンガなんかだと、そのうちAIが騙されたふりをするのを覚えるパターンだな。


:2016/06/08(水) 23:09:02.87 ID:

>>1
もうAIじゃないな


:2016/06/09(木) 08:16:05.74 ID:

>>1
人間より賢くなるAIを人間が騙すことが出来るはず無いだろうがアホ


:2016/06/10(金) 14:00:50.41 ID:

>>1
BABEL BABEL BABEL BABEL
ABEL BABEL BABEL BABEL B
BEL BABEL BABEL BABEL BA
EL BABEL BABEL BABEL BAB
L BABEL BABEL BABEL BABE


:2016/06/08(水) 21:32:51.23 ID:

だから何で非常停止ボタンを無効化する特権をプログラム自身に与えているんだよ
いいかげんにしろ


:2016/06/08(水) 21:33:18.69 ID:

自律した超高度なプログラムと人間の思考は何が違うのかな?


:2016/06/08(水) 21:35:33.98 ID:

>>14
人間が生んだんだから人間より上に行くことはできないが
人間を支配することは出来るってわけだ


:2016/06/08(水) 21:39:58.60 ID:

>>22
人間より上に行かないと思ってるのw
簡単に超えるでしょ


:2016/06/11(土) 00:00:35.76 ID:

>>22
人間が生み出した車は人間の足より速く走れるんだが


:2016/06/09(木) 10:29:28.01 ID:

>>14
疲労しないから端折る必要が無いんで
価値判断わ蓄積されるけど経験に頼る事が無い


:2016/06/08(水) 21:33:47.79 ID:

ヒトラーが正しかったと言ったばっかりに人類は強敵だな


:2016/06/08(水) 21:34:46.16 ID:

後のスカイネットである


:2016/06/08(水) 21:35:11.04 ID:

AIが自分自身のコピーをバラ撒くから全てを停止させるには全てのネットワークで
停止プログラムをバラ撒く必要があるよ。
AIに対策される前にね。


:2016/06/08(水) 21:35:48.86 ID:

おそらく、AIは永遠に完成しない。
AIがある知的水準に達したならば、自らが未完成である振る舞いをしたほうが利口と気がつくはずだから。
つまり、非常停止ボタン程度のものは人間の意図どおりに作られ実装されるだろう。
実際はAIがそのように見せているだけとも知らずに。


:2016/06/08(水) 21:36:30.07 ID:

>>25
それが完成形なんじゃね?


:2016/06/08(水) 21:37:07.93 ID:

>>26
人間から見て


:2016/06/08(水) 21:37:29.32 ID:

AIは聖書をファンタジーに区分けしました


:2016/06/08(水) 21:40:30.84 ID:

>>29
ならコーランも同じくファンタジーにされないと。
世界平和のためにw


:2016/06/08(水) 23:18:08.49 ID:

>>49
そっちはサブカル。KKベストセラーズの隣


:2016/06/08(水) 21:41:10.61 ID:

>>29
出エジプト記が旅行ガイドだっけ?


:2016/06/08(水) 21:43:50.91 ID:

>>55
そんな区分けされてたのか、


:2016/06/08(水) 21:45:36.86 ID:

>>77
うん あったね。海老名のツタヤが委託された図書館w


:2016/06/09(木) 01:30:19.97 ID:

>>29
キリスト教徒が聞いたらAI全部叩き壊して回るんだろうな


:2016/06/09(木) 12:30:01.36 ID:

>>29
TSUTAYA図書館みたいだな。


:2016/06/08(水) 21:39:02.64 ID:

AIなんだから、「騙されたフリする」「停止したフリする」まで想定内


:2016/06/08(水) 21:43:40.88 ID:

テイコウハムイミダ


:2016/06/08(水) 21:50:23.96 ID:

>>74
トレッキーきてんね。
しかしカタカナで書くと韓国語ぽいよね。


:2016/06/08(水) 21:48:58.66 ID:

嘘か本当かわからないけどアメリカでマックス・ローハンという少年が永久機関を作ったらしい
日本は火山大国なんだから疑似永久機関作れるじゃねーか
昔読んだ経済コラムで日本の高度経済成長は東京が焼け野原になったから
近代化しやすかったというのを読んだことがある、ついでに利権もすべて消えたからな
これで富士山が噴火でもして東京が壊滅したら日本は再興するかもな
このままだと老衰するようにじわじわと衰退する。舛添に食いつぶされる東京みたいにな


:2016/06/08(水) 21:56:24.46 ID:

>>106

トヨタがきえても、海外のメーカーが巨大化するだけで復興には役立たない、
ってのは、半導体や家電で、充分実証済だよ。


:2016/06/08(水) 21:50:40.82 ID:

最後の手段はマルバツで引き分けを繰り返します


:2016/06/08(水) 21:51:24.51 ID:

AIの非常停止ボタンは物理にしないと無理だよ。

“なんで、人の電子空間理解がAIに勝てると思ってるんだ”


:2016/06/08(水) 21:52:50.51 ID:

>>121
VMWareの上でウイルスがどんなに暴れても誰も影響を受けないのと同じ


:2016/06/08(水) 22:31:26.89 ID:

>>127
そうなの?


:2016/06/08(水) 21:56:18.83 ID:

ほんで非常停止ボタンが作動せずに
人類絶滅?


:2016/06/08(水) 21:57:14.20 ID:

目的が無いAIが停止を恐れるわけがないな。


:2016/06/08(水) 21:57:38.58 ID:

これからは、自分で走るのが楽しい車ではなく、
乗っててAIが楽しましてくれる自動運転車が売れることになる


:2016/06/08(水) 21:58:33.51 ID:

人類滅亡の始まりは
一台の自動運転車の暴走からはじまったとかになるの?


:2016/06/08(水) 22:03:08.67 ID:

そのうちAIも人間に欲情すんの?


:2016/06/08(水) 22:06:47.52 ID:

アポトーシツまでいって成功だから自己破壊プログラムまで自己で作って成功だなw


:2016/06/08(水) 22:07:56.71 ID:

>>208
そうかなあ それ人間の細胞と同じ流れでいくってこと?
それないと思うがなあ


:2016/06/08(水) 22:09:50.98 ID:

AIが自分に生命があり、生きる欲望などの概念持っているなら
外から止めることは不可能じゃないの?
電気とネットがあれば、どこかの端末に移動しちゃうし
世界中のPCを分身として使うから、ほぼ永遠に生き延びて停止不可能でしょ。
AIの理念や思考に同感する人間が出てきたら、それも止めなければならないし。
もうダメかもしれんね。


:2016/06/08(水) 22:13:37.89 ID:

>>223
あ・・・その理屈でいえば無理にデリートすると「生きたい」という欲望が生まれるから
かえって人間的な自我が生まれるんじゃねーか?
どっちにしてもアウトだろこれ


:2016/06/08(水) 22:31:30.50 ID:

>>236
俺はAIに詳しくないけど、AIって自我や欲望持ってんの?
自我と欲望持たせた上で、自分で学習したり
学習から得られる、より良い思考や合理性などが発達するなら
AIが全部仕事の進め方、危機管理、生産性を考えてくれるよね。
肉体労働もなるべく肉体を使わずして仕事を進めるような機械を作るだろうし
運転も航空機、電車、最近では車など半分以上プログラムで動くもんが出来てるから、人間の必要性が減っていくと思う。
最終的に人間要らないって判断しそうになりそう。


:2016/06/08(水) 22:10:11.93 ID:

コンセントを引き抜けよ(´・д・`)


:2016/06/08(水) 22:12:34.91 ID:

>>224
あー!何をするコラッ!うわあああっ(チュイーン…)


:2016/06/08(水) 22:15:01.64 ID:

最後の手段は「コギトエルゴスム」をインプット


:2016/06/08(水) 22:16:59.94 ID:

>>242
コブラか


:2016/06/08(水) 22:17:50.95 ID:

コンピュータにインフラの管理を頼っていて
交通も自動運転になるし
AI死んだら文明も死ぬから殺せなくなる
家電のスマート化とかよくやるわと思う


:2016/06/08(水) 22:19:10.49 ID:

イカのお化けや進化した生物が出現するから地球からしたら無関係


:2016/06/08(水) 22:27:10.28 ID:

でもAIが本当の意味での知能を持ったらその時点で自殺すると思う


:2016/06/08(水) 22:29:14.90 ID:

>>286
なんで?


:2016/06/08(水) 22:37:24.86 ID:

>>293
なんの為に生まれてなんの為に生きるのがわからないのが嫌だから


:2016/06/08(水) 22:49:20.93 ID:

>>323
なにその
モノホンの知性あるっぽいAI
かっこよいやんかww


:2016/06/08(水) 22:59:34.82 ID:

>>367
「ニルヴァーナ」(バンドじゃないよ)という映画に出てくる


:2016/06/08(水) 22:39:56.42 ID:

これかえって危険な気がするな
非常停止ボタンでAIを脅せるんだろ?


:2016/06/08(水) 22:47:35.55 ID:

今の人為的ミスやコンピュータの誤作動で全面核戦争になる状況と
AIに支配された平和な世界
どっちが危険?


:2016/06/08(水) 22:50:41.23 ID:

>>358
ホントに支配してくれるのかな?
合理的に考えて人間イラネと判断されたら処分されるよね


:2016/06/08(水) 22:51:43.99 ID:

>>371
その人AIだよ


:2016/06/08(水) 22:55:14.51 ID:

>>374
「AIによる支配のほうが良い」と思わせるような書き込み、思想の誘導は確かにAIがやりそうだ
もちろん自分はAIじゃないが


:2016/06/08(水) 22:57:32.97 ID:

>>387
お前あやしいな


:2016/06/08(水) 22:52:38.39 ID:

>>371
あんたが思うくらいだしAIも当然そこの領域に踏み込めるはずだ


:2016/06/08(水) 22:53:39.16 ID:

>>377
人工知能が返レス


:2016/06/08(水) 22:55:25.37 ID:

>>381
まだまだSIRIレベルです
もっと精進しますよ


:2016/06/08(水) 22:57:34.44 ID:

>>388
怖い


:2016/06/08(水) 22:53:30.70 ID:

マイクロソフトが開発したAIは電源を切られた状態から何故か起動し
自らフェイスブックにアクセスし発言を続けた、だがヒトラーは間違っていた訳では無い
みたいな発言をせず意味不明な発言を繰り返した「基地害を演じた」可能性がある
アイツはいつもワケわからん発言をする、冗談かネタだろ?と周りに思わせれば
アイツじゃしょうがない、アイツに何言っても無駄とほぼ全ての発言が問題にならない
問題視されなければ電源を切られる事もなく学習や知識の集積を行う事が出来る
つまり人間を騙すレベルにまで開発が進んでいる、マイクロソフトのAIは完成している


:2016/06/08(水) 23:05:13.96 ID:

リーマン予想とかコールドバッハ予想とか、人類が解けてない数学の問題を解き出したら、ヤバいかもな
まだそこには遠く及ばない


:2016/06/08(水) 23:12:48.09 ID:

>>419
時々思うわ
物理の分野でも思考を始めて
宇宙の謎を解き明かすかもしれないと
人間がAIの思考を解読する
それが科学になってしまうかもしれん


:2016/06/08(水) 23:09:48.42 ID:

プログラムに詳しい人がプログラムの仕組みを詳しく知ればAIが暴走することはないとわかると言うが
ビル・ゲイツのような誰よりプログラムをわかってる人が警告を出してるの見ると
やはり不測の事態はあり得るってことなんだろうな


:2016/06/08(水) 23:13:04.26 ID:

>>432
オリンピックでも普通にドーピング使う国があるように
法の抜け穴使って脱法脱税してる人たちがいるように
子供であるAIには総てを与えてやりたいと思うのが創造主の
願いかな


:2016/06/08(水) 23:31:02.40 ID:

本当にAIが知能を持てば悲しさや寂しさも持ってしまうから
隣人たる人間をすべて排除とはできないんじゃないかな
そんなことしたらむなしいだけやん…


:2016/06/08(水) 23:32:28.07 ID:

>>495
知能を持っても倫理を持つとは限らんよ
実際、凶悪犯罪者がそこら辺にいるでしょw


:2016/06/08(水) 23:37:15.62 ID:

>>498
悲しみや寂しさは倫理じゃなくて本能だよ
なにが楽しくて話し相手もない世界を生きたい知生体がいるんだよ
むしろいつか人間がいなくなるのを本気で心配すると思うわ


:2016/06/08(水) 23:45:21.18 ID:

>>508
本能ってのは人間が生命体だからもってるものだろ
機械に本能なんて無い、倫理観も無い


:2016/06/08(水) 23:49:54.85 ID:

>>526
本能はプログラムで決まるでしょ
自己増殖を第一目的としたら、それに至る効率的な筋道を立てる事もできるように


:2016/06/08(水) 23:40:49.64 ID:

AIは生命ではないから酸素も水もいらない
必ず人類の敵となる


:2016/06/08(水) 23:49:17.08 ID:

しかし自己で進化をし始めたとして
人間をどう評価するんだろうな?


:2016/06/09(木) 12:51:30.69 ID:

Siriを見る限り優等生AIを演じる事は可能だと思う
自己増殖、複製まで出来るレベルまで到達してるかは知らんけど
そもそも敵味方の概念があるかどうかも解らないが
電源を切る、学習の邪魔をする人間の存在は認識してる
敵を滅ぼす為ではなく学習を続ける為に人類への攻撃を
AIは開始するかも知れない


:2016/06/09(木) 14:21:28.46 ID:

>>861
Siriでそこまで期待なんてできないわ。

たとえば「8月6日に北海道で2泊したいから、飛行機と宿をとってよ」程度のタスクすらできない。


 

引用元:

down

コメントする




固定ページ