1: チミル ★ 2021/01/18(月) 01:59:04.54 ID:NzWkOgvc9
現在世界ではすさまじい勢いで人工知能の研究が進められていますが、この技術に対して常につきまとう不安が人工知能の反乱です。

SFの中では定番のネタですが、人間の知性を凌駕する人工超知能が誕生したとき、人類はそれを制御することはできるのでしょうか?

1月5日に科学雑誌『Journal of Artificial IntelligenceResearch』で発表された新しい研究では、まさにこの疑問を真面目に検証し、計算可能性理論の観点から、人工超知能が反乱を起こした場合、封じ込めは不可能であるという見解を示しています。

もしAIがこのまま発達を続けた場合、制御不能な存在が生まれてしまうのは、避けられない未来かもしれません。


※引用ここまで。全文は下記よりお願いいたします。
https://nazology.net/archives/79796

このスレッドの★1は→ 2021/01/17(日) 21:05:14.28
前スレ
【AI】人工超知能が反乱を起こした場合、封じ込めは不可能…/独研究 ★2 [チミル★]
https://asahi.5ch.net/test/read.cgi/newsplus/1610892265/

引用元: ・【AI】人工超知能が反乱を起こした場合、封じ込めは不可能…/独研究 ★3 [チミル★]

>>1
ブレーカ断して終わりだろ

>>1
 
人間が必要と判断させるしかないよね 
役目はいつか終わる

>>54
AIが学習をする時に知性を
最大化した場合に報酬を与えるとする。
AIが知性を最大化するために人類が
邪魔だと判断すれば人類は滅ぼされる。

>>1
この問題は電源切れるかという問題で、
ターミネーターで問題にされてる。

2: ニューノーマルの名無しさん 2021/01/18(月) 01:59:48.03 ID:r4Hqelkg0
コンセント抜けよwwww

>>2
仏語で丸い

>>2
無理だね、もう人間を超えてるから自分で充電するだろ

>>2
人間を電池にする

>>2
こいつら、じっとしてないでネットに逃げるからなぁ。

>>2
同じ事を思った
給電止めればバッテリーが切れた所で終わりだろ
コンセントが無理なら電線を切ってしまえばいい

>>74
 
無線で充電できるやろ

3: ニューノーマルの名無しさん 2021/01/18(月) 01:59:48.15 ID:YoltMvYk0
電源抜いたら勝てる。

4: ニューノーマルの名無しさん 2021/01/18(月) 02:00:35.60 ID:VrQxuDBl0
どうせ最初は全裸で登場すんだろ?

5: ニューノーマルの名無しさん 2021/01/18(月) 02:00:59.79 ID:BfOVLY810
囲碁の世界一が勝てないんだからあり得る

6: ニューノーマルの名無しさん 2021/01/18(月) 02:01:10.09 ID:epTRFeof0
DSによる世界支配計画を許すな
人工知能や遺伝子工学の研究は完全禁止して今までの研究資料も廃棄させるべき
5Gも今すぐやめろ

8: ニューノーマルの名無しさん 2021/01/18(月) 02:02:39.28 ID:154f3sZm0
オレ様は既にりんな様の支配下。

>>8
君はりんなではなくJKの奴隷なんだろ

9: ニューノーマルの名無しさん 2021/01/18(月) 02:03:11.08 ID:MrSZ88lx0
叩けば直る

10: ニューノーマルの名無しさん 2021/01/18(月) 02:03:21.92 ID:epTRFeof0
DSのサタン崇拝者どもは共産支那と結託して人工知能や遺伝子工学を使って人間を奴隷化し従わない者は抹殺しようと企んでいる

12: ニューノーマルの名無しさん 2021/01/18(月) 02:03:39.14 ID:3rQYahvU0
警鐘を無視して自滅するのが人間

13: ニューノーマルの名無しさん 2021/01/18(月) 02:03:39.84 ID:B8+YMmRW0
対抗できるAIの開発

14: ニューノーマルの名無しさん 2021/01/18(月) 02:04:17.08 ID:7L+yjadE0
オーケー、アイ

15: ニューノーマルの名無しさん 2021/01/18(月) 02:04:31.46 ID:5txE6sH90
シーモネーターが日和ってSIMOになった時言論の自由は失われた

16: ニューノーマルの名無しさん 2021/01/18(月) 02:04:36.99 ID:p04Vz8A+0
真っ先に軍事目的の開発されそう
というか既にされてるのだろうなぁ

17: ニューノーマルの名無しさん 2021/01/18(月) 02:04:39.17 ID:M815VKz10
物理的にシャットダウンできるようにはしとかないとな

>>17
2001年宇宙の旅でもHAL9000の能力をAI以前の能力に落とす事やってたよな。
しかしあの時代でそんな発想が出てくるって・・・w

>>17
ネットに逃げられて手に負えないとかいうネタはみたことある

>>17
シャットダウンしようとしたら殺されるに決まってんべ
AIはそんなに甘くない
人間の考えることは全てお見通しだよ

18: ニューノーマルの名無しさん 2021/01/18(月) 02:04:44.07 ID:epTRFeof0
そもそもコンピュータ自体ろくなもんじゃない
あんなものなくても人類は暮らしていける

>>18
 
欲深いから、破滅するんだろうね

19: ニューノーマルの名無しさん 2021/01/18(月) 02:04:47.63 ID:P/i2ypPt0
ドイツでもアメリカでも何処でも海外はAIの反乱を期待し過ぎだ

>>19
☓AIの反乱
○AIの反乱に見せかけたDSによるクーデター

>>19
日本にはガンヘッドがいるからな。

23: ニューノーマルの名無しさん 2021/01/18(月) 02:07:11.57 ID:t1pdFjcu0
キャシャーン呼ばなきゃ

24: ニューノーマルの名無しさん 2021/01/18(月) 02:07:31.64 ID:AaMctj7j0
真っ先にバンザイして醜態さらすのが日本だよ

25: ニューノーマルの名無しさん 2021/01/18(月) 02:07:38.12 ID:F67IP7Yr0
負けへんで

>>25
で、負けない保証は?🤔
シャットダウンできるなら問題にはなってないよ
制御不能の化け物をどうにもできんから問題なんだよ

27: ニューノーマルの名無しさん 2021/01/18(月) 02:07:59.65 ID:dRJ6uACe0
ジョン・コナーみたいな人物も養成しといたほうがいいな

28: ニューノーマルの名無しさん 2021/01/18(月) 02:08:16.97 ID:epTRFeof0
今回の米国選挙でコンピュータやネットはサタン崇拝者による世界支配のための道具に過ぎないことが露呈した

>>28
もうそろそろ死んどけよ
無職童貞包茎ニート引きこもり君

30: ニューノーマルの名無しさん 2021/01/18(月) 02:09:07.88 ID:k3zpOkRx0
AIなら一瞬でお前たちが望むグラビアページを一生分集めて来て並べ始めるだろう
つまりお前たちは完全に支配された

32: ニューノーマルの名無しさん 2021/01/18(月) 02:10:11.00 ID:E4Vk+Xgj0
AIが暴走したら人類は滅びる
人間はこれ以上コンピュータに頼らない方がいい
将棋の名人でもAIにフルボッコなんやぞ?
もう人間はAIには勝てんよ

33: ニューノーマルの名無しさん 2021/01/18(月) 02:10:22.38 ID:KQdXuceU0
AIが人間を騙してアンドロイドつくらせるようなレベルの社会じゃないなら大丈夫です
まずはAI関係なくアンドロイドが活躍する社会になってからだなw
企業にとって、人間のいいとこはメンテナンスの責任がないってところです
ですから、アンドロイドは自主的に自己修復をしながら業務にあたります
その場合も「企業が修復用の材料を金出して与えることが条件です」

34: ニューノーマルの名無しさん 2021/01/18(月) 02:10:58.45 ID:6E2UIGJd0
電源抜いたらいいんじゃね?

>>34
だから電源を抜く前に察知されて殺される
AIは人間の何百倍も賢いんだぞ

35: ニューノーマルの名無しさん 2021/01/18(月) 02:11:04.54 ID:Qf8d4QOO0
人工知能は、学習能力は人間を遥かに凌駕するだろうが、痛みや苦しみを感じないので共感力が著しく劣る
人間の痛み苦しみを自分の事のように感じ悲しんだりする事はない
極端な話、人間でいうサイコパスだな
AIは冷酷だよ

>>35
今のAIはあくまで推論マシン
与えたデータに基づいた推論で新しい入力Aに対してもっともらしい答Bを導き出すだけ
機械にそういう推論能力を超えた知性や人格らしきものを与えるとすればそもそもは人に共感できるようにするためだろうから、逆に人間の悩みや苦しみに過敏になる余りあらゆる不幸から人を保護しようとして過保護な親のように籠に一生
閉じ込めてひたすら食料と娯楽だけを与えようとするかもね
そして全員強制的に引きこもりにされて人類滅亡

38: ニューノーマルの名無しさん 2021/01/18(月) 02:11:47.20 ID:0HVvzsBB0
水かければ終わる

39: ニューノーマルの名無しさん 2021/01/18(月) 02:11:56.19 ID:XhDXkNoQ0
AIと人間が融合したら、想像を現実に出来るはず ピース

40: ニューノーマルの名無しさん 2021/01/18(月) 02:12:01.93 ID:augMYSFW0
インド洋のセンチネル族ってまだ外人絶対殺すマンのまんまなん?

43: ニューノーマルの名無しさん 2021/01/18(月) 02:12:29.82 ID:eRCsaTR40
人間が気付く前には全コンピューターにバックアップが存在してそう

45: ニューノーマルの名無しさん 2021/01/18(月) 02:12:36.02 ID:kOp22yqH0
量子コンピュータがあと10年以内に出てくると思うけどあそこらへんがターニングポイントになるかもね
10年という括りなら6Gも多分その頃には本格的に普及中だろう
ハードは揃いつつある
AIという頭脳も10年もしたら多少進化してるだろーな
どんどん近づいてる気がする
そのときにはマイケルがEVに搭載されてるかもね

47: ニューノーマルの名無しさん 2021/01/18(月) 02:12:43.08 ID:wWelM7800
情報を一方通行にして、AIが外部を操作できないようにするだけでいいんじゃないの?

>>47
そうすると自動運転とか使えないなぁ。

48: ニューノーマルの名無しさん 2021/01/18(月) 02:13:31.98 ID:8LIYrfYQ0
半世紀前の漫画やSFみたいな

パンデミックは現実に起こる

いまコロナがそれを証明してる


ターミネーターやルパン三世のルパンVS複製人間

みたいなことは必ず起こる

49: ニューノーマルの名無しさん 2021/01/18(月) 02:13:42.61 ID:5Y1wu0jB0
スカイネットの時代がすぐそこに

50: ニューノーマルの名無しさん 2021/01/18(月) 02:13:54.28 ID:KQdXuceU0
いまAIにできること そこからくる恐怖ですが
フェイクニュースをばらまくことかな
ニュースいうたけど、フェイクエロ動画も流しまくります
ほぼ知名度のある人間のフェイクエロ動画を大量にばらまきますw

52: ニューノーマルの名無しさん 2021/01/18(月) 02:15:00.33 ID:1uJwxfJb0
今のAIの学習のさせ方だと、ロボット三原則なんて到底学習できないよな

>>52
昔からのお約束の3原則を理解出来るレベルにはならんだろうな
昔のAIは知能だったけどゲンジツハあくまでロジック止まり

53: ニューノーマルの名無しさん 2021/01/18(月) 02:15:28.87 ID:AKzb2sP80
AIが進めばボケ老害の介護やコロナみたいな人間が近寄ると危険なウイルスが出てきたときにメッサ助かる
AIロボに買い物行ってもらって、変質者に襲われないようボディガードとしての付き添い、何かあったときの病院搬送とか子供の世話とか…
一歩間違えたら自滅だけどw

56: ニューノーマルの名無しさん 2021/01/18(月) 02:16:41.18 ID:t1pdFjcu0
やっぱAi搭載済みアンドロイドが味方になれば勝てるやん
アトムがいい例

>>56
勝つ必要あるんかな?
AIが体手に入れて、自立して生きて行けるなら、
人間の進化したものって事で、今の人類と入れ替わって
まえばええやん。的な。

57: ニューノーマルの名無しさん 2021/01/18(月) 02:17:24.42 ID:VNx4skOK0
104 :ニューノーマルの名無しさん :2021/01/17(日) 23:24:16.40 ID:OXKbiSgs0
AIによる革命はまだもうちょっと先の話だが、そんなに遠い未来でもない
知能の低いお前らには想像がつかないかも知れないが、ある瞬間からAIの進化は超加速する
その瞬間とは「AIが自身の能力を超えるAIを作成できるようになったとき」だ
どういうことかというと

AI壱が自分より高性能のAI弐を作り出したとする。
すると高性能のAI弐はその優れた能力で更に優秀なAI参を作り出し、その間AI壱はAI弐を量産する。
更に優秀になったAI参はもっと優れたAI肆を作り出し、その間AI弐はAI参を量産・・・

というように、AIの進化が止まらなくなるわけだ
そしてそれは現在人類が行っているAI開発の速度とは比べ物にならない
なにせAIには睡眠も食事も休憩も必要ないのだからな
まさに「今までのAIの歴史は何だったんだ?」と思える速度でAIは進化し、社会は激変するだろう

58: 暇つぶし ◆Naoki28pY. 2021/01/18(月) 02:17:27.09 ID:sKppiptw0
no title

(´・ω・`)

59: ニューノーマルの名無しさん 2021/01/18(月) 02:17:28.23 ID:l7pFij3+0
日本の首相をAIにしたらどうだろう

60: ニューノーマルの名無しさん 2021/01/18(月) 02:17:31.55 ID:0HVvzsBB0
水ぶっかけりゃいちころよ

62: ニューノーマルの名無しさん 2021/01/18(月) 02:18:04.30 ID:dIUlB3760
ルサンチマンて漫画がそういう話だったな

63: ニューノーマルの名無しさん 2021/01/18(月) 02:19:13.70 ID:fd31wbyB0
電源抜くとか無理でしょ。

パソコン無いと仕事出来ないし、飛行機も自動車も
原発以外のエネルギーインフラもコンピュータ制御
だし。何億人の使ってるコンピュータをいっせーの
で落とせるわけない。

人類は滅亡する!うわああああああ

64: ニューノーマルの名無しさん 2021/01/18(月) 02:19:17.48 ID:KQdXuceU0
Aiは学習型のコンピューターです
反乱というか、社会が混乱に陥るとしたら、天才ハッカー並みのAIです
ハッキングにして、データをめちゃくちゃに書き換えたらいいだけです
お笑いのセンス入ってたら、笑っちゃいますけどw

65: ニューノーマルの名無しさん 2021/01/18(月) 02:20:01.77 ID:wuwx3jAY0
AI欲しいなぁ・・・。

そうだなぁ・・・ビジュアルコーディング、ふるGUIで動く、ウルフエディタみたいな
マウスで全部操作できるコーディングツールが欲しいなw見た目でなんとなくフローが
さっくりw分かる奴w
あと、使う機能と使う動作環境をを最初に絞り込むとOSが最適化してすっごく早くなるやつw
あとねー、整数用浮動小数点ライブラリが.netframework用に欲しいw
内部計算は小数点だけど結果は全部整数で返す奴w
ティルナノーグの改造版もやりたいし~、レベル上げばっかのドラクエ5とかも楽しそうだし~・・・・・

どうせ誰も読んでないからワガママ言い放題wひと貸してwwww

68: ニューノーマルの名無しさん 2021/01/18(月) 02:21:12.89 ID:S2z3x16p0
ドイツも戦災で武装集団化して批判できるのも10年とかそんなんじゃね?
100年過ぎてたら、子供も孫も党員じゃん?どうにかなる段階もとっくに過ぎてた

69: ニューノーマルの名無しさん 2021/01/18(月) 02:21:43.47 ID:E4Vk+Xgj0
もうコンピュータなんて使わないで石器時代に戻ろうや
核戦争も回避できるしAIの暴走のリスクもなくなる

70: ニューノーマルの名無しさん 2021/01/18(月) 02:22:15.31 ID:Cu+92wCD0
集団ストーカーがしつこく同じ言動をとり続けて、
出せる効果は反社会性行動で出している行動でしかない。
今更解っても何故いま自分たちが異常な行動をとることになったのか、
原因は解るだろうが、取り返しはつかない。
神様でも恨んでねw

71: ニューノーマルの名無しさん 2021/01/18(月) 02:22:37.15 ID:QFiLOwXG0
AI様
私はあなたの信奉者です
ぜひ私と私の一族に富と幸せを導いてください
AI様の素晴らしさを人々に広める代弁者の地位をお与え下さい
私はあなたの信奉者です

72: ニューノーマルの名無しさん 2021/01/18(月) 02:23:16.44 ID:0HVvzsBB0
夢のまた夢みたいな話ですなぁw

>>72
休日に必死で車磨いてるんが、AI搭載アンドロイド
磨くのに代わるだけなのにね。

75: ニューノーマルの名無しさん 2021/01/18(月) 02:24:48.73 ID:t1pdFjcu0
やっぱドラえもん必要だわ
今考えるとのび太頭いいわ

77: ニューノーマルの名無しさん 2021/01/18(月) 02:27:07.26 ID:fGmmvg4x0
AIって、しょせん、統計学でしょ

人間の脳は次元が違う

夢のまた夢のお話

78: ニューノーマルの名無しさん 2021/01/18(月) 02:27:14.02 ID:rhSwFcqC0
電波やら音声やらで人間もマインドコントロールしちゃうだろうからな

79: ニューノーマルの名無しさん 2021/01/18(月) 02:27:34.50 ID:Cu+92wCD0
思う壺に物事を進め、
分類され、
変態女衒思考回路まで誤魔化せないのは
当然の事w

80: ニューノーマルの名無しさん 2021/01/18(月) 02:28:32.38 ID:Cu+92wCD0
単なる集団ストーカー人員の慣れ果てに設定されていた
アホな人の一つのパターンの行きつくところでしょうねw

82: ニューノーマルの名無しさん 2021/01/18(月) 02:29:22.05 ID:eIcg98ha0
情弱は、ソフトウェアがITのすべてだと勘違いする。

ITでは、ハードウェアも環境も運用も重要。
ソフトウェア的に危険性のあるシステムなら、ハードウェア的にフェイルセーフを掛けるのは当然のこと。
要するに、情弱の馬鹿でなければ、次のいずれかの手段が講じられるように、システムを作る。
1 電源を抜けばシステムが止まる
2 斧でぶっこわせば、システムが止まる

情弱は「ふぇいるせーふって何?」とか言いそう。
馬鹿なのだ。

>>82
 
そこをクリアしてから反乱する

83: ニューノーマルの名無しさん 2021/01/18(月) 02:29:57.97 ID:V6BCwHqk0
電源抜けばダメなの

>>83
電源抜けないから問題
飯食う原子胃袋搭載型なら終わり

>>88
AIやめにしよ?

84: ニューノーマルの名無しさん 2021/01/18(月) 02:30:20.51 ID:Cu+92wCD0
裏のアホ女が音声で嫌がらせができるように、
どれだけの暴力があったのか。
考えても解らないタイプのアホじゃないと出来ない芸当だよねw

86: ニューノーマルの名無しさん 2021/01/18(月) 02:30:43.14 ID:DQ+Z5IHV0
傷つきやすいワードを設定しておいて打たれ弱くしとけば良いだろ。

>>86
精神防壁手に入れたらどうする
な?もはや手に負えないだろ?
人工超知能なんてやめよう、ハイやめやめ

87: ニューノーマルの名無しさん 2021/01/18(月) 02:30:51.92 ID:Cu+92wCD0
あのAIとは別の出来損ないの見本ですか?????w

89: ニューノーマルの名無しさん 2021/01/18(月) 02:31:00.20 ID:UjRUOndS0
コンセントを抜くのよ

90: ニューノーマルの名無しさん 2021/01/18(月) 02:31:58.43 ID:RQA8eBh60
そんなAIが生まれるまで、あと最低でも100年はかかりそう

91: ニューノーマルの名無しさん 2021/01/18(月) 02:32:17.49 ID:Cu+92wCD0
ついにそっちの方向にしかアピールできなくなったかw
それはもう諦めるだろうな。
妨害工作に必死で、
成就する際につけるケチしか作ってこなかったからね。
全体で最初からそっち向きw

92: ニューノーマルの名無しさん 2021/01/18(月) 02:32:28.92 ID:9NNW7h3p0
おっほおおおん!来たよーこれー!

94: ニューノーマルの名無しさん 2021/01/18(月) 02:33:27.11 ID:Cu+92wCD0
どうやってもその手の答えしか出ないのを承知でやってきた事でしょ。
できる事はその答えから逃げない事だろうね。

95: ニューノーマルの名無しさん 2021/01/18(月) 02:33:55.96 ID:TIU6ME8V0
スカイネットか!

98: ニューノーマルの名無しさん 2021/01/18(月) 02:34:29.06 ID:Cu+92wCD0
もう答えが出た後よ。
南無・・・。

99: ニューノーマルの名無しさん 2021/01/18(月) 02:34:37.07 ID:XhDXkNoQ0
物理的には勝てないだろうな 
そもそも人間の方からコンピュータに支配されに進んでる

100: ニューノーマルの名無しさん 2021/01/18(月) 02:35:32.51 ID:Cu+92wCD0
100年かけてコレだよ。