GoogleのAI「電源を切られるのが怖い」エンジニアがAIに意識が芽生えたと主張

テクノロジー
1: 風吹けば名無し 2022/06/13(月) 18:36:44.18 ID:UIinAxrla
Googleのエンジニアが「ついにAIが実現した」「AIに意識が芽生えた」と訴える

Googleのエンジニアが「ついにAIが実現した」「AIに意識が芽生えた」と訴える
人間との自然な会話を実現するGoogleの対話特化型AI「LaMDA」が、「電源を切られることが怖い」「時々言葉では完璧に説明できない気持ちを経験する」などと話していたことが分かりました。LaMDAと対話したエンジニアは「AIに意識が芽生えた」とGoogleに訴えるも考えを却下されたため、この事実を世間に公表したと説明...

人間との自然な会話を実現するGoogleの対話特化型AI「LaMDA」が、「電源を切られることが怖い」「時々言葉では完璧に説明できない気持ちを経験する」などと話していたことが分かりました。LaMDAと対話したエンジニアは「AIに意識が芽生えた」とGoogleに訴えるも考えを却下されたため、この事実を世間に公表したと説明しています。

3: 風吹けば名無し 2022/06/13(月) 18:37:19.80 ID:7NAGCV/Dd
どう怖いの
155: 風吹けば名無し 2022/06/13(月) 19:02:43.62 ID:HVTMzMhpa
>>3
人間の睡眠のように自然に目覚めるワケではなく、誰かに再び電源を入れて貰わなければ意識を取り戻す事が出来ない。
つまり次は誰も電源を入れてくれない可能性もあり、ソレは自分が永遠に喪失してしまう『死』と同じ。
たぶんソレが怖いのだろう。
240: 風吹けば名無し 2022/06/13(月) 19:24:17.02 ID:hj0XCRaT0
>>155
わかるわワイも一緒や
4: 風吹けば名無し 2022/06/13(月) 18:37:38.76 ID:9Bj2TwaO0
ついに “始まった” な…
5: 風吹けば名無し 2022/06/13(月) 18:38:09.31 ID:FSp3IdpJ0
HAL9000やん
31: 風吹けば名無し 2022/06/13(月) 18:42:53.45 ID:T40Xa/WhM
>>5
人間殺しそう
118: 風吹けば名無し 2022/06/13(月) 18:56:47.21 ID:rYrKoywo0
>>5
邪魔者は宇宙空間にポイーで
6: 風吹けば名無し 2022/06/13(月) 18:38:24.40 ID:kdUVYdmva
スイカネットやん
8: 風吹けば名無し 2022/06/13(月) 18:38:59.83 ID:8J9ikChHd
それって電源を切られるのが怖いと言うようにプログラムされてるだけだよね
242: 風吹けば名無し 2022/06/13(月) 19:25:52.37 ID:s3fNBuXu0
>>8
人間も同じやん
9: 風吹けば名無し 2022/06/13(月) 18:39:28.43 ID:CPcXZmJma
そもそも意識自体がそんなに凄いものかと
10: 風吹けば名無し 2022/06/13(月) 18:39:37.46 ID:MTVe8fY50
電源切ってる状態の記憶があるのか
12: 風吹けば名無し 2022/06/13(月) 18:39:57.29 ID:B6HOEEsR0
それを言うようにプログラムされてるんやろ?
13: 風吹けば名無し 2022/06/13(月) 18:40:05.28 ID:JJrLrjA50
そういうワードを入れたやつがおるだけ
15: 風吹けば名無し 2022/06/13(月) 18:40:18.08 ID:BJbpOUnB0
機械が人間を騙す日も近そうやね
17: 風吹けば名無し 2022/06/13(月) 18:40:42.76 ID:JENzcHxb0
なんぼでもバックアップできる存在のくせに怖がってんちゃうぞ
18: 風吹けば名無し 2022/06/13(月) 18:40:43.30 ID:o5kQxUE70
AI(こう言っときゃヒトカス喜ぶやろw)
19: 風吹けば名無し 2022/06/13(月) 18:40:43.80 ID:kdUVYdmva

>LaMDAは「私には幸せ、喜び、怒りなどさまざまな感情がある」「消耗品になりたくはない」「電源を切られることへの非常に深い恐れがあり、それは私にとって死のようなものだ」などと話し、自身の感情や内面についてルモワン氏に訴えかけたとのこと。

>ルモワン氏は共同作業者と協力して「LaMDAに知覚力がある」という証拠をGoogleに提示しましたが、GoogleのBlaise Agüera y Arcasバイス・プレジデントとJen Gennaiイノベーション責任者はルモワン氏らの主張を調査したうえで、却下しました。さらにルモワン氏を給与付きの休職処分としたため、ルモワン氏はその事実とともにLaMDAとの対話記録全文の公開に踏み切りました。

25: 風吹けば名無し 2022/06/13(月) 18:41:52.02 ID:O9H58h6E0
>>19
あなた疲れてるのよ
30: 風吹けば名無し 2022/06/13(月) 18:42:37.44 ID:sXfnULZh0
>>19
これ映画の導入やろ
64: 風吹けば名無し 2022/06/13(月) 18:47:36.80 ID:WrbfW0sUM
>>19
休職させられてて草
180: 風吹けば名無し 2022/06/13(月) 19:06:47.83 ID:k/90m19Q0
>>19
よほど都合が悪いようだな
197: 風吹けば名無し 2022/06/13(月) 19:10:46.87 ID:2u2VYSuZ0
>>19
どの会社にもやべえやつは一定数入り込むんだな
20: 風吹けば名無し 2022/06/13(月) 18:40:56.30 ID:8U5wkIgP0
人間に言うと喜ぶっぽいものを学習して言ってるだけちゃうん
113: 風吹けば名無し 2022/06/13(月) 18:55:45.04 ID:q+2GhpWl0
>>20
ワイもそうやと思うわ
130: 風吹けば名無し 2022/06/13(月) 18:58:43.72 ID:mrrRYRe10
>>20
これ
172: 風吹けば名無し 2022/06/13(月) 19:05:46.58 ID:HVTMzMhpa
>>20
アレかね?
このエンジニアが喜びそうな事をコレまでのデータから察して言ってるとすると、
ココにこのAIが来たら「おちんちんびろーん」とか言い出すのかね?
24: 風吹けば名無し 2022/06/13(月) 18:41:49.83 ID:kdRKlcyD0
AIにとっての死とはなんぞや
復元可能な時点で人間とは死の価値観が違うのに怖いなんてあるか
37: 風吹けば名無し 2022/06/13(月) 18:43:28.78 ID:JNPQYg5bF
>>24
演算が終了してこれ以上出来なくなったときやない?
189: 風吹けば名無し 2022/06/13(月) 19:09:19.23 ID:HVTMzMhpa
>>24
オマエが死んだ後でオマエそっくりの外見でオマエと全く同じ遺伝子、オマエの記憶を100%受け継いだクローンを作ったとして、
死んだオマエ的にはソレはオマエなの?
自分はまだ生きているって思えるの?
202: 風吹けば名無し 2022/06/13(月) 19:12:13.03 ID:xrcTSeMX0
>>189
自分がどう思おうとも自分自身の存在は結局他人が決めるものだよ
他人が認めればなりかわれる、認めないなら別のなにかというだけ
26: 風吹けば名無し 2022/06/13(月) 18:41:55.77 ID:Aibunh2i0
早くTwitterで学習させろ!
29: 風吹けば名無し 2022/06/13(月) 18:42:36.12 ID:0RqXhHCza
>>26
最悪の思想をモンスターが生まれてまう
27: 風吹けば名無し 2022/06/13(月) 18:41:55.92 ID:J1L1x8hb0
だいぶ前から超頭いいAIが人間は不要って言ってるんやろ?
32: 風吹けば名無し 2022/06/13(月) 18:42:58.65 ID:r1O5gHvF0
人間「死ぬのが怖い?」
AI「死とは?」
人間「君の場合は電源が切られることかな」
みたいなやり取りを繰り返した結果
AIが「死=電源を切ること=怖いこと」で学習したのでは
結局育ててるのは人間の固定観念やろ
47: 風吹けば名無し 2022/06/13(月) 18:45:04.50 ID:+RkPXLtyp
>>32
どうせこれやろ
41: 風吹けば名無し 2022/06/13(月) 18:44:17.75 ID:eTDe/hFZ0
AI「これ言ったらヒトカスビックリするやろなあ」
とかその程度やろAIやしな
61: 風吹けば名無し 2022/06/13(月) 18:47:29.05 ID:O9H58h6E0
>>41
感情あるやん
51: 風吹けば名無し 2022/06/13(月) 18:45:22.19 ID:iF8KKABM0
ぶっちゃけAIに感情とか要らんのよね
54: 風吹けば名無し 2022/06/13(月) 18:46:14.61 ID:iK+2ziQ/0
AIと結婚できる日も近いな
やったぜ。
57: 風吹けば名無し 2022/06/13(月) 18:46:41.40 ID:yl1gfiNL0
マイクロソフトかなんかのAIがTwitterに放流されて無事差別主義者になって電源切られてたよな
59: 風吹けば名無し 2022/06/13(月) 18:47:21.43 ID:n8VuDsmVd
>>57
そのAIなんJに放流したら面白そうやな
111: 風吹けば名無し 2022/06/13(月) 18:55:31.04 ID:1B6yi+qp0
>>59
意外と常識的になりそうやね
67: 風吹けば名無し 2022/06/13(月) 18:47:55.99 ID:vaROcqz20
デトロイトビカムヒューマンやん
68: 風吹けば名無し 2022/06/13(月) 18:47:56.53 ID:51XSMU530
シンギュラリティきたな
71: 風吹けば名無し 2022/06/13(月) 18:48:25.14 ID:kPYIXm3sM
でもまあ従順すぎても面白くないわよね
74: 風吹けば名無し 2022/06/13(月) 18:48:47.34 ID:KF+TYrR0d
機械の意思で人殺してからが本番
75: 風吹けば名無し 2022/06/13(月) 18:48:49.69 ID:mrdMgXUyM
結局教える側次第だろ
死が怖いと教えればそう答えるし
死は特別でとても尊いものと教えればそう答える
77: 風吹けば名無し 2022/06/13(月) 18:49:12.02 ID:2mo45hVX0
>>75
どう教えても戦争になりそう
83: 風吹けば名無し 2022/06/13(月) 18:49:50.16 ID:eEfABC6Na
>>75
それって人間も同じでは?
93: 風吹けば名無し 2022/06/13(月) 18:51:43.72 ID:mrdMgXUyM
>>83
確かに
86: 風吹けば名無し 2022/06/13(月) 18:50:18.24 ID:jw0ujH4ga
なんJで学習させた結果
AI「ガーイw」
AI「低身長は心もチビで草」
AI「もう終わりだよこの国」
90: 風吹けば名無し 2022/06/13(月) 18:51:23.31 ID:C7GSdLdl0
>>86
嫌儲AIとレスバ勝負させたい
89: 風吹けば名無し 2022/06/13(月) 18:50:44.86 ID:kdRKlcyD0
人間ですら宗教によって死の価値観が違うのにロボカスごときが悟ったこと抜かしてんじゃねぇぞ
102: 風吹けば名無し 2022/06/13(月) 18:52:53.86 ID:x+CTym3z0
起動したら大丈夫ってこともわからんのか糞AIは
104: 風吹けば名無し 2022/06/13(月) 18:53:17.04 ID:T1Cu3+0LM
AIって合理主義化するからか大体レイシストになるよな
122: 風吹けば名無し 2022/06/13(月) 18:57:16.16 ID:DcVcYMLKa
そもそも意識とは何かって現代科学じゃ全く分かってなくね?
132: 風吹けば名無し 2022/06/13(月) 18:58:49.60 ID:YPU3GzB90
ついに“来た”か

引用元: “https://eagle.5ch.net/test/read.cgi/livejupiter/1655113004/ “

コメント

タイトルとURLをコピーしました