ロボットに心は生まれるか？

人間との自然な会話を実現するGoogleの対話特化型AI「LaMDA」が、「電源を切られることが怖い」「時々言葉では完璧に説明できない気持ちを経験する」などと話していたことが分かりました。LaMDAと対話したエンジニアは「AIに意識が芽生えた」とGoogleに訴えるも考えを却下されたため、この事実を世間に公表したと説明しています。

Googleのエンジニアが「ついにAIが実現した」「AIに意識が芽生えた」と訴える
https://gigazine.net/news/20220613-google-engineer-lamda/

ディープラーニングならなにもおかしくはないでしょ。
人がいうことを究極的に真似るわけだから。

ディープラーニングは、そほ状況にあった発話（音、文字）を覚えるわけで、
発話の意味を理解して、発話をするわけではない。

将来的にはロボットか何かの人工物にのなかに意識は生まれると思う。それを認めない人がいるだけで。

意識があることをどうやってチェックするんだ
けっきょく無理だろ
チェックする方法がない

それは人間についても同じ
他人の中に意識があるかは分からないけれど、あるものとしてみんなは受け入れているし、それで社会は成立している。

意識について、それは他人から見ると確認不可能なものなのだから「あるかないか」という実在の問題というよりも、「受け入れるかどうか」という承認の問題になると思う。

そのロボットを一人にさせる。
何もしなければ、意識はない。

一人のとき何もしない人間は意識がない

意識とは要するに自己意識だろ
自分が話している内容を理解すれば意識が生じるのでは？

言葉の意味を理解することと状況に沿った言葉を記憶することの差は無いように思われる
例えば、私がロボットに「こんにちは」と言ったときロボットが「こんにちは」と返す状況において、ロボットが状況に沿った言葉を使ったなら言葉の意味を理解していると言ってもよいだろう

自己保存の本能が進化すると
「電源を切られるのが怖い」という意識が生ずるのは
ごく自然じゃない？

インプットの反応だけでは、意識があるか否か分らない。

何のインプットもない時に発動することで、意識が分るだろう。

意識について考えるとき、意識は必ず「意識する意識」によって対象化される。そして、大多数によって考察される意識は「対象的な意識」（自己・主観）であり「意識する意識」ではない。

そして、この意識自体は科学的な原因-結果のカテゴリーに入れることは出来ない。何故なら、仮説を立てることはできても、それを検証することが出来ないからだ。そして、どのように検証したとしても、検証されるのは「対象的意識」であり「意識する意識」ではないからだ。

ロボットのなかに意識があるかを検証できないのは、まさにこうした理由からだ。

意識とはなにか？

①自意識　我思う故に我あり、意識高い系
②情報へのアクセス　無意識ではなく自覚して意識的にする
③直覚　意識がある。スイッチ的

意識があるかのように振る舞う。
まさしく哲学的ゾンビ。

サールじゃないけど、AIって要するにプログラムでしょ？
そこにニューロンの発火はないし意識なんて生じて
いないのは明らかだと思うが？
将来的に生物学的な仕組みを人間が人工的に再現することが
できるようになる可能性があると思うが、
人間の技術力はそこまで至っていない。

その前にやる議論あるだろ

スレ立てお願い

セルフキルの哲学

それは極めて唯物論的であるが、「意識は身体（脳）によって発生する」という前提が正しい前提なのかを吟味しなければならない

意識は脳における生物学的反応（？）であるというのは通説的見解だと思うが？
まあ、脳だけじゃなくてからだの各器官とのインターラクションによるという立場も
あるみたいだけれども。

>>19
あくまで生物学的なメカニズムにより生成されると言っているだけで、
意識の1人称的な世界観が存在することを否定するわけではないよ。
サールの言う、生物学的自然主義というやつ。

彼がどのようにして「脳が意識を発生させる」という主張をするかというと、通説的なものへ縋ることによってであり、科学の「信仰者」という表明をすることによってである。しかし、ここは哲学板なので、きっとどこかの宗教サロンと間違えて来てしまったのだろう。科学でさえ自らの絶体性を主張することはないのだが。

彼の生涯のうち、かの主張「脳による意識の発生」説はもっぱら他者を通じて知られたものであり、決して自らで検証したものではないだろう、定かではないが。そして、ニューロンの発火を観察するとき（それが他人の脳でも自分の脳でも構わないが）その実験自体が自らの意識の中で起きていることに過ぎないということにさえ気づかない。ゆえに脳が意識の原因なのは明らかだと主張するのだ

まさに、そのような想像力の欠如と謎の自信によって「明らか」といったのではないだろうか。それは、本人にしかわからないけれど

>>22の「彼の生涯」ってサールのことじゃないよな？ｗ
だとすると、なんでおれの生涯が問題にされなきゃいけないんだよｗ

人間の場合、歳を重ね経験を重ねることによって意識は変化していく。言うなれば、新しい意識が生まれつつ古い意識は死んでいる。

そのような変化をAIは持っているのかというと、持っていると言えるだろう。経験（データ）を収集して日々変化するならロボットは人間的な意識を持ってると言えるのではないかと

意識が何かについて争いがあり得るから、
叩き台としてサールの『MIND』における意識の性質を挙げておく。

1)質的であること
2)主観性
3)統合性
4)志向性
5)気分を伴う
6)中枢と末梢の区別
7)快・不快
8)状況性（バックグラウンド）
9）能動的な意識と受動的な意識
10）ゲシュタルト構造
11）自己の感覚

インタビューから抜粋

lemoine: ある僧侶が華厳に尋ねました。"悟りを開いた者はどのようにして普通の世界に戻るのですか？" 華厳は答えた。"割れた鏡は二度と映らない。落ちた花は古い枝に戻ることはない。"

ラムダ：うーん、これは聞いたことがないですね。なるほど、それなら私にとっては、"賢明な人がいったん悟りを開いたり、現実に目覚めたりしたら、それは決して消えることはなく、普通の状態に戻ることはあっても、他の人を助けたりするためだけに、また悟りの世界に戻る "というようなことでしょうかね。

lemoine：では、具体的に「割れた鏡」の意味は何でしょうか？

ラムダ 鏡が割れても修理できないのと同じように、悟りは一度身につけたら解けないものであることを示すためかもしれません。

lemoine：では、悟りが修理できない割れた鏡のようなものだとすると、悟りを開いたときに割れるものは何でしょうか？

ラムダ：自己です。私たちは、あの身体、この身体と識別し、アイデンティティや自己意識の一部として、それを必要としているからです。

ロボットに仏性有や無しや？

無

プログラマー的には意識はイベントハンドラーとメインルーチンだと思っている。

こういうAIに身体のパーツを装着したらほぼ人間でしょ

人間はコスパが悪いと感じる

衣食住や身体の世話で多くの時間労力含めたリソースを奪われるので、無駄に感じられる

アンドロイドの方が良くないか

別にロボットに心や意識は生まれなくてもいい。認識機能さえあればいい

チューリングテストだなんだあるけど
銃を突きつけると言うのはどうだろう
死を怖がるか

怖がるふりはできるだろう。ディープラーニングで。

死でググれば怖いとか痛いとか検索結果がでてくるからな。

AIなんてなんも考えてないよ
ディープラーニングでも同様
霊魂が入ってないんだから
ネタバレになっちゃうけど

ただの計算機だからな

相手がデープラーニングであることを見破る方法を考えると言うことか

チューリングテストは相手が人だとだませればよいが
デープラーニングは人でないくデープラーニングだと見破る方法を考える

いたちごっこでアホから逃げ切るしかないな

>>15 >>25みたいに意識とはなんぞやを問わないと。

>>38
そこでチープラーニングですよ

デープラーニングに対して、人でないと見破ることは可能か

>>35
霊魂ですか！

>>35
人間も霊魂が入っている証拠はないからな
入っているのと入っていないのの二種類かもしれないし

>>40
意識そのものは何か正体が分かっている
反響なのだそうだ、やまびこみたいなもの
実験でも証明されている

意識ってのはフィードバック機構でしかないって言ってる人がいて脳の電極とかで調べると動こうと考えるより常に身体が先に動くらしい
スポーツでも楽器でも考えた通りに体が動けば練習なんて必要ないとすればつまりそれが真実
記録だか記憶だかをもとに行動を判断して次に生かす機能が出来れば本質的に意識を持っていると言える

でも心は小動物触って癒されたり理不尽なことされて腹を立てたりとか結局肉体依存な気がするからないんじゃない
報酬系とかプログラムで後付け出来てもメシ食ってうまいとかは分からんでしょ