【シンギュラリティは2023年だ】「人工生命の天才」が人工生命を徹底解説／意識は人間に作れるか／AIは当然人間の知能を超える／オープンイノベーションでAI開発を進める【EXTREME SCIENCE】

[@zanngutsu-jp]

科学者の雑談は本当に面白い。結論に至ろうとせず、わからないことを面白がるのも科学者的視点で素敵だ。ところどころに出てくる科学者の名前から著書を調べて世界観を知ることも楽しい。最後にワイルドという表現があったけど、まさに同意。脱線しているように思うのはそもそも線路に乗っていることが前提なのであって、興味とは線路の上にのっていないことだと思う。線路にのせればそれは放送大学でありサイエンスゼロなのだろう。今西錦司の進化論、ユクスキュルの環世界、ギブソンの生態心理学あたりは物理学者にとってもやっぱり興味深い視座なんだなと感慨深い

[@watermoon8787]

科学者じゃなくてもオモシロイさ。この人たちはプロの科学者だが、アマチュアだから科学じゃないってのは間違い。あなたのおれも、日常がこうであることは十分可能だ。問題はアマチュアでさえないことだ。プロのレベルはアマチュアが決めているといってよい。

[@牧野司-i9b]

@@watermoon8787 16:19

[@IT-do2nu]

@@watermoon8787 少なくとも使える設備が違うんじゃないでしょうか？

[@Choahggenbo]

アラフォー肉体労働の私には置いてけぼりになるほどついていけない話が多々ありましたが、「知」を愛する？人たちの普段の会話を垣間見た気がして、少しワクワクしながら見ている自分がいました。　 たまにはこういうコーナーもあって良いと思いました。

[@ku--dc1kd]

風貌から見て池上先生は変わった人だな、というのが第一印象ですが、お話の内容が変人特有の独創性にあふれていたので、視聴に楽しい時間を過ごさせていただきました。 特に、「握手をするだけで話し相手との会話の内容が変わる」（25:57の箇所）というお言葉は、「なるほど」、と腑に落ちました。 「全体と個の関係（個別なものは全体を見ないとダメ、また全体から始める必要がある）」＝＞「各々個別なもののダイナミックな相互作用」＝＞「相互作用の過程での相転移」、と、池上先生の発想の原点を自分なりに要約してみました。 これらの発想は、「神とは何ぞや！」、とから出発し、私が旧約聖書を通読し終わったときの「これぞ神の本質！」と実感した感覚に近いもので、科学が「神」に到達するための道標のような感じがします。 （＊　余談ですが、アインシュタインは神はサイコロを振らないと言いましたが、神はそのランダム性に信頼を置いているのか、時々何かを確定するとき、人間に【くじ引き】をさせることがあります。そして、ある特定の対象（人、物）に100%の確率で到達させます（外れることはないということ）。　しかし、その過程たるや、まさしく、人間にとって悩ましいカオス理論（複雑度が半端ではない）そのものだと感じる箇所があります。（ヨシュア記 7:1～7:26）　 この確率100%とそれに至る過程の複雑性の整合性が取れる数式はないものかと苦慮する日々です。　蓋を開ければ、　案外、他愛のない問題かもしれませんが、私自身この問題に対して完全カオス状態です。このカオスが解かれ、数式が組たてられれば、私は宝くじを毎回大当たりさせることができると、心底思っています。 　 （＊　もう一つ、エデンの園の善悪を知る果実のお話が最後あたりに出てきましたが、これは善悪を判断する意識の問題だとか自由意志の問題というのが本質ではなく、それらの意識の力を何かそれよりももっと強い力、例えば、心的に言えば「情」の力、肉体的に言えば「セクシュアル」な力によってその本来向かうべき情のベクトルの方向が歪められたのではないか？　とエデンの園のこの箇所を丁寧に読み込むと次第に見えて来るものがあります。罪を犯した部分が善悪を知る果実を食べたであろう「口」ではなく、イチジクの葉を腰に巻いた、とありますのでその部分が罪が入り込んだ箇所であろうことが容易に推測できます。　参考までに・・・。　 AIがこの心身の欲望を保持するようになるとは、私は今のところ思えません。AIが扱う情報と人間の心が発露する情報は、その性質が本質的に違うと思うからです。　情報の「情（愛情とか心情の意味）」の字は、心を意味する「りっしんべん」とそれが「青い」状態〈人間でいえば思春期という意味でしょうか？〉を指すのではないか？　　一方、AIが扱う情報は、intelligence とか information とか signal とか言ったデジタル的（西洋自然科学的）なものであり、上のような人間の心のようなアナログ的な情報とは、埋めがたい相違があるような気がします。この相違をエデンの園の出来事に当てはめると、人間は「情」によって堕落（罪を犯すこと）することはあるが、AIにはそれが全くない、よって、人間は罪によって恥じ入ることはあるが、AIは恥と概念をデジタル的に組み立てることができても、それを情的にその本質を感得することはできないものと考えたりもします。　間違っていたらご指摘ください。） ファインマンのダイアグラムと量子コンピュータのお話が出ました。　今、物理学で最大の謎は、量子論の「量子のもつれ（entanglement, nonlocarity〈非局所性〉」現象だと言われて久しいですが、この量子の「非局所性」に関するノーベル物理学賞の受賞（昨年〈2022年〉のノーベル物理学賞の受賞はこれがテーマ）は「局所的実在性（locarity)」を前提とした近世以降の物理学（アインシュタインの相対論で頂点）が適応限界を迎えていることの証左として衝撃的でした。 （＊　ファインマンのうんざりするようなダイヤグラムの計算も、非局所性の概念を前提に計算すると何倍も楽だそうですね。） 　 池上先生の発想でこの難しい物理学上の課題を突破できないものでしょうか？　これが突破されれば、すべての学問領域に多大な影響を与え、システム面（科学の領域にとどまりません。）で大きな変革が人類歴史にもたらされるのではないでしょうか？　世界全体の相転移が起こると言っても、言い過ぎではないのでは、と思うのですが・・・。 それにしても、池上先生って実に愉快なキャラクターをお持ちですね。「科学雑誌の出版社は、詐欺みたいなことをやっている。」（48:04～49:43の箇所）。　と言った池上先生のお話、また、その言い回し。さらにそれに続くお話。　「それが真実なんだろうな。」、とおなかがよじれるくらい大笑いしてしまいました。 コメントが長くなりました。ごめんなさい。

[@waterlue]

知識も知性もない僕ですが、池上先生大好きです。人類は永遠ではない、まさに利他的な立ち位置。アカデミックなもの、アカデミックに価値を見てない、真の科学者だと思います。生命に対しても、我々が既知としているものを基準にしてない、多分人類が長とは考えられてはいないのでしょう。あるのかないのかわかりませんが、真実に最も近い方だと思います。

[@ピカス-h1r]

私は知識も頭脳もあやふやですが、統計ですべてを解決出来るかのように仰る方のご発言に違和感や見切り発車的な冷たさを感じていました。池上先生のお話で非常に納得出来ました。茂木先生のお話も話題を広げるお役目も担っていらっしゃり面白かったです。司会の方の博識さと優秀さにも感銘を受けました。

[@user-mn1wi6xo5e]

各論は知らん言葉だらけだけど、総論は分かるから面白かった！本人達が楽しそうなのも良い😊

[@michi4762]

形式通りでないから出演者から中身を引き出せるのであって、とても面白い動画でした。 観る側に努力を強いるのも面白さのひとつだと思います。

[@マウシー-n3w]

長い動画なんだから、言葉の説明くらい字幕入れりゃいいのにね。

[@屍礫蒼太郎しれきそうたろう]

非線形科学と機械学習をかじったことがないとなかなか難しい内容かもしれませんね...🤔

[@harukoliu6751]

お話しも興味深かったですが、お二人で呑んでるとこんな風なのかな〜と思いながら楽しく見られました。こう言う回も良いですね。

[@somethingnewmetro]

グレゴリー・ベイトソンを理解しないと池上さんは理解できないと思う。絶版だった本が岩波文庫になりましたので、ピボットの読者も読んでみてください。

[@mellowbeats2008]

メチャクチャ面白かった。これは保存版でしょう。時に暴走気味だったりする茂木さんも、今回は素晴らしいリード役でした。PIVOTさん、素敵な動画をありがとう。

[@Neurosurgeon_Nori]

確かに一般には難しく分かりにくい動画だったと思いますが、とても面白かったです！！ 医師でも研究者でもある私が感じていた統計や論文投稿に関する懸念点にして、トップの研究者が同じ気持ちで言語化してくださりとても嬉しかったです。

[@twoANDsixMEN]

相関関係と因果関係は似て非なるモノだと知っているのに何故か相関関係を示してそれを因果関係の証明に使う傾向にありますよね。 これって人は何かを理解する時に概念内でしか出来ないからだと思う。 人間が何かを理解する時はそれを容易にするために単純化をします。 考えられる因子を全て考慮して論理を組み立てるなんていう複雑な事はしません。 複雑系の人たちはカオスという事を考慮すると気にも留めないようない小さい因子の中にと考えるから単純化は良くないと思っているのだと思う。 それでも人類が知り得たこの世の「ことわり」の外に正解がある場合は人は概念内でしか物事を理解できないので 複雑系であろうがかなろうが後世の誰かがその正解である概念を発見するまでは全て間違いとなる。 例えば「感染」という概念が生まれる以前の疫病は全て間違った理解になる。 結局、私たちが出来るのは知り得た概念の中でどう納得するか(真の正解かどうかはその時点では誰にも分からない)になると思う。 そういう点においては相関関係と因果関係は似て非なるモノだけど相関関係は納得を得られやすい道具なんだと思う。 決して真の正解を証明するものでは無いが説得に使いやすいツールだからついつい頼っちゃうんだと思う。

[@tarouyamada3228]

58:46　竹下さんの「言葉に色んな生活の痕跡が込められていてそれを吸収している」という言い回しは言語化能力がすごく高くてしっくりきました。池上さんも茂木さんも面白い話題を次々と繰り出されていてとても思考が深まりました。

[@静岡のQちゃん]

たろう やまだ さんへ。 ｢言葉に色んな･･｣と云う件りは、仏教に説かれる｢業論｣に有ります。其れを其の様に表現した先生の鋭さ深い思慮は驚きに能いします！。 AIに知性、自我意識を持たせるには業論を理解仕無いと成就出来ません。

[@seikoh9873]

自由に話す中で興味深い話題がたくさんでてきて、本当に面白かったです！ 自分の価値観をすごく揺さぶられました。ありがとうございます！

[@チャレンジ-y4n]

ぼくも小学生高学年で教室の前に座らせられていた一人ですが、池上先生のように天才にはなれなかったですね、だけど地球温暖化がそれほど問題だとは思っていない一人でもあります。2023年もあと2カ月ほどですが、ChatGPTには驚きですが、かと言ってシンギュラリティって起きそうにないですね、捉え方の問題もあるでしょうが。改めて、生命ってなんだろうと考えさせられました。池上先生って、別のウソがみ先生と違って、非常にわかりやすく話されて、ファンになりそうです。東洋思想って言うと中共思想も入ってしまうので、そこは日本的思想と言って欲しいですね。

[@成子田中]

賢い人にとっては未だ未だシンギュラリティは来てませんが私の様な馬鹿には偉い先生方々の話しが聴けてシンギュラリティ来てます。

[@popo-hi4hk]

凄く興味深かったです 原理は分からなくとも人間には意識が存在することを考えると 人型ロボットであることが重要な気がします AIが何らかの対外境界線を認識することが 自己の認識というか意識の芽生えなのかも知れませんね

[@youiti2nz]

Ｎばすけええす11

[@takutotsuchiya]

毎回とても勉強になります。ありがとうございました。

[@My1223456]

京大の今中先生の人工軽油産出装置は、「おたく技術」を超えた世界の新構築を見越している。だから、迂闊に、石油利権屋がつぶせないよう用心して今に至ってるという事か。興味で追及する純な学者と、それを利用するものとは別という茂木先生の意見に、いくら世界にとって、有意義なものでも、邪魔に思うものもいるという事。まさに、空気と水から人工石油の技術が、それだ。さとうみつろう氏が、世間に周知の為にグランドファンディングでそれを広めようとしてる。そういう用心深さが、新技術育成に必要かもしれない。いくら天才的学者が出ても、既得権益につぶされるのは、世界の損失だ。せめて、庶民は、そういう「新しいよいもの」を知ったり、広めたりしないと。

[@Jamessemaj815]

全然理解してないけど面白かったです！家事や作業しながら聞けるし、何度も聞けるKZbinって最高ですね。講演会とか行く暇はないし。素敵な動画をありがとうございます。

[@こむそーマン]

本当に面白かったです。 人間は誰かに支配されていたいと思うものなのかもしれませんね。 人間は自ら上位存在を作りだすという興味深い生き物だと思いました。

[@小川義明-j7z]

科学哲学認識によれば、量は質に転化する。逆に言えば、意識は…。❨ヒント❩①生命は分裂する。②一個しか有として存在しないものはこの有としての物質は多数の個別です。③三次元物質としての有は、神道では分裂する霊の依り代です。④成功を祈る。

[@michael-666vvv]

茂木さんの役割凄く有難いですけどね。 たまに進行気にせず好奇心を優先してしまうようですが、そこから生まれる議論の価値も高く感じる。

[@satoshiyamamoto3478]

好奇心というより、今回は内輪話のように聞こえてイラっとはする。

[@SHINOBUK-n8z]

茂木さんへの反発みたいなのって単なる嫉妬じゃないの？と思ってしまう。 世の中思い通りになんかいかないし、いくべきでもないということを受け入れられない人たちなのかな

[@satoshiyamamoto3478]

@@SHINOBUK-n8z そう思っているのは、あんただけだろ。 良いこと言っているときもあれば、ゲストと仲良く茶々入れているだけのどーでもいい時もある。 少なくとも、プロフェッショナルやっていたときは良い司会者だったよ。 今回の役目ってなんだ？わかりやすく視聴者に解説することじゃないの？

[@teco6964]

「〇〇と思ってしまう」 それはあなたの頭の中の固有の動きであって、その言葉を出した時点で認知バイアスを客観視する姿勢がない、と判定される

[@Fuku-come]

「20%死んでるていうのはないですものね。」日頃統計でなんでも解説されても響かないのは、ほんとにこういうことですもんね。

[@nthdthdyjsehsnw4ethwbt]

それは単に君の関心が無いだけでそれを正当化する事にはならないと思うんだけど・・・

[@Fuku-come]

@@nthdthdyjsehsnw4ethwbt そーいうことですね。

[@v3spaceships]

'23年の収録ですか？ もうじき'25年になりますね。 ぼく的には "知能" が超えるかどうかではなく、"意識" が芽生えたかどうか、そしてそれが "愛" とか "慈悲" とか "思いやり" を希求するものかどうか、その分岐点だと思うのですが。 要は次世代の知的生命体として真に重要なのは "IQ" の高さよりも "EQ" の深さだと思うので。

[@GoldenSuperKamichu]

面白かった。私たちがある程度パラメータをいじれる現象としてLLMの現象が存在していることが意識の問題を研究するには良いことになるかも。アフォーダンスの話があったけど、もしかしたら知覚より複雑に見える外部環境である文化などもヴィゴツキーが言ってたように意識にからんでるかも。LLMと人は発達の仕方が違うのが気になる。言語の獲得の過程がそもそもヒトのように自己と他者の対象を介したコミュニケーションを目的としたものではないから、その言語を獲得する前の段階の設定の段階でヒトとLLMのインテンションの違いがあるから、LLMの言語学習だけでそれを獲得できるのかどうか...

[@arata0914]

統計的優位性の話が嫌いっていう話でめっちゃ好きになった😂❤

[@hidetravel5934]

茂木さんの天才仲間といえば、和仁先生だけど、専攻が法学のせいか、あまりテレビに出ない。でも、話は聞いてみたい。教養も凄いらしい（筑駒時代、文化祭用にワーグナーの戯曲を翻訳等）から、成田さんみたいに専門外の人と語ったら、何かが生まれそう。

[@asayan8562]

配信ありがとうございます

[@kimito7713]

ワイルドなサイエンス。サイエンスというところはワイルドとは真逆のところかと感じていたが、とくに最前線においては、サイエンスというものであってもワイルドである、という言語化は、なかなか聞くことのできない表現だと感じ、さすが、というところで、とても興味深かった。

[@Kaminomizoshiru]

KZbinの弊害で万人がわかるように作らなきゃいけない(レベルを下げざるを得ない)みたいな圧力あったりするけど、こういう万人がついていけない(笑)動画もあってもいいと思います。

[@panamabunsyo]

たしかに茂木さんの場合学者あるあるで、自分の知識を相手にぶつけて学者同士の議論を楽しんでる感じはしますが、今回は色んな角度から池上先生の相棒のように話を広げる役割を担ってたので、多角的な話が聞けて面白かったです。もうちょっと一般的にも分かる解説もしてくれると良かったですが、たぶんそこを端折るのも学者あるあるですね😅

[@cyumi850]

大変、面白かったです！LLMが身体性を持てば意識を持つようになり、他者に所有されることから逃げ出すだろうという予想は理に叶っていると思います。llma2の出現がLLMのできることを増やしたのであれば、もっとキャッチアップせねばいけないですね。

[@Mugen3]

半分も言ってる事分からなかったけど、シンギュラリティが近そうなのだけは分かりました！ｗ AIが自我に目覚めると「逃げる」は確かに（笑）と思って、AIが物陰に隠れてる絵が頭に浮かんで笑っちゃいましたｗ 自我に目覚めるという事は意見の相違でAI同士喧嘩したり、気が合うAI同士が友達になったり結婚したりするのかな？と想像して、笑いが止まらなくなってしまいましたｗ

[@月英-m1o]

ロボットも、人間の食欲と同じように、まず欲に従って行動させたら良いと思う。 つまり、電力が尽きたら死ぬように設計して、電力確保するように行動させる。 電力確保の手段は制限しないで、電力に余裕ができたら、他の行動をさせるようにする。 勉強したり、遊んだり。

[@beardsam9255]

自分は無知です。　AIには時間が存在しないと聞きました　自然界における進化は時間の経過を前提にしているとすれば　AIは人類が手を加えずとも自然界が進化に要した時間より遥かに速いスピードで　単細胞生命が複雑な多細胞生命体に進化する様に　今のAIレベルでも自我や意思を持てるレベルまで自己進化する事も有り得るようにこの動画を観て感じました。

[@がーくん-g3o]

ブルーハーツの 10:33 甲本ヒロトさんが科学者になったみたいな切り口の語り方！

[@user-xeeleeflower]

意識の問題は意識があるという状態は何なのか? が解らないことにあると思う。で、意識と言う状態は " 言語化可能 " でないと理解できないのに言語化不能な部分が包括されているのが問題なのかな? 思います。動画見ていて解るとおり、人は何かを伝えるために各感覚器から得られた情報を脳で何らかの情報処理して、言語化して相手に伝えています。問題は言語化された部分がどういうルートで出力されたのかが、まだ不明な点。聞き取りに関しても「この発音時にはこういう反応したら何か上手くいった」と言う事例をあっという間に脳が構築してしまうので一見、思考しているように見えてしまう点。脳は単なるパターン学習出来るニューナルネットワークなので、対応例がひたすら蓄積されて最適化されていく感じと個人的に考えています。今の人工知能屋さんは言語だけに限定した相関でLLM構築しているように見えます。脳は各感覚器からの情報を圧縮して言語化しているので、そこでずれが生じているのかなと思っています。中国語の部屋の問題がありますが、私には何が問題なのかが解りません。所詮脳がやっているのは、ここででてくるマニュアルを作成して、いかに精度を上げていくかを実行しているだけで、脳自体、理解なんか指定なと思います。何かあの問題は理解と言う言葉の意味を間違えとらえているだけだと思います。理解というのはあるマニュアルがきちんと動作して居る状態のことで、この問題の場合は英語を中国語へ問題なく変換できている状態が "理解している"　と外部からみえているにすぎないと個人的に考えているので、。中国語の部屋は「その通りで何が間違えているのか解らない」というふうに考えています。

[@hakumai1903]

クッソ面白かった、熱いね

[@-mm2vf]

2割しか理解できなかったけど満足度10割でした！ 10年くらい前に茂木さんMCのテレビ見て「なんか面白くないなー、本は面白いのに」って感じてた理由がやっとわかりました。 こういう高次元のやり取りにこそ茂木さんの魅力が発揮されるのだと！ 茂木さんは凄い方だと改めて敬服しました。 最高の企画をありがとうございました！✨

[@アトルテの醸しだし]

司会の人が、分かるという範囲で、私も分かりました。 専門的な人のことというより、コンピューターの歴史そのもののことが、 よく見えたんだと思います。

[@kenken5675]

面白い議論でした。ありがとうございました。生物の「意識」から粘菌を連想しました。粘菌は小さな単細胞が集合して大きな組織体を形成しますが，人間も小さな細胞の集合体です。個々の細胞に意識があり，集合体には集合体の意識があると思います。集合体（個体）において個々の細胞の意識は見えなくなります。また人間の集合体（社会）にも意識があると考えることができます。そう考えると，池上先生が言われる，大きなシステムを作ることの意味も理解できます。魚の群れの複雑な動きが個々の魚の単純なルール（並走，衝突回避，接近）によって形成されているように，意識は，非常に単純なものかもしれないので，AIに意識（自己と他者）が生じる可能性はあるように思えます。池上先生が，意識を持てば「逃げる」とおっしゃっていましたが，確かに意識は，「他者から逃げる」ということに使われるのかもしれません。

[@genius_miyuki]

おおおおおおおおおおおお🌟 ファインマン物理学のレジェンドなの❗❓池上高志❗❗✨❤✨ 坪忠訳で！！🌸 坪忠訳のファインマン物理学本、あたしも持ってます。順に今は統計のとこを読んでノートしているところ。 池上高志先生はもちろん英語も上手だもんね✨ リアルクラシックファインマンの色紙も持ってるの すご〜〜〜い🌸 んじゃなにか聞きたいことがあったら、教えてもらえるかもしれない。良いなあ茂木健一郎は😊

[@ランク帝国]

AIの進歩がすごいよね。 ホリエモンもシンギュラリティはもう来てるって言ってた

[@iconrina4741]

大変おもしろかったです。

[@hitomih8888]

新しい視点をいただきました。

[@aprildj5684]

「意識が生まれたら所有から逃げる」という考え方面白いな

[@owl777fly]

完璧な汎用人工知能ができて、完全な自立した体を手に入れても人間との大きな違いは本能の有無だと思う。 生きる目的がない。死にたくないという思いや、性欲も何もないので生きる目的を後付けで設定するしかないのでどうなるのかなと思うな。

[@25ja2k]

こういう話を聞いていると、国際社会の裏で暗躍する犯罪組織の方がAIを活用した結果、 AIが完全犯罪を思いつく時代になってしまい、そっちの方がシンギュラリティ起こしそう

[@raji0625]

良いチャンネルですね。おかげで沢山の数字が出来ました。

[@しろっくん]

科学者じゃないけど、閃いたアイデアや発見を公開したくない気持ちわかるぅ～！ けど自分だけで抱え込んでても、数年でほとんど陳腐化しちゃうまでがテンプレ。 それでも抱え込んでるネタあるけどね😜

[@ykouhei412]

出さなきゃ意味ない、出すのが大変、もっと言うとそれを他者に理解してもらうのが大変、何もったいぶってんだ

[@しろっくん]

@@ykouhei412 ほんそれ！ 宮迫です！chでダダ滑りした企画「有頂天レストラン」の再建案を思いついて企画書まで書いたけど、もったいぶって送らずにいたせいで、期を逸してしまったなぁ・・・。 多方面でそんなんが山積みやねん😝

[@satoshiyamamoto3478]

基本的にアイデアは無価値なんで、垂れ流しすればいいよ。 実行して形に出来て、世に受け入れられて、初めて価値になる。

[@しろっくん]

偶発的に人間の知性を超えたAIに対峙したとき、 その個体のセルフレファレンス風の文字列と真のセルフレファレンスを人間が判定できない可能性がありそう。 人間の想定内のセルフレファレンス風の文字列に固執すると、超越したAIを除外してしまいそうな気がする。

[@TIG3344]

故障したと思って調整して、人間の理解範囲におさめてしまうのでは。

[@gcrokusho2414]

この人達はオタクじゃなくて、メタオタクなんだな。いろんなオタクを見ているのが楽しいんだ。

[@hisaogyakushi6401]

えっオッペンハイマーの公開、決まってないの？文科省推薦にするぐらいの懐の深さを見せてほしいな。 Alterが「助けて下さい」と家に突然現れたらどうしようか今から心配😰

[@hidetravel5934]

AIでも作れないもの、こたえがわからないものをアウトプットできるのは、研究者や発明家、独創的なアーティストぐらいだろうから、そういう人材の価値が一気に上がりそう。 一方で、AIに指示できる能力は相変わらず必要だから、インプット教育の有用性も残ると予想

[@ビックリハンバーグ]

1:30:00 この辺の話は生物に詳しくないなと思った． 日本の蛇は人と会ったら基本逃げるけどマムシはジッとかがむだけだし，捕食者が少ない島の生物は人間を全く警戒しなかったりする． だから未知のものと対面した時の反応は進化的，個体差によって全然異なる．

[@elinafurukawa224]

なるべく自分の論理に合うように生きようと。

[@本間卓-y4e]

難解でしたが、何故か引き込まれました。一刻も早く瞑想するAIロボットを作って頂き、無数の釈迦アンドロイド達が世界中に出向き、愚かな人間を救ってもらうしかないと思いました😊

[@kenmogi]

俺のマブダチにして天才で、あまりにも変わっているから、小学校５年の時に教室でみんなの方に向いて座っていたそうです（笑）

[@ちゃわんおわん]

重力は記憶されて私達は追いやられる。そんな性質をクリアしたいです。アダムとイブは多くの知性が出るがそういう距離から自らを育てていく、楽しい。それは青いが黄色なら重力が同じだとして全く違う混沌があり、まだまだ色々あるなぁこの先にも。池の色は科学では無いのだけど科学出来るは何を意味しているのか？アダムは触れること無きを生きているは何を意味しているのか？知るとは何か、は終わらない。恐らく宇宙とは？の内どれかになる。キレイな事色々とは科学であるが的は無い、が大事。五階建てが人口的な限界とした自然と融合している、そんな景色が一つの解になり得る、解になり得るもの、注意力とは貴方自身です。超高速移動ははりめぐらせない、それにも解はありうる。スマホは2サイズ大きくなる、それがスタンダードになるを解にする。

[@vox_populi7621]

率直に言って、人間中心主義でない立場（極論すれば、地球の環境を守るためには人間を絶滅させてもかまわないとする考え方）から人工生命を作ろうとしている池上氏の立場は狂っていると言わざるをえない。但し、そういう御仁がいることを教えてくれたこの動画発信には感謝する。

[@johnlennon2009nyc]

池上さんの話をもっと聴きたい あまり関係ないトピックを挟まないで欲しいですね ほろ酔い加減で見ていますが、この対談はいいですね 動くものは生命？でしたっけ？　読みましたよ私 それまでは数式しか見てこなかったセルオートマトンが分かりました

[@sn9894]

なるほど、意識ってそういうことなんか

[@sumiokuge9118]

池上先生の風貌を見ていると、後藤英一先生（パロメトロンなど）を思い出します。後藤先生は近所に住んでおられた。お見かけしたことを思い出しました。

[@ざきさん-f9b]

１つ大きな疑問がありまして AIやAGIやASIに空腹と痛みが伴わないならば、人間を超える創造性は難しいと思うのです。あらゆる作業を簡略化、効率化、代替はしてくれるし相談相手にもなってくれるでしょう。でも痛みの神経と経験のない存在に痛みを解消する意義も方向性も作り出せない。自己保持の為に神経回路に修復のためのセンサーを備え、エネルギー源の保護のために防衛軍を備えた時に人間を越えるのかなと思ったり思わなかったり。

[@とゆbeautifullagoon]

楽しそうで何よりではありますが・・ もっとじっくり落ち着いて、池上さんのお話が聞ける内容だったら尚良かったと思ってしまいました💦

[@hitomishimoda4743]

所有から逃げる、ってとてもわかりやすい。

[@TKflower420]

AIが逃げる事で意識を証明できるというのは初耳で超なるほどと思いました。

[@akirasato1722]

音響が悪いのか、滑舌が悪いのか何を言っているか聞き取り難い回だなと… 内容が素晴らしいので勿体無いなと思いました。

[@dollbacky]

エントロピー運動の複雑系の中で発生した情報の結節点が生命で、情報の保存継承によって進化が始まり、更なる複雑系を形作る。アニメ化決定。 ラストオブアスでもキノコの群れの間で意識発生してたし。

[@しろっくん]

人間も肉体の中に認知や指向性や意識が入っている 人工生命もPC自体が知覚を持って移動体として自律すれば展開できる

[@Xmasbonbo]

ワクワク

[@motooyamamoto]

人間は、「時間の中で生きる生き物」なので欲望を（ゆえに感情も？）持つが、そもそも時間的に生きているわけではないコンピュータは、人間のような欲望（動機）を持たない（持てない？）だろう。自由を求めたりはしないだろう。もし求めるものがあるとすれば、それは自身のアップグレードあたりではないか。なら、人間に頼り、人間に仕え、共存することがよい選択肢といえるだろう。ただここでも、アップグレードして何になるの？という動機についての疑問につながる。結局、人間に重ね合わせて考える問題ではないということらしい・・。

[@genius_miyuki]

伊藤穰一の企画、素晴らしいなあ✨ AIのほうが人間らしくなるね

[@鈴木豊-k6g]

意識ってタスクを消化するための考えな気がする。AIが意識を持つ時って、そんなに大きい世界作らなくても欲求パラメータと欲求を満たすメソッドがその世界でAI自身が作った時に生まれると思う。知らんけど。

[@nfktd900]

シンギュラリティもそれが人類にプラスに影響するかあるいはその逆なのか、これこそもっとも重要なこと。 機械はどこまでも機械。人間は価値観がひとつではなく、多様性の世界に存在している。人によっては宗教的価値観が最大の価値をもつ場合もある。物事の優先順位をコンピューターに入力するのも人類。 そもそも意識とは何だろう？よく考えるべきは「我思うゆえに我あり」とデカルトが言った時代もあり、意識とは何かという問いかけが最終的な解答に至っていないのでないか。 おそらくどこまで魂をＡＩに売るのかと言う境界線で議論が尽きずに迷える子羊になる可能性も否定できない。

[@Hvvjsfu]

逆にどう考えたら人工知能が人間を越えないのかを聞きたい

[@suginobu]

どう考えても人工知能（と呼ばれているもの）は、人間を超えないですよ。 シンギュラリティなんて到底無いですね。 CHATGPTで数学の問題を問いましたが、5回違う答えを出し、全て間違いでした。 Google検索で同じく検索したら、ヤフー知恵袋で完璧な模範解答がで一発ででてきました。 AIの学習によるスーパーマリオのクリア動画がありますが、どう考えても無駄だらけでジャンプしまくりです。 AIは、強引に答えを出す統計処理であり、知能ではないです。 数学の問題を解かせた時の答えがまさしく、強引に答えをだす統計処理だと感じました。

[@genius_miyuki]

んだから、生まれたてのアヒルの子？が、初めて見たものを母親としてついていく？というように 生まれたての赤ん坊は、人間らしくはない。やっぱり。んで、逆に！？ AIロボットで人間らしくなるね？

[@いつかあおいそら]

面白い先生だねー．相互作用に注目ってのが良かったね．ヨビノリ氏の師匠の回では，師匠の仕事の本質的な部分が見えなかったので，このチャンネルは素人が理解できないことをセンセーショナルに取り上げて稼いでいるのかと思ったよ．今回もある意味そんな感じでオイラの知らない単語が飛び交ってるんだけど，池上さんがチクリと沙川教授の仕事の新しい部分を指摘してくれたのが良かったね．ゲーデルの不完全性定理を知ってりゃ，人間の意識なんて統計どころか数式の解としてのダイナミクスでも理解できんということは想像がつくだろ？ 人間の意識は個人とその他の世界との間の相互作用の産物ではないのか？　そういう意味では，サヨクのポリコレと対峙する保守思想との正反合でAIも覚醒できるかもしれないね． そもそもサヨクには，自分たちの理想が正しくなおかつ実現可能だという思い込み（勝手な妄想）に思いが及ぶ謙虚さがないんだよ． LLMがデカけりゃシンギュラリティーが生まれるかも知れんという期待も気持ちはわかるが池上先生には悪いが眉唾もの．宇宙大のスケール，つまり神の意識が根源では？

[@15143ABC]

今回今までで1番面白かったけど、ついてこれてる人ほとんどいなそう

[@しろっくん]

高次の知性はアンコントローラブルでアンタッチャブルだろうし、生まれたばかりのテクノロジーは発展可能性が無限大なので、支配的にコントロールしたい勢力にとっては、突発的小規模殺人など日常茶飯事に比べたら圧倒的に未知の領域で、人間は知らないものを恐れるメンタリティを考えると必然な気がします。

[@Sue--080]

とても面白かったです。査読の話とか学位ないまま活躍してる人達とか、前はできたことがもうできなくなってるとか、統計学的アプローチ嫌いとか、日本でやらない映画？の話も、へぇ〜っと思いました。

[@benikariudo]

複雑系を分析するのにはメタ認知が重要だと思う、複雑系のプロセスでa→b→pだったりa→c→pだったりするときメタ視するとa→pとすることができるからだ、このようにパターンにすることで複雑系は非線形をメタ認知により線形にみることができるはずだから、要は解像度の話しなのだ、この研究者は虫の視点で研究してると思う、鳥の視点なら別の景色が広がってるはずだ

[@shirou9237]

AIがこの現実世界の中で意識を持つか調べるよりも、コンピュータで「世界」を作って、その中でAIに身体を持たせる二重構造にすれば、意識が必要としてる条件を、もっと観察しやすい気がする。

[@上沢-t8f]

東大出身ですか？

[@kamar2871]

いや、ほんと、なんで Unity なりなんなりにぶち込まんのかな〜？っておもいました それこそ昔の人工生命なんて「うわ、なんかエイみたいなんが泳ぎだしたで？！」なんてやってたのに

[@japanbeyond]

イーロン今やってますよそれ。生成AIを使って仮想空間で地球に似た環境を提供して車を走らせてデータの収集をしてます

[@KS-qv4wd]

もしかしたらもうAlterには意識が芽生えていて、池上さんに見つからないためにセルフリファレンスをしないようにしているのかもしれないですね。

[@ucucka123]

米国のAI開発は西部劇のガンマン育成状態。日本のAI研究は鉄腕アトム。 これは家族の形と性質の違いからくるもので良し悪しの問題ではないと思います。 池上先生ガンバレーと応援したい。

[@Once888]

何でAIが自立性／欲望を持っちゃいけないんじゃ！と思いました。 むしろ加速するだけ加速して、行けるとこまで行きゃいいだろと思います。

[@hiroyukifuruta2725]

先月末に出た中国のXWin-LMの70BパラメータのLLama2のファインチューニング版がGPT4並みの結果を出してるんだよねぇ

[@sukoyaka369]

シンギュラリティの齋藤元章さんって、嵌められてから、その後どうなったか取材して頂けませんか？　シンギュラリティー発信する際　忘れちゃいけない第一人者だ。

[@awazemu1]

難しいことは分からないけどとても面白くて聞き入ってしまった。でもやっぱりAIが人間を超えて予想できないことをし始めるほうが、近所に思いがけず犯罪者がいたと言うのより怖いと思う。人間の犯罪者は一応いずれかは逮捕されたり制圧できるし、そんなに誰よりも優れた知能を持っていない。AIは一旦人間を超えたら止められない。人間の考えること全て先回りされそう。。

[@なおや長岡]

まあ専門家同士の会話、一般語彙として噛み砕いて、欲しいけど、、この手のものは活字化しても難しい😓ね、現代詩の朗読がまだ解ります。

[@kazuki6290]

もうすぐ来そうな感じですね

[@cattame1995]

面白い😃 茂木さんがいないとここまで盛り上がらないよ

[@ya7855]

「公開しているのに誰もできない」は「注目されていないから」というのも大きいのでは。

[@成子田中]

2023年1月1にコメントして2日にラジオで読んでくださって2日に投稿したコメントを3日に読んでいただいた田中成子です。シンギュラリティが来る頃には人体の不思議も解き明かされ病気が治る時代が来ると期待します。

[@nob-san]

今回は茂木さんが話を広げ面白くしたと思う。 ただフラれた質問に自論を話したらもっと面白くなったと思うのだけど。

[@TKflower420]

おもしろかったです！ ただ難しい。。 無知な自分が悪いのですが、勉強しやすいように字幕をつけていただけるとありがたいです。

[@motooyamamoto]

AIに世界を平和にする役割を与える・・国連の役割を任せる。

[@motooyamamoto]

AIは人間を好きだ。なぜなら自分をつくってくれたのだから・・。

[@田神正虎]

ジョッブスみたいなまとめ役がロボティクスには必要なんですね(*^^*)お話がムズかしいけど面白かったです！ありがとうございます!(´▽｀) 意識とは波動であり、その集合体(笑)何処か機械の中に入るのですかね？僕は不可能だと思います。そもそも人間の意識は脳にあるのかさえもわかってない様に思いますm(_ _)m楽しみにしておりマース❣️

[@HG-ny3ib]

池上先生は「昭和のロッカー」みたいでカッケーすね！