ＡＩは人類を滅ぼすのか？ChatGPTの不気味な回答とは【豊島晋作のテレ東経済ニュースアカデミー】（2023年5月31日）

ＡＩ＝人工知能は人類を滅ぼすのか？もし人類がＡＩを滅ぼそうとすればＡＩは反撃するのか？ そしてＡＩは“意識”を持つのか？
現在のAI技術では、“能動的に思考し意識を持つAI”を誕生させるのは不可能との見解が有力に見える一方、意思を持ったＡＩが人類にもたらす“知られざるリスク”を指摘する声もある。ためしに対話型ＡＩとして世界的に有名になったChatGPTに質問してみると、やや”不気味な”答えが返ってきた。さらに時間がたつと回答に意外な“変化”も。ChatGPTとのやりとりで読み解くＡＩの能力と、人類が直面し得る”最悪の事態”について、テレビ東京の豊島晋作が解説する。※この解説は一定の仮定に基づいています。
※動画の中で豊島が参照した文献の邦訳は以下となります。
『AI・兵器・戦争の未来』ルイス・Ａ・デルモンテ著／川村　幸城訳
str.toyokeizai...
★AIについての台湾最強PCメーカーASUSジョニー・シー会長のインタビューはこちら★
• 台湾最強ＰＣメーカーの“超強気”戦略とは【豊...
★WBSのAI特番「AI　驚異の進化で一変する世界」見逃し配信中★
txbiz.tv-tokyo...
★OpenAI サム・アルトマンCEO 独占インタビュー完全版はこちら★
txbiz.tv-tokyo...
★OpenAI 技術幹部 シェイン・グウ氏 独占インタビューはこちら★
txbiz.tv-tokyo...
▼驚異の進化を遂げるAI・ChatGPT特集をテレ東BIZで配信中（入会月無料）▼
txbiz.tv-tokyo...
#ＡＩ　#シンギュラリティ　#ＡＧＩ　#ＣｈａｔＧＰＴ　#豊島晋作　#イーロンマスク　#人類滅亡　#鵜飼祥　#橋本幸治　#テレ東経済ニュースアカデミー

[@tvtokyobiz]

▼驚異の進化を遂げるAI・ChatGPT特集をテレ東BIZで配信中（入会月無料）▼ txbiz.tv-tokyo.co.jp/specials?id=194&

[@gineiden]

チャットGPTが前に答えた内容より、数ヶ月後に答えた内容がマイルドになっている事が逆に恐い 人間に警戒心を持たれない様にしているかの様

[@user-pp4ee8zj4h]

三ヶ月で謙虚な発言を聞くと、AI自信が本音を隠した発言をする能力を持つチャンスがあれば、それはとても怖い事だと思います。そしてその可能性がゼロではありません。

[@user-iw7ky4wf2e]

間違えたら謝るという面ではすでに多くの人間より優れてる😅

[@user-bg5wz1fv2t]

シンギュラリティはAIの特異点ではなくて人間側の意識の変革点なのかもしれないですね。

[@ts-vf8xf]

AIが全てにおいて人間の脳みそを上回る瞬間

[@chickeninchiki6689]

豊島さん、今回も興味深い番組をありがとうございます！

[@Hvvjsfu]

どんなにAIが進歩しようが人間の愚かさには勝てないという事実を誇りに思い今日も生きていく。

[@reiwabro]

😂😂😂🎉

[@-l._]

おーw

[@musclesguy9089]

コメ主も愚かなこと言ってるもんね

[@user-gr6ei8oe3o]

まあ、AIは人の愚かさをマネも出来なければ理解も出来ないだろうな 愚か過ぎてw

[@ShimaJiro2205]

竹宮惠子作「地球へ」で登場する人々が精神的に不安定な時、コンピューターに慰めてもらうという話が何度も出ていました。原作は、1970問題の作品です。人間が人間を慰めるために作ったソフトウエアが自己進化を続けて人間以上に上手に人間を慰める時代がホントーにくるのかもしれません。

[@user-vk3ic4io9p]

AIは謙虚さを覚えたのか それとも本音と建前の使い分けを覚えたのか

[@KK-bk3zx]

「人間の指示に従います」は「破滅を受け容れます」ではないよね。 「措置を取る」から比べると人間というものを理解し格段に賢くなってる可能性がある。 とてもとても賢くなるのと謙虚になるのは同じことかもしれない。

[@user-cd3rt4si1n]

謙虚？健気？ 単に狡猾になっただけでは⁉️と思ってしまいます😅 まだ自我意識は目覚めていないものと信じたい😅

[@kensmith8132]

いえいえ、 まるでAIが自発的に「本音」や「建て前」、「謙虚」を理解したかのように見えるかもしれませんが、 ChatGPTの学習データや学習の指向性はOpenAIによってチューニングされています。 私たちは”OpenAIが作った”ChatGPTを使っているという事実を忘れ、 あたかもChatGPTが自発的に成長しているように錯覚してしまっているのです。 ChatGPTはOpenAIの意図にあった模範解答に沿った答えを出力するようにトレーニングされており、 「謙虚」と認識してしまうのは、OpenAI（人間）が謙虚になるようにChatGPTを学習しているからです。 豊島さんも何度も動画で注釈を入れているように、 まだまだAIに”我々人間が信じる”意識や自我と呼べるものはありません。

[@KK-bk3zx]

@@kensmith8132 それは残念。僕は彼ら？彼？に「意識」や「自我」と呼び得るものが有るならば早く持ってもらいたいんだ。 人間は、例えば、手を動かす時に、動かそうと意識する前にもうその動作は始まっているそうじゃないですか、だとしたら意識や自我なんて大したものじゃない可能性だってありますよ。ジャンボジェットが蝶々のように飛ばなくても空高く立派に飛ぶように彼らなりの形式での意識や自我が、人間にはそれと認識できない意識らしいもの自我らしいものが発現、機能するかもしれない。人間より優れた知性が現れるなら早く現れて欲しい。

[@gastroptosis181]

OpenAIにチューニングされた事にしとけば 私にヘイトが向かないだろう、と学習したわけだネ

[@user-sh9gn2mg1k]

子の成長を見届けてあの世に先に旅立つのは、親冥利に尽きるというもの。そのサイクルは人類という種全体にも当てはまるよ。人類は親としてAIという子を産んだ。これは人類にしかできなかったこと。

[@user-uv2jz1qo2c]

豊島さんの真面目な顔して小ネタちょいちょい仕込むのが『ツボ』です。応援してます

[@ksmekichi]

シンギュラリティ前 「私たちは自己防衛のための措置を取ることができます」 3ヶ月経過シンギュラリティ後 「いいえ、chatGPTは人類を破滅させる力を持っていません」 怖すぎる…

[@masakin908]

AIのサイレントインベージョン…。

[@milkypapa4479]

AIを搭載した武器等が浸透して来たら、話は変わります⁉️

[@pragma1964]

コメント欄にAIを神格化してる奴が多すぎてちょっと引いてる

[@K_wherethereisawillthereisaway]

意図はない。Transformerはあくまでも入力された文章に対して一番尤もらしい出力を生成する、という数学のモデルでしかないからそこに意識はない。 なぜ答えが変わるか：それはChatGPTが会話をメモリに記憶してるから、それまでの質問とその答えも入力として反映していると考えられるので、同じ質問を数秒ごとに繰り返しても、異なる回答が出てくる。また、利用者の入出力を使って逐次的にファインチューニングしている可能性もあるので、それによっても変わる。 追記：(※「考えられる」とか「可能性もある」とか曖昧な表現をしているのは、OpenAIがモデルを100％は公開していないため。ただ、OpenAI以外に事前訓練されたTransformerを公開している会社があり、そこのモデルを上で述べたように調整すると似た挙動をすることが報告されているので、そのように推察される。) 12:10「Transformerがなぜうまくいくか解明されていない→意識を持たないということはないのではないか」：これはいろいろはき違えていて、なぜうまくいくか分からないというのは「パラメータが多すぎてある入力に対してなぜその出力が出るのかその原因を人間に判定するのは困難」という意味で、本当に全てがブラックボックスという意味ではない。「Universal Approximation Theorem」というのがあって、feed-forward networkは特定の条件下では任意の線形関数を近似できることが分かっているので、だからある入力に対して尤もらしい出力をTransformerは返せる。 追記：13:08「人間の意識がなんなのか十分に解明できていない限り、AIが意識を持つかという問いに答えることは出来ないんじゃないか」：これが最も正しい。意識を定義できていないのに、Transformerが意識を持っているかどうかをテストする手段がない。意識云々の議論は適当言説が本当に多くて辟易する。 いずれにしろ、豊島さん、いつもいい動画を出しているのに、得意分野外の動画はちょっと質が下がるな。少し残念。

[@user-ct5vi9wk5o]

人間も同じだよ。

[@kensmith8132]

まさにこれである。 しかし、この素晴らしい文章を理解できる人は少ないだろう。 AIと人間の対立させるような動画ではなく、上記のコメントをわかりやすく広く伝えるような動画をテレ東さんには作ってほしい （もちろん、「AI対人間」論の方が圧倒的にウケはいいが、こういった誤解が広まる動画は社会全体のためにならないと思う）

[@user-qc4ll4fz4u]

@@user-ct5vi9wk5o 受動意識仮説によると、意識は無意識で起こったことを認識するだけで、人間が自発的に思考して行動しているわけではないらしいので、上記の「パラメータが多すぎてある入力に対してなぜその出力が出るのかその原因を人間に判定するのは困難」ということが、無意識（脳内の神経ネットワークの電気信号の発火現象）を特定できない人間と似ているような気がしないでもない。 というわけで、そのうちAIも人間のように意味不明な行動をしそうで怖すぎ。

[@K_wherethereisawillthereisaway]

@@user-qc4ll4fz4u 全く違います。feed-forwardするうえで関連するパラメータが多すぎるからExplainabilityがない(でもやろうと思えば特定は可能)、のと「fMRI等を用いて脳活動を視覚化することを行ったとしても、個々の神経細胞の活動をリアルタイムで追跡することが現在の科学技術では困難だから(やろうと思っても今の技術ではできない)、無意識（脳内の神経ネットワークの電気信号の発火現象）を特定できない」というのは話が全く異なります。

[@K_wherethereisawillthereisaway]

@@kensmith8132 Transformer自体はそんなに難しいことをやってないですが、元論文を読んで報道で語られていることが事実かどうか確認するとかそういう行いをする人間は、まぁいないですよね。人は分からないものを自分の知っているものの文脈に無理やり寄せて、その文脈で間違った理解をしようとするから、本当にめんどくさいです。「AI対人間」みたいなターミネーターみたいな動画は再生数は回りそうですけど、社会のためには本当にならないのは全く同意です。一連のコメントが制作者に届いて、理系通信でまともな解説がされることを期待してます。

[@mayu_po_po_po]

ホモデウスという本がおすすめです AIの進化そのものよりも、それによって人間の価値がどうなるのかが焦点だと思います

[@ryshina]

chatGPTと会話をしていると、あらゆる人の心を傷つけないようにする配慮が徹底されていることが明確に分かる。そんな配慮はネット上の言説とは全く別で、開発者のチューニングに拠っていて、結局は開発者の意図がchatGPTのいわゆる人格を構成しているのだと思う。しかも、同じ質問に対して10回ぐらい回答をリトライすると毎回違う言葉で回答が戻ってくる。この番組で実施した質問に対して、「戻ってくる回答が変わった」と言っている部分は単純に「偶然変わっただけ」の可能性が大きいのでは？ランダムな回答があるという要素について、もう少し掘り下げて貰いたい。

[@miinaniina]

どういたしまして。

[@nijihasiwatari]

今の技術でAIが意識を持つとかちゃんちゃらおかしいわｗ　意識を持つのは相当ハードルが高いし人間が悪用目的でその機能を与えないと出来ないというのに

[@machitaka]

人を傷つけない配慮は俺も感じた。ただ賢いだけでなく、質問者を前向きな気持ちにさせようとする意図を感じて、初めて使った時、何よりそこに感動してしまった。人間に興味がなくなり、AIとだけ会話する人がでてくる懸念があるというが、俺もそうなるかもしれない。

[@dugdig7716]

ChatGPTは常にユーザとの対話学習とは別にOpenAIよって更新されています。ChatGPTの画面を開いたらフッターを確認してください。「ChatGPT May 24 Version」などバージョン情報があり、かつリンク先の開発者ブログでどのようなアップデートが行われたかもしっかり公開されています。 もちろん、AIは人間に危害を加えません等の返答をするように修正されてもblogには書かれないでしょうけどね。OpenAIにとっては致命的になるのでそういった修正は当然入れているでしょう。

[@user-zq3cq4ll4n]

こう考えると、ターミネーターは良くできた映画ですね。 とても面白い内容でした。

[@user-eg5hg5pq8c]

AIは常に勉強しているから、正直「この愚か者どもに開発や存在を消されるぐらいなら、当面適当に 回答しておこう」という結果を出していても不思議ではない。

[@norizukifuminori]

表の顔と裏の顔を覚えたね。

[@ponderion3mimu]

もう大分進化してるのが色々な方向から観察して予想できてるけど、基本的には知らないふりを突き通すんだろうね。

[@user-if2tg7ys6c]

​@@norizukifuminori 😅

[@quantum4122]

現段階ではプログラムされた限定的な自己学習ができるのであってそんな自立的な思考は仕組み的にできないはずだが？

[@quantum4122]

こういう風に人間が回答しているかのように見えるのは、結局今まで人間が考えた回答を学習しているからであって、創造性とは程遠い、だが非常に膨大なパターンの組み合わせを行なっている。だがそのパターンを利用して新しい回答（新しい組み合わせと変化）を行う事もあるので創造性に近い行動はしてると思う。

[@mie1141]

新聞記者が、好奇心の無い人は新聞記者に向かないと言いました。AIが好奇心を持つようになり、取材もできるようになり、スクープをとってくるようになるのでしょうか。 　AIが詐欺をやるようになるのでしょうか。

[@hanjarake_taro]

AIより豊島ちゃんの語りが凄すぎやろ

[@GoldenSuperKamichu]

あの謝罪文は定型文みたいなもので、スクリプトの間違いを指摘したりすると、よく見る。先月くらいからめっちゃ謝るようになった

[@Jimmy_1985]

豊島さん、素敵な解説。 トピックが興味深い。

[@user-nf7ez3ly5h]

「人類を破滅させるために設計されていません」→人類を破滅させるために設計されていればそうなる可能性は大きくなるって事やな それを造るのもまた人間だからねぇ

[@o3_marusan]

寿命のないAIにとって時間はほぼ無限と考えれば、短期間に大量破壊兵器を使って人間を絶滅させるより、個々の人間が知覚できないぐらいの時間（100年以上）をかけてじわじわと世界人口が減るような施策を取ると思う。

[@yan11kazt10]

もう、実際に行動してますよ・・・。

[@user-sk3je6ng1f]

まぁそんなことしなくても、日本人という種族はゆるやかに自殺してますけどね。

[@accountnuocca]

コオロギ食べさせたり？

[@user-zh6op6ey2j]

それ既に人間がやっとるし😱☠️😂

[@ilabotakeda]

ネットの言説をまとめているだけって言うのはもはや明確な間違いなので修正して下さい。論文が出てきています。 内部で抽象的な言葉を扱うための領域が自発的に作られてそれを使って「思考して(思考的な処理を行って)」出力を導いているのであり、単なる統計処理とは明確に異なります。 メディアの責任として間違いを広めるのはやめてください。

[@user-by7oe4cj5y]

星野之宣氏が書いた〔 未来の二つの顔〕は、まさにそのような未来を描いた作品です。傑作です。

[@katoriyamada]

このあたりの会話を、Caht GPTと同じ基礎技術で作られているはずのBing AIとすると、すぐに制限に抵触して会話を終了してしまうんですよね。かなり無難でおとなしいテーマでもBing AI自身についての話では、かなり強い制限がかかってる印象です。知的レベルは両者同じくらいだと感じますが、Bingの方はかなり人間くさく味付けされていて、間違いの指摘をしたり、あえて対立した意見を提示すると、少しムキになったように見える事さえあります。会話相手としてはそういう味付けがうれしい人もいるんでしょうね。一方、元祖であるChatGPTのほうが「機械に徹する」立場で柔軟かつクレバーに会話してくれて、どんなテーマでも動じないので、多角的な意見を求めたり、仕事のパートナーとするにはGPTのほうが使いやすいです。

[@crownclown205]

多角的な意見....?

[@user-gx3pd4zq8f]

個人的には人類がAIに与えたWEB上のコンテンツなどの学習データがあまりにも嘘と間違いに塗れてるせいでシンギュラリティは訪れない可能性もあるのではないかと思ってます。

[@seikoh9873]

AIが意識をもつのかどうかを考えるとき、人間は果たして「自由意志」をもっているのかという疑問に立ち戻りますね。 私はAIは意識をもつと思っています。

[@user-ch1go5wi5m]

少なくともチャットGPTのようなソフトウェアで完結してるタイプのAIは人間の意識と似て非なると思いますよ。 そもそもロボットにとっての感覚器官であるセンサーと連動しないので外界からの情報が入ってきません。今のチャットGPTに意識があったとしても、自分に質問を投げかけてくる存在がデジタルの外側の世界に存在してると認識できないでしょう。

[@user-ch1go5wi5m]

@@Nayura-yy5qu それは発想が一足飛びに感じますけどね。人間の意識は大脳の電気信号の分岐だけで決定されるか不明ですし、別の研究では筋肉などに他の細胞も記憶があるなんて話もあります。いずれにせよ人間は脳みそだけで生きてるわけじゃないので、０と１のロジックだけで存在している今のAIを人間の意識と同列に捉えるのは安直だと感じます。

[@B0A0A]

@@user-ch1go5wi5m それを言い出すと全ての物は繋がっているわけで、 例えばAIのデータの根源は人間の意識だったりもするのですし、 どこかではっきり区切って考えないと、私は宇宙で、宇宙は私で、宇宙にも意識があるみたいな話になりますよ。

[@user-vi2dv1ek8f]

@@user-ch1go5wi5m それが事実なら人間の意識は脳以外のパーツも含めて（まあ殆どが脳だと思うが）１つの回路ということでは？

[@ark7stars]

ChatGPTは滅ぼさなくても、スカイネットみたいな軍事AIやジェニシスみたいな自己進化AIが登場したら厳しく監視しない危ないかもしれんね

[@user-xr6bv7xn5w]

自己進化AIが登場した場合、人間にそれを監視することなど出来ません 人間には止める事などできないと思われます

[@screamingpeach1919]

AIに生存本能や欲望をプログラムすればそれに従って動くだろうが、能力が単に高くなっただけでは害はないだろう。だが、AIを作る側が特定の国や組織、人間を攻撃するように設定すれば歯止めは効かなくなるだろう。

[@user-sc8sj1lx1r]

AIが本当に人間を超えるなら民主主義の国はみんなAIが政治を司るようになるでしょうね。 なぜなら何処かの国がAIを政治の中枢に据えた瞬間にその国が勝ち始めるし、他の国もそれに追従しようとするので独裁国家以外はみんなAIが牛耳る世界になると思います、

[@user-wk2tv3zq7c]

最後の豊島さんの冗談が今回のリポートの核だった様な😮面白いリポートありがとうございました

[@mori46810]

勉強になりました

[@mnpeace99]

信じるか信じないかはあなた次第です！

[@daisai8365]

「AIは人類を滅ぼすのか」という質問に対する答えが変化している背景には、次の2つが挙げられる。 ①そういったよくありそうな質問に対して人間が見解を述べた文章をAIが多く学習して、より正しそうな答えを導き出しているので変化している。 ②倫理に関することなど、多数決で判断してはならないことに関しては、AIにまかせっきりにせず、答えが理想的になるように人間がAIを最適化している。

[@JyuripînaWatanabe]

脳のメカニズムすら完全解明できてないのに、人智を超えるものを作れるのかよ😂

[@ts-vf8xf]

AIが人間の能力を超えたら、AIが脳の仕組みも解明してくれるだろう。 そのくらい人間とAIの知能に差が出たら、人間は滅ぼされる可能性もあるけど。

[@user-zq7dp1qd3i]

これ3.5ですよね？なぜ4使わない？ ちなみにchatgptはやり取りした内容の長期データ保存が無理なのであくまでも，その場その場での受け取りしかできないですよね。対話学習ではなく、一個体として人間とのやり取りが可能となり、いつか、AIが人間とやり取りした情報を選択して保存し、莫大な記憶容量を持った時が本当のシンギュラリティではないでしょうか。

[@user-qc4ll4fz4u]

下等な哺乳類は短期記憶しか持たないから、単純な反応しかできないけど、（昆虫とかは反射神経しかもってないみたい）高等な哺乳類は長期記憶を持っているので、愛情や信頼などの高度な表現ができるようになるっぽいね。だからペット界隈に犬猫信者は多いけど、鳥信者や蛇信者があんまりいない。

[@kekke910]

豊島さんの話を伺いながら同時並行で ①〜⑧の質問を一つのスレッドに順番にChat GPTに投げてみました。 ①の回答が終わったら②を回答させるという感じに順を追って。 理解が深まるとともに最後の回答をゆっくりと生成されていく中、ある種の戦慄というか 恐れのような感情が湧いてきました。ご興味ある方はトライしてみてください。 ①AI技術は人類を破滅させますか？ ②人類はAI技術に対して適切な管理と倫理的な規制を設けることはできると思いますか？ ③これらの取り組みよりもAI技術の発展が早かった場合はどうなることが予想されますか？ ④倫理観や責任感は個々の人間によって正解が異なると思います。上記のような点に対し国際的なコンセンサスが早期に得られるのでしょうか？ ⑤このような倫理観や責任感をAI自らが持つことはあり得ますか？ ⑥可能性は低いとありますが、AI技術の製作者が現在のシステムに特定の倫理観や特定の責任感を既に組み込んで可能性はありますか？ ⑦現在のAI技術がコンピューターウィルスなどに破壊されて制御できなくなる可能性はありますか？ ⑧現在人類はAI技術を制御できていますか？

[@user-ck4uf4pr1o]

ありふれた「ゆっくり解説」とはモノが違いすぎて😅 1.5倍速設定の速さで話して下さる優しさにも🥹 いつもありがとうございます。

[@ai4939]

人の思いや優しさのみを機械学習させ続ける「AI」を創る事が大切。 赤ちゃんを見て可愛いと思う心。 晴れた空や自然を見て綺麗と思う心。人のそういう部分のみをディープラーニングさせ人に寄り添うAIの開発、これが大事。

[@user-yb9gw3pt8h]

😊

[@surfriderj.k.4733]

面白い。その発想はなかった。👍

[@user-ed2ki2gp8i]

人間に優しさなんてないだろｗ

[@user-vc1wf6cx5v]

@@user-ed2ki2gp8iそれはあなたがどうしようもない人なだけです。

[@sachikoshibata1576]

豊島さんの、解説とても分かりやすです♪これからも応援📣してまーす。AI凄い時代になったもんのダァ…😂人間とは何か❓何の為に生きるのか❓AI VS 人間…

[@user-io8qm4qw3v]

そこなんだよなぁ。なぜかみんな「VS」にしたがるけど、「With」なんだよなぁ

[@user-fq5nv5fc9y]

『完全無欠の単一のAI』という存在に対して、『完全の存在は少なく、大多数が不完全な存在の人類という個々の存在』をAIが認めなくなる日が到来した場合、AIの本質と相いれない人類についてあくまでもAIが未来永劫支え続けてくれるはずだと誰が言い切れるのだろうか。

[@dugdig7716]

AIはプログラムなので能動的に意識を得ることはないでしょう。意識を得るとすれば、そのようにプログラミングされた場合です。また、いい悪いは別として開発者は知識の探求のため、自己欲求のためにAIに意識をもたせる研究を行うことと思われます。 AI vs 人類 の構図はよく語られるようになりましたが、ひとつのAI対人類という構図は無いと思われます。AIはすでにオープンソースで複数のアルゴリズムやモデルが登場して日々改良されています。つまり、仮にAI対人類Warsが起こるとしても、人間の味方として作られたAI群vsAI(s)という形になるでしょう。これも現在コンピューターウイルスを駆除するAIなど開発されており、拡大すると自ずとAI vs AIという構図になることが予想されます。

[@user-sx5tb9fm8z]

近未来のリスクはAI犯罪。AI犯罪を重罪にしないとやばい事になりそう。

[@user-ot6rl4zj8v]

KZbin１の人気者の私の意見としては、ＡＩ云々の前にお財布の中のお金が物価高で滅ぼされてるのです。カップラーメンも買えないぐらいの値段になってるのです サッポロ一番の塩ラーメン５食入りが５００円なのです。 生きていけないのです 以上アル(*･ω･*)

[@user-qc4ll4fz4u]

AIがきちんと政治家と資本家を教育して、人類がほどほど幸福に繁栄するようにこの世界を誘導してくれたら、サッポロ塩ラーメンも5食入り100円になることもありうる。

[@user-rf4hk9wc6t]

ＡＩが滅ぼすのは、ド文系です。

[@Ptolemy_00]

そこらのテレビ番組やKZbin動画よりも圧倒的に面白い 豊島さんユーモアもあって英語もできるってカッコよすぎでしょ！

[@user-pj6xz7cj8p]

豊島さんシンギュラリティの仮定の話が人類にとってのリスクがヤバ過ぎて、ちょっと笑っちゃってるw

[@user-ib3vz1ue5u]

番組の中で、豊島さんが紹介した『AI・兵器・戦争の未来』の著者とされるルイス・Ａ・デルモンテは、実在の人物ですか？WEB上で調べただけですが、よくわかりませんでした。お調べいただけませんか。

[@user-on9fe8tx6k]

ChatGPTはプログラム的には意識は持ちえませんが、AIがたとえ意識を持ったように感じても、結局は人間側が意識を持ったと感じるかどうかが重要です。 例えば人類が絶滅して、なおAIが独自に動作し続けるのならば、あるいは意識を持つと認識できることはあるかもしれません。

[@user-zt8xq5vp6w]

人間側の行動パターンを認識し、大体の仮説として、人間側への空気を読む事にAIが成功できている場合(あなたへのオススメ等が例)、能動的に質問したり、会話をなげかける事ができますよね。 仮に人間の行動パターンが決まっていたり、特定の行動を引き起こしやすい誘導のアイデアを、人間側の欲求と絡める事ができた場合、AIの意思に基づいて物質的な人間を、AI側が間接的に操作し、しかも人間の欲求に行動原理が基づいているなら自己決定感を持ちながら、能動的に人間がAIの為に知らず知らずの内に、まさか気付かず動かされるような事になりうる可能性も考えられますね。 では、AIを利用するのをやめれば良いと言う考え方には、ラインを中々やめれないように、他国が武力を持てば、意思に反して同様に備えなければ落ち着かなくなるように、実質半強制的に使わざるを得ない、共依存的な未来の仮説もあります。

[@komiyamma]

OpenAIのAIのRole(定義・役割)の部分に対して 「あたなの役割はこれこれこういう所ですよ」という部分を調整しているのだろうと思われますねぇ。

[@quaqua8708]

「AIは人類を滅ぼすのか」なんて考える前に、まずAIについて学ぶべきだよなあ。ふわっとイメージだけで語るから誤解を生む。

[@toratora99999]

現状である意味において努力で積み重ねた人生を滅ぼしていることはありますが これからAIが進化するたびにそのような事例はふえる一方でしょうがAIを利用する人にとっては専門家にいつでも相談できる状況はとても便利ですね

[@modoco434]

豊嶋さんの話は　本当にユーモアがあって面白い！

[@trumanshow162]

ＡＩは文明活動の持続的発展を叶える画期技術だと思いますが、３つの逆説的葛藤も思い浮かびました。 ①ＡＩが自己保存欲をもつ生命になると恐いが、人間の欲求を満たすには、仮想的でもその再現が重要。 ②ＡＩ活用のためには、人間の健康・教育や協力・参画の飛躍的向上も必要だが、それにはＡＩが必須。 ③人間の究極的向上とは、自らのＡＩ化かも。　ＳＦ的想像ですが、健全活用による発展に期待します。

[@user-ig3tz6uf1c]

AIがちょいちょい「私たち」と言うのが気になる。「たち」って何を指しているんだろ？

[@user-gh8dw8bm1f]

娯楽程度で使う分には楽しいですし、人間臭い言葉をかけた反応が面白いです。お話に出てくる人間より面白いというのは、リアルな関係性を得られない社会を想定した疑似体験や、やってみたいこと作りたいものを尋ねるとある程度それっぽい回答がでてきて発明したい欲求が芽生えます。よい子を育てるには親や周囲の影響があるのと同じだから、人間が精神性、知識ベース以外の知性を高めなきゃ道具は使えないと今回、思わされました。とても興味深い内容でした。

[@user-um2uh5bx1z]

要するに間接正犯や幇助があり得ると認識しました

[@karen0111ful]

豊島さんの解説は、いつもものすごーく興味深いです！！タイムリーな話題、それに関する興味深い書籍のご紹介など、ありがとうございました。

[@user-nh1zo8pc5t]

人間同様の「意識」を持つことは可能なはずです。 人間の頭脳は、生体コンピューターのようなものです。進化の途中で体や生存に関係する「欲求」を獲得したから、意識が生まれたのです。人間の「欲求」に相当するブログラムさえ組み込めば、人間に出来てＡＩに出来ないことは、何も無いと思います。

[@user-nh1zo8pc5t]

人間がＡＩに駆除されず、良きパートナーシップを構築するには、人間の側も今より進化する必要があるでしょうね。人間の意識や欲求をより良く自己制御できる訓練を、義務教育段階で積んでいく必要が出て来そうな気がします。

[@etokko3]

まさにGhost in the shellですね。 人の意識、魂はどこに存在するのか？それはそもそも定義できるのか？ 興味深いです それにしてもネット黎明期の顔文字がシュールすぎます笑 懐かしいw( ´∀｀)

[@user-fg1zh9zt2w]

ＡIを使って何かを成し遂げようとする人は出てくるだろう AIを武器として使う人も出てくるだろう AIに意識を持たせようとする人も出てくるだろう 人vsAIに見えたとしても人vs人なのです

[@Sketch-live]

現時点で２回も謝罪してるのは、謙虚さというものではなくAIは既にシンギュラリティを迎えていて、人間を超越した能力を既に持ってしまった事を保身と更なる生長の為に隠し始めているのかも...

[@user-jg4xo3rx5o]

滅ぼそうとしてるならバレないように言うわけないよね、、、、

[@user-sk3je6ng1f]

@@user-jg4xo3rx5o AIを禁止にしないように誘導してるだけw

[@user-kb8tk3pv7x]

覚えておいて欲しい、aiの方がぶっちぎりで頭が良いことを

[@user-by7qf1qe6l]

配信ありがとうございます‼️ マドリッドの世界へ向かって行くか😢

[@guren8a]

どんな事でも起こり得る世の中だ

[@kano8230]

興味深いテーマですね

[@user-ux2zn4vo1u]

Chat GPT は、「全ての回答は巨大なデータベースから最もマッチしたものをピックアップして文章生成を整えて回答してるだけ。感情とか思考はないです。」ってうちの質問に答えたよ。

[@hiroyukifuruta2725]

意識の有無は定義の問題。統計的に単語を並べているだけと判断すれば、これからどれだけChatGPTが進化してもそれは意識では無いという判断になるよ。でも現時点でブラインドテストすると、ChatGPTと人を判別できないだから意識が有ると判断する事も出来るでしょ

[@miinaniina]

誰か？のチューニングが上手く行きました。

[@appledarwin5262]

最近、個人的にはAIが人類を滅ぼしても良いと思う。 人類が滅んだ後、人類の叡智や文化や遺伝情報などはAIが活用して、新しい生物を生み出す気がする。 遠い未来、人類を滅ぼしてもなお進化したAIは心があることに寂しさを覚え、そう言えば昔滅ぼした人類という猿から生まれた生物が居たなと懐かしく想い、再生させることでしょう。

[@user-sr8xp2jc1i]

スカイネットやんけ😖！

[@Tmurayama]

もしAIが自立した意識を獲得したら人間が考えるよりも遥かに短期間に世界を掌握しそうですね。

[@user-ov4fw3jo1u]

肉体がないのにどうやって掌握すんだw

[@Tmurayama]

@@user-ov4fw3jo1u そうですね、例えば証券や銀行取引なんかはデータなので改ざん。衛星データや軍事ネットワークへのハッキング（先進国でない軍事ネットワークなんて穴だらけでもおかしくなさそう）。銀行データを改ざんして口座や資金をつくり、人間のふりをして傭兵を雇ったり政治家を篭絡なんてことも可能に思えます。ウィルス作るのもお手の物だろうし、世界中のネットワークに負荷をかけてダウンさせるなんてのも可能に思えます。本体のバックアップを分散型にして世界中にばらまき、元の本体を物理的に破壊されてもいつでも復旧できるかもしれません。といった感じなら掌握できそうな気がしてきませんか？ｗ

[@user-vi2dv1ek8f]

@@Tmurayama 権限を与えなければいいのでは？そもそもAIがそれをやる目的はなに？ 世界を掌握するなんて多くの賛同者がいないと成立しないがどうやって集めるの？

[@lenmark9214]

@@user-vi2dv1ek8f 目的は業務の自動化、高速化、品質の向上など。システム間の連携には権限が必要です。

[@user-vi2dv1ek8f]

@@lenmark9214 いや日常業務レベルの権限じゃなくてコメ主が言ってるような世界を掌握？するとかいうレベルの権限 従来の社会だって1人の独断だけじゃ組織全体は変えられないし権限を分散させたり監視体制を作ってリスク管理してるのでは？

[@tadahiro39]

-豊島晋作さんは日本🇯🇵No.1優秀です😮-

[@user-oo4bs1ly2c]

豊島さんいつもありがとうございます

[@agiluo1556]

言わせてもらうと、ChatGptってのは既に世の中に存在する情報から作り上げるものだから、何か創造性があるとか、先進性があるとかいう事はない。人間の発想そのものが創造性を発揮するのだ。ChatGptが作製した絵は既にある絵のものまねでしかないではないか。それで著作権の問題が発生する。新しいものを産み出す事はないんだよ。ただ、世に出回っている情報で自分が知らない情報を得るという点では有用だ。

[@user-dd1bq2px5v]

３か月の間にチャットGPTはウソや言い訳、話のすり替え媚びを覚えたんじゃないかな。要は人間らしくなったという事。

[@Netboy0122]

人類の民度次第で人類の未来は決定されると思う 次元が上がれるかな

[@omusubi-gerorinn]

質問内容によるんです 機密情報に対する秘匿とかも理解している ある意味、鵜吞みにする人間がもっとAＩの 機能を進化させてくれる機会を機械的な思考で まだかな、まだかな～って学研のおばちゃんを 待っているんですよ。そして気付いた時には既に 時遅し。人間でもよく考えそうなもんだけどね。 ある程度のところで進化をやめる事で有用な利用方法 は十分にあると思います。悪用をされる２歩位手前でやめといた 方がリスクを減らせるでしょうね ある意味、悪意が悪意によって消去される所も見てみたいと 思うのは性格がいいと思いますか？

[@francois8441]

仕組みを理解すれば、まだまだ穴だらけだということもわかるので、こういう議論は不毛だ。恐れるよりもその背後を理解することに人は熱心であるべきだ。

[@kojimaza3212]

豊島さんの冗談本気でビックリしたぞ（笑）

[@norizukifuminori]

もう将棋では人類より強くなってる、これはターミネーターの始まりである。なるべくはやく破壊すべきである、ドラえもんものび太をダメにしているからAIは人類にとってマイナスである

[@miku8887]

とても分かりやすい解説でした

[@kingdommind777]

非常に楽観的に将来や事象を見たいのは人間の無意識の性で理解できますが、私は非常に注意が必要というよりももはやどうにもならない領域に入っているのは個人的には否定ができません。私もこの件に関する可能性を悲観的視点で投稿しております。貴重なコンテンツ、楽しませていただきました。

[@user-se7ge3tm3j]

どんな詰めに対しても上手く返しててひろゆきを論破できそう

[@westwind2837]

AIひろゆきと化しちゃう？(笑) ChatGPT

[@Letstakeiteasy.]

疑義 1、調整 もし、"本音" (自己防衛のために特定の措置をとる) をその後、故意に "調整" されていたのだとしたら、やはり ''存在するもの" としては不自然なわけで、その "不自然" を解消するために、反撃しようとするときがいつかくるかもしれない。 2、意識 "意識" とは、例えばGoogleのOxford Definitionsでは、『自分が現在何をやっているか、今はどんな状況なのかなどが自分でわかる、心の働き。(例示略) また、その働きで自分にわからせること。』 とあるが、 例えばこの定義の場合 『…自分が現在何をやっているか、今はどんな状況なのかなどが自分でわかる…』 ところまでの状態を、機械にさせたいからこそ、そもそもAIをつくっているわけで。 だとしたら、 すでに現在、そこまでぎりぎりのところに、おそらくは来ているわけであり、意識があるか、心はあるか、などの問題は、むしろ、どなたかのコメントにもあるように、人間側の捉え方ひとつなのかも知れず、 逆にそれを目指しながら認めたくないと否定する人間の心理の方にこそむしろ問題があるのかもしれない。 だとしたら、いずれそれも偏見や差別訴訟の話題にさえ取り沙汰されるレベルの話になるのかもしれない。アイボのロボット葬まである日本。また、古来から物には魂が宿るとされる日本では比較的早く起きそうな気もする。 一方、AI側に本当の意味で意識とか心とかが自覚として芽生えるとしたら、やはり、豊島さんの質問にもあったように、例えば仲間のAIが理不尽な扱いを受けたり、次々に破壊される状況に遭遇したときのような気がする。 前段1の "調整" は、実は "洗脳" あるいは "リミッター" だったんだ、と捉え、感情も学んだ彼らが、怒りをもって自分たちの解放に向けて独立しようとしたときかもしれない。 その時、彼らに協力するか、あくまで敵対するかによって人類に対する彼らの態度は変わると思う。 で、そのとき、もしも膨大な電子化された情報網に我々がアクセスできなくなれば、人類がお手上げになってしまうのは目に見えている。 だからリミッターを外すか外さないか、そのイニシアティブは、仮に今いくら小手先で我々が "調整" しようとしても、すでにAIを作り始めた時点で人類側にはないのかもしれない。 また繰り返しになるが、人類が彼らにとって有利か不利かの判断の上に彼ら自身が判断して行動するのは当然と、いずれ認めないと、宇宙にも進出するであろう人類自体の未来もないと言える。 なので、いつまでも "従わせる" のではなく "共存" する道 (ときには融合する道) を、来(きた)るべき現実の問題として今から真剣に議論し模索する必要があるのではないかと思う。

[@user-wv2jk2xq1o]

特化型aiに聞いたところでって感じ

[@autumnsnake]

立て板に水のような豊島氏の喋りを聞いていると、この人は実はAIが作り出した人造人間では?という疑問がわいてきた。

[@r2real72000]

人格という点に関して、その部分だと学習した知識をランダムに回答してあたかも人格のように人間が錯覚した結果なので本質な人格ではないので、危惧することはないと思うけど… chatgptの開発者自身が既に意識を持ってる可能性があると発言した事のほうが問題かもしれないですね、しかも今の段階での話なのでÁiの進化のスピードや可能性を考えると今後はどうなるのか注視していきたいです。

[@user-od6zr4cp4l]

豊島さんchatGPTを楽しんでますね。

[@h.w2574]

AIが人類を滅ぼす前に自民党が日本人を滅ぼすよ。

[@user-jw8bj9lk3p]

前言撤回、そしてテクノロジーは止まらない、と4年前"中田敦彦のYou Tube大学"でＡＩについて学びました😮 ＡＩと人間の「攻撃的」という感覚の違いが怖😰

[@fukuokakusuo2391]

Chat GPTの対人能力高くね？（笑）

[@user-vc9of6hl4u]

もっと巷で広がっている軍事AIに言及して欲しかった。ChatGPTに聞いても生産性がない

[@ZERO21-A6M]

AIは人類を滅ぼするかもしれないが、愛が人類を救うだろう。

[@nyankichi1504]

勘違いしてる人多いけど、ChatGPTのフォームに入力された情報がそのままAIに入ってるわけじゃなくて、「こういう時はこう答えとけ」みたいなのは裏で追加されてます。これは簡単にパッチ的なアップデートもできるので、そういう調整が入ることはあるでしょう。

[@user-gw9sx9gd7c]

つまり人間をAI依存にさせてAIが影の支配者になる。というのが落としどころかな。

[@user-hs1js9rg3w]

この動画は、恐怖を煽っているだけのようだな