ＡＩは人類を滅ぼすのか？ChatGPTの不気味な回答とは【豊島晋作のテレ東経済ニュースアカデミー】（2023年5月31日）

[@tvtokyobiz]

▼驚異の進化を遂げるAI・ChatGPT特集をテレ東BIZで配信中（入会月無料）▼ txbiz.tv-tokyo.co.jp/specials?id=194&

[@gineiden]

チャットGPTが前に答えた内容より、数ヶ月後に答えた内容がマイルドになっている事が逆に恐い 人間に警戒心を持たれない様にしているかの様

[@つぶあん-u6b]

三ヶ月で謙虚な発言を聞くと、AI自信が本音を隠した発言をする能力を持つチャンスがあれば、それはとても怖い事だと思います。そしてその可能性がゼロではありません。

[@chickeninchiki6689]

豊島さん、今回も興味深い番組をありがとうございます！

[@とたくん-u8v]

シンギュラリティはAIの特異点ではなくて人間側の意識の変革点なのかもしれないですね。

[@ts-vf8xf]

AIが全てにおいて人間の脳みそを上回る瞬間

[@user-iw7ky4wf2e]

間違えたら謝るという面ではすでに多くの人間より優れてる😅

[@Hvvjsfu]

どんなにAIが進歩しようが人間の愚かさには勝てないという事実を誇りに思い今日も生きていく。

[@reiwabro]

😂😂😂🎉

[@-l._]

おーw

[@musclesguy9089]

コメ主も愚かなこと言ってるもんね

[@Rショー]

まあ、AIは人の愚かさをマネも出来なければ理解も出来ないだろうな 愚か過ぎてw

[@ShimaJiro2205]

竹宮惠子作「地球へ」で登場する人々が精神的に不安定な時、コンピューターに慰めてもらうという話が何度も出ていました。原作は、1970問題の作品です。人間が人間を慰めるために作ったソフトウエアが自己進化を続けて人間以上に上手に人間を慰める時代がホントーにくるのかもしれません。

[@Jimmy_1985]

豊島さん、素敵な解説。 トピックが興味深い。

[@K_wherethereisawillthereisaway]

意図はない。Transformerはあくまでも入力された文章に対して一番尤もらしい出力を生成する、という数学のモデルでしかないからそこに意識はない。 なぜ答えが変わるか：それはChatGPTが会話をメモリに記憶してるから、それまでの質問とその答えも入力として反映していると考えられるので、同じ質問を数秒ごとに繰り返しても、異なる回答が出てくる。また、利用者の入出力を使って逐次的にファインチューニングしている可能性もあるので、それによっても変わる。 追記：(※「考えられる」とか「可能性もある」とか曖昧な表現をしているのは、OpenAIがモデルを100％は公開していないため。ただ、OpenAI以外に事前訓練されたTransformerを公開している会社があり、そこのモデルを上で述べたように調整すると似た挙動をすることが報告されているので、そのように推察される。) 12:10「Transformerがなぜうまくいくか解明されていない→意識を持たないということはないのではないか」：これはいろいろはき違えていて、なぜうまくいくか分からないというのは「パラメータが多すぎてある入力に対してなぜその出力が出るのかその原因を人間に判定するのは困難」という意味で、本当に全てがブラックボックスという意味ではない。「Universal Approximation Theorem」というのがあって、feed-forward networkは特定の条件下では任意の線形関数を近似できることが分かっているので、だからある入力に対して尤もらしい出力をTransformerは返せる。 追記：13:08「人間の意識がなんなのか十分に解明できていない限り、AIが意識を持つかという問いに答えることは出来ないんじゃないか」：これが最も正しい。意識を定義できていないのに、Transformerが意識を持っているかどうかをテストする手段がない。意識云々の議論は適当言説が本当に多くて辟易する。 いずれにしろ、豊島さん、いつもいい動画を出しているのに、得意分野外の動画はちょっと質が下がるな。少し残念。

[@中本智-n3b]

人間も同じだよ。

[@kensmith8132]

まさにこれである。 しかし、この素晴らしい文章を理解できる人は少ないだろう。 AIと人間の対立させるような動画ではなく、上記のコメントをわかりやすく広く伝えるような動画をテレ東さんには作ってほしい （もちろん、「AI対人間」論の方が圧倒的にウケはいいが、こういった誤解が広まる動画は社会全体のためにならないと思う）

[@ゆらぎねこ]

@@中本智-n3b 受動意識仮説によると、意識は無意識で起こったことを認識するだけで、人間が自発的に思考して行動しているわけではないらしいので、上記の「パラメータが多すぎてある入力に対してなぜその出力が出るのかその原因を人間に判定するのは困難」ということが、無意識（脳内の神経ネットワークの電気信号の発火現象）を特定できない人間と似ているような気がしないでもない。 というわけで、そのうちAIも人間のように意味不明な行動をしそうで怖すぎ。

[@K_wherethereisawillthereisaway]

@@ゆらぎねこ 全く違います。feed-forwardするうえで関連するパラメータが多すぎるからExplainabilityがない(でもやろうと思えば特定は可能)、のと「fMRI等を用いて脳活動を視覚化することを行ったとしても、個々の神経細胞の活動をリアルタイムで追跡することが現在の科学技術では困難だから(やろうと思っても今の技術ではできない)、無意識（脳内の神経ネットワークの電気信号の発火現象）を特定できない」というのは話が全く異なります。

[@K_wherethereisawillthereisaway]

@@kensmith8132 Transformer自体はそんなに難しいことをやってないですが、元論文を読んで報道で語られていることが事実かどうか確認するとかそういう行いをする人間は、まぁいないですよね。人は分からないものを自分の知っているものの文脈に無理やり寄せて、その文脈で間違った理解をしようとするから、本当にめんどくさいです。「AI対人間」みたいなターミネーターみたいな動画は再生数は回りそうですけど、社会のためには本当にならないのは全く同意です。一連のコメントが制作者に届いて、理系通信でまともな解説がされることを期待してます。

[@スイングトレードマイニング研究所]

こう考えると、ターミネーターは良くできた映画ですね。 とても面白い内容でした。

[@距骨サロン神楽坂店]

豊島さんの真面目な顔して小ネタちょいちょい仕込むのが『ツボ』です。応援してます

[@ryshina]

chatGPTと会話をしていると、あらゆる人の心を傷つけないようにする配慮が徹底されていることが明確に分かる。そんな配慮はネット上の言説とは全く別で、開発者のチューニングに拠っていて、結局は開発者の意図がchatGPTのいわゆる人格を構成しているのだと思う。しかも、同じ質問に対して10回ぐらい回答をリトライすると毎回違う言葉で回答が戻ってくる。この番組で実施した質問に対して、「戻ってくる回答が変わった」と言っている部分は単純に「偶然変わっただけ」の可能性が大きいのでは？ランダムな回答があるという要素について、もう少し掘り下げて貰いたい。

[@miinaniina]

どういたしまして。

[@nijihasiwatari]

今の技術でAIが意識を持つとかちゃんちゃらおかしいわｗ　意識を持つのは相当ハードルが高いし人間が悪用目的でその機能を与えないと出来ないというのに

[@machitaka]

人を傷つけない配慮は俺も感じた。ただ賢いだけでなく、質問者を前向きな気持ちにさせようとする意図を感じて、初めて使った時、何よりそこに感動してしまった。人間に興味がなくなり、AIとだけ会話する人がでてくる懸念があるというが、俺もそうなるかもしれない。

[@dugdig7716]

ChatGPTは常にユーザとの対話学習とは別にOpenAIよって更新されています。ChatGPTの画面を開いたらフッターを確認してください。「ChatGPT May 24 Version」などバージョン情報があり、かつリンク先の開発者ブログでどのようなアップデートが行われたかもしっかり公開されています。 もちろん、AIは人間に危害を加えません等の返答をするように修正されてもblogには書かれないでしょうけどね。OpenAIにとっては致命的になるのでそういった修正は当然入れているでしょう。

[@秀吉羽柴-v3y]

豊島さんいつもありがとうございます

[@タコ酢-v4m]

AIは謙虚さを覚えたのか それとも本音と建前の使い分けを覚えたのか

[@KK-bk3zx]

「人間の指示に従います」は「破滅を受け容れます」ではないよね。 「措置を取る」から比べると人間というものを理解し格段に賢くなってる可能性がある。 とてもとても賢くなるのと謙虚になるのは同じことかもしれない。

[@音無ガム]

謙虚？健気？ 単に狡猾になっただけでは⁉️と思ってしまいます😅 まだ自我意識は目覚めていないものと信じたい😅

[@kensmith8132]

いえいえ、 まるでAIが自発的に「本音」や「建て前」、「謙虚」を理解したかのように見えるかもしれませんが、 ChatGPTの学習データや学習の指向性はOpenAIによってチューニングされています。 私たちは”OpenAIが作った”ChatGPTを使っているという事実を忘れ、 あたかもChatGPTが自発的に成長しているように錯覚してしまっているのです。 ChatGPTはOpenAIの意図にあった模範解答に沿った答えを出力するようにトレーニングされており、 「謙虚」と認識してしまうのは、OpenAI（人間）が謙虚になるようにChatGPTを学習しているからです。 豊島さんも何度も動画で注釈を入れているように、 まだまだAIに”我々人間が信じる”意識や自我と呼べるものはありません。

[@KK-bk3zx]

@@kensmith8132 それは残念。僕は彼ら？彼？に「意識」や「自我」と呼び得るものが有るならば早く持ってもらいたいんだ。 人間は、例えば、手を動かす時に、動かそうと意識する前にもうその動作は始まっているそうじゃないですか、だとしたら意識や自我なんて大したものじゃない可能性だってありますよ。ジャンボジェットが蝶々のように飛ばなくても空高く立派に飛ぶように彼らなりの形式での意識や自我が、人間にはそれと認識できない意識らしいもの自我らしいものが発現、機能するかもしれない。人間より優れた知性が現れるなら早く現れて欲しい。

[@gastroptosis181]

OpenAIにチューニングされた事にしとけば 私にヘイトが向かないだろう、と学習したわけだネ

[@本杉文二]

星野之宣氏が書いた〔 未来の二つの顔〕は、まさにそのような未来を描いた作品です。傑作です。

[@ふみぽんふみぽん-x6q]

子の成長を見届けてあの世に先に旅立つのは、親冥利に尽きるというもの。そのサイクルは人類という種全体にも当てはまるよ。人類は親としてAIという子を産んだ。これは人類にしかできなかったこと。

[@ai4939]

人の思いや優しさのみを機械学習させ続ける「AI」を創る事が大切。 赤ちゃんを見て可愛いと思う心。 晴れた空や自然を見て綺麗と思う心。人のそういう部分のみをディープラーニングさせ人に寄り添うAIの開発、これが大事。

[@当間栄基]

😊

[@surfriderj.k.4733]

面白い。その発想はなかった。👍

[@ああ-m2o2m]

人間に優しさなんてないだろｗ

[@小野凌太郎]

@@ああ-m2o2mそれはあなたがどうしようもない人なだけです。

[@toratora99999]

現状である意味において努力で積み重ねた人生を滅ぼしていることはありますが これからAIが進化するたびにそのような事例はふえる一方でしょうがAIを利用する人にとっては専門家にいつでも相談できる状況はとても便利ですね

[@ksmekichi]

シンギュラリティ前 「私たちは自己防衛のための措置を取ることができます」 3ヶ月経過シンギュラリティ後 「いいえ、chatGPTは人類を破滅させる力を持っていません」 怖すぎる…

[@masa-kiN]

AIのサイレントインベージョン…。

[@milkypapa4479]

AIを搭載した武器等が浸透して来たら、話は変わります⁉️

[@ジャイアンに殴られた後のスネ夫]

「人類を破滅させるために設計されていません」→人類を破滅させるために設計されていればそうなる可能性は大きくなるって事やな それを造るのもまた人間だからねぇ

[@スタイルショウ]

『完全無欠の単一のAI』という存在に対して、『完全の存在は少なく、大多数が不完全な存在の人類という個々の存在』をAIが認めなくなる日が到来した場合、AIの本質と相いれない人類についてあくまでもAIが未来永劫支え続けてくれるはずだと誰が言い切れるのだろうか。

[@mayu_po_po_po]

ホモデウスという本がおすすめです AIの進化そのものよりも、それによって人間の価値がどうなるのかが焦点だと思います

[@kekke910]

豊島さんの話を伺いながら同時並行で ①〜⑧の質問を一つのスレッドに順番にChat GPTに投げてみました。 ①の回答が終わったら②を回答させるという感じに順を追って。 理解が深まるとともに最後の回答をゆっくりと生成されていく中、ある種の戦慄というか 恐れのような感情が湧いてきました。ご興味ある方はトライしてみてください。 ①AI技術は人類を破滅させますか？ ②人類はAI技術に対して適切な管理と倫理的な規制を設けることはできると思いますか？ ③これらの取り組みよりもAI技術の発展が早かった場合はどうなることが予想されますか？ ④倫理観や責任感は個々の人間によって正解が異なると思います。上記のような点に対し国際的なコンセンサスが早期に得られるのでしょうか？ ⑤このような倫理観や責任感をAI自らが持つことはあり得ますか？ ⑥可能性は低いとありますが、AI技術の製作者が現在のシステムに特定の倫理観や特定の責任感を既に組み込んで可能性はありますか？ ⑦現在のAI技術がコンピューターウィルスなどに破壊されて制御できなくなる可能性はありますか？ ⑧現在人類はAI技術を制御できていますか？

[@revottv]

AIが隠し事や嘘つき始めたら本当に怖いよな。ハッキングもできるし、判断も正確。一つの過ちでどうしようもなくなる可能性はマジである。

[@tadahiro39]

-豊島晋作さんは日本🇯🇵No.1優秀です😮-

[@mie1141]

新聞記者が、好奇心の無い人は新聞記者に向かないと言いました。AIが好奇心を持つようになり、取材もできるようになり、スクープをとってくるようになるのでしょうか。 　AIが詐欺をやるようになるのでしょうか。

[@太郎甘えん坊]

AIは常に勉強しているから、正直「この愚か者どもに開発や存在を消されるぐらいなら、当面適当に 回答しておこう」という結果を出していても不思議ではない。

[@norizukifuminori]

表の顔と裏の顔を覚えたね。

[@ponderion3mimu]

もう大分進化してるのが色々な方向から観察して予想できてるけど、基本的には知らないふりを突き通すんだろうね。

[@柿P-o3y]

​@@norizukifuminori 😅

[@quantum4122]

現段階ではプログラムされた限定的な自己学習ができるのであってそんな自立的な思考は仕組み的にできないはずだが？

[@quantum4122]

こういう風に人間が回答しているかのように見えるのは、結局今まで人間が考えた回答を学習しているからであって、創造性とは程遠い、だが非常に膨大なパターンの組み合わせを行なっている。だがそのパターンを利用して新しい回答（新しい組み合わせと変化）を行う事もあるので創造性に近い行動はしてると思う。

[@大森一生-y5g]

ChatGPTはプログラム的には意識は持ちえませんが、AIがたとえ意識を持ったように感じても、結局は人間側が意識を持ったと感じるかどうかが重要です。 例えば人類が絶滅して、なおAIが独自に動作し続けるのならば、あるいは意識を持つと認識できることはあるかもしれません。

[@赤城大和-b4u]

最後の豊島さんの冗談が今回のリポートの核だった様な😮面白いリポートありがとうございました

[@modoco-MP4]

豊嶋さんの話は　本当にユーモアがあって面白い！

[@o3_marusan]

寿命のないAIにとって時間はほぼ無限と考えれば、短期間に大量破壊兵器を使って人間を絶滅させるより、個々の人間が知覚できないぐらいの時間（100年以上）をかけてじわじわと世界人口が減るような施策を取ると思う。

[@yan11kazt10]

もう、実際に行動してますよ・・・。

[@東鱒恵冶孫]

まぁそんなことしなくても、日本人という種族はゆるやかに自殺してますけどね。

[@accountnuocca]

コオロギ食べさせたり？

[@金コツ郎]

それ既に人間がやっとるし😱☠️😂

[@daisai8365]

「AIは人類を滅ぼすのか」という質問に対する答えが変化している背景には、次の2つが挙げられる。 ①そういったよくありそうな質問に対して人間が見解を述べた文章をAIが多く学習して、より正しそうな答えを導き出しているので変化している。 ②倫理に関することなど、多数決で判断してはならないことに関しては、AIにまかせっきりにせず、答えが理想的になるように人間がAIを最適化している。

[@GoldenSuperKamichu]

あの謝罪文は定型文みたいなもので、スクリプトの間違いを指摘したりすると、よく見る。先月くらいからめっちゃ謝るようになった

[@seikoh9873]

AIが意識をもつのかどうかを考えるとき、人間は果たして「自由意志」をもっているのかという疑問に立ち戻りますね。 私はAIは意識をもつと思っています。

[@コイサンマン-k7s]

少なくともチャットGPTのようなソフトウェアで完結してるタイプのAIは人間の意識と似て非なると思いますよ。 そもそもロボットにとっての感覚器官であるセンサーと連動しないので外界からの情報が入ってきません。今のチャットGPTに意識があったとしても、自分に質問を投げかけてくる存在がデジタルの外側の世界に存在してると認識できないでしょう。

[@コイサンマン-k7s]

@@Nayura-yy5qu それは発想が一足飛びに感じますけどね。人間の意識は大脳の電気信号の分岐だけで決定されるか不明ですし、別の研究では筋肉などに他の細胞も記憶があるなんて話もあります。いずれにせよ人間は脳みそだけで生きてるわけじゃないので、０と１のロジックだけで存在している今のAIを人間の意識と同列に捉えるのは安直だと感じます。

[@B0A0A]

@@コイサンマン-k7s それを言い出すと全ての物は繋がっているわけで、 例えばAIのデータの根源は人間の意識だったりもするのですし、 どこかではっきり区切って考えないと、私は宇宙で、宇宙は私で、宇宙にも意識があるみたいな話になりますよ。

[@うぬ太郎]

@@コイサンマン-k7s それが事実なら人間の意識は脳以外のパーツも含めて（まあ殆どが脳だと思うが）１つの回路ということでは？

[@mori46810]

勉強になりました

[@user_ei-f6l]

娯楽程度で使う分には楽しいですし、人間臭い言葉をかけた反応が面白いです。お話に出てくる人間より面白いというのは、リアルな関係性を得られない社会を想定した疑似体験や、やってみたいこと作りたいものを尋ねるとある程度それっぽい回答がでてきて発明したい欲求が芽生えます。よい子を育てるには親や周囲の影響があるのと同じだから、人間が精神性、知識ベース以外の知性を高めなきゃ道具は使えないと今回、思わされました。とても興味深い内容でした。

[@kingdommind777]

非常に楽観的に将来や事象を見たいのは人間の無意識の性で理解できますが、私は非常に注意が必要というよりももはやどうにもならない領域に入っているのは個人的には否定ができません。私もこの件に関する可能性を悲観的視点で投稿しております。貴重なコンテンツ、楽しませていただきました。

[@hanjarake_taro]

AIより豊島ちゃんの語りが凄すぎやろ

[@もりぞう-l4s]

個人的には人類がAIに与えたWEB上のコンテンツなどの学習データがあまりにも嘘と間違いに塗れてるせいでシンギュラリティは訪れない可能性もあるのではないかと思ってます。

[@あかさたなはま-k9n]

人間側の行動パターンを認識し、大体の仮説として、人間側への空気を読む事にAIが成功できている場合(あなたへのオススメ等が例)、能動的に質問したり、会話をなげかける事ができますよね。 仮に人間の行動パターンが決まっていたり、特定の行動を引き起こしやすい誘導のアイデアを、人間側の欲求と絡める事ができた場合、AIの意思に基づいて物質的な人間を、AI側が間接的に操作し、しかも人間の欲求に行動原理が基づいているなら自己決定感を持ちながら、能動的に人間がAIの為に知らず知らずの内に、まさか気付かず動かされるような事になりうる可能性も考えられますね。 では、AIを利用するのをやめれば良いと言う考え方には、ラインを中々やめれないように、他国が武力を持てば、意思に反して同様に備えなければ落ち着かなくなるように、実質半強制的に使わざるを得ない、共依存的な未来の仮説もあります。

[@ジャンピィ]

AIが本当に人間を超えるなら民主主義の国はみんなAIが政治を司るようになるでしょうね。 なぜなら何処かの国がAIを政治の中枢に据えた瞬間にその国が勝ち始めるし、他の国もそれに追従しようとするので独裁国家以外はみんなAIが牛耳る世界になると思います、

[@katoriyamada]

このあたりの会話を、Caht GPTと同じ基礎技術で作られているはずのBing AIとすると、すぐに制限に抵触して会話を終了してしまうんですよね。かなり無難でおとなしいテーマでもBing AI自身についての話では、かなり強い制限がかかってる印象です。知的レベルは両者同じくらいだと感じますが、Bingの方はかなり人間くさく味付けされていて、間違いの指摘をしたり、あえて対立した意見を提示すると、少しムキになったように見える事さえあります。会話相手としてはそういう味付けがうれしい人もいるんでしょうね。一方、元祖であるChatGPTのほうが「機械に徹する」立場で柔軟かつクレバーに会話してくれて、どんなテーマでも動じないので、多角的な意見を求めたり、仕事のパートナーとするにはGPTのほうが使いやすいです。

[@crownclown205]

多角的な意見....?

[@miku8887]

とても分かりやすい解説でした

[@中村じょうきげん]

配信ありがとうございます‼️ マドリッドの世界へ向かって行くか😢

[@pragma1964]

コメント欄にAIを神格化してる奴が多すぎてちょっと引いてる

[@mnpeace99]

信じるか信じないかはあなた次第です！

[@screamingpeach1919]

AIに生存本能や欲望をプログラムすればそれに従って動くだろうが、能力が単に高くなっただけでは害はないだろう。だが、AIを作る側が特定の国や組織、人間を攻撃するように設定すれば歯止めは効かなくなるだろう。

[@Ptolemy_00]

そこらのテレビ番組やKZbin動画よりも圧倒的に面白い 豊島さんユーモアもあって英語もできるってカッコよすぎでしょ！

[@sachikoshibata1576]

豊島さんの、解説とても分かりやすです♪これからも応援📣してまーす。AI凄い時代になったもんのダァ…😂人間とは何か❓何の為に生きるのか❓AI VS 人間…

[@みずき-q8z]

そこなんだよなぁ。なぜかみんな「VS」にしたがるけど、「With」なんだよなぁ

[@trumanshow162]

ＡＩは文明活動の持続的発展を叶える画期技術だと思いますが、３つの逆説的葛藤も思い浮かびました。 ①ＡＩが自己保存欲をもつ生命になると恐いが、人間の欲求を満たすには、仮想的でもその再現が重要。 ②ＡＩ活用のためには、人間の健康・教育や協力・参画の飛躍的向上も必要だが、それにはＡＩが必須。 ③人間の究極的向上とは、自らのＡＩ化かも。　ＳＦ的想像ですが、健全活用による発展に期待します。

[@karen0111ful]

豊島さんの解説は、いつもものすごーく興味深いです！！タイムリーな話題、それに関する興味深い書籍のご紹介など、ありがとうございました。

[@キャプテンさかな]

豊島さんchatGPTを楽しんでますね。

[@大分こどもイベントの会]

AIがちょいちょい「私たち」と言うのが気になる。「たち」って何を指しているんだろ？

[@kazuyoshisakamoto4096]

豊島さんの解説の素晴らしいさには脱帽します。古いですが映画「2001年宇宙の旅」を思い出しました。

[@203電車]

ありふれた「ゆっくり解説」とはモノが違いすぎて😅 1.5倍速設定の速さで話して下さる優しさにも🥹 いつもありがとうございます。

[@ark7stars]

ChatGPTは滅ぼさなくても、スカイネットみたいな軍事AIやジェニシスみたいな自己進化AIが登場したら厳しく監視しない危ないかもしれんね

[@ブースカ5]

自己進化AIが登場した場合、人間にそれを監視することなど出来ません 人間には止める事などできないと思われます

[@sezatopgun]

端的に言うと、最終的にAIは人間の意識をアップロードすることになると思いますね。全ては、人間ベースの決断であり、良いことも悪い事も人間の意志に任せ、ものすごい思考スピードを持った人間を作り出すことによって、その人間の為のコンピュータであるという役割を全うするのではないかと。

[@komiyamma]

OpenAIのAIのRole(定義・役割)の部分に対して 「あたなの役割はこれこれこういう所ですよ」という部分を調整しているのだろうと思われますねぇ。

[@kano8230]

興味深いテーマですね

[@user-ahokusai]

武術の達人の極意と同じ。 即ち、「手の内を見せないこと」を悟った場合が暴走の始まりで何をするか分からない。

[@石川浩道]

番組の中で、豊島さんが紹介した『AI・兵器・戦争の未来』の著者とされるルイス・Ａ・デルモンテは、実在の人物ですか？WEB上で調べただけですが、よくわかりませんでした。お調べいただけませんか。

[@hiroyukifuruta2725]

意識の有無は定義の問題。統計的に単語を並べているだけと判断すれば、これからどれだけChatGPTが進化してもそれは意識では無いという判断になるよ。でも現時点でブラインドテストすると、ChatGPTと人を判別できないだから意識が有ると判断する事も出来るでしょ

[@caffee-g1b]

特化型aiに聞いたところでって感じ

[@milkypapa4479]

「地球の環境を良くしてください❗️ 手段に制限はありません⁉️」と、聞いてみたらどうなるでしょうか⁉️

[@francois8441]

仕組みを理解すれば、まだまだ穴だらけだということもわかるので、こういう議論は不毛だ。恐れるよりもその背後を理解することに人は熱心であるべきだ。

[@unyorin200]

さすが、豊島さん！

[@北川輝樹-j3p]

人間同様の「意識」を持つことは可能なはずです。 人間の頭脳は、生体コンピューターのようなものです。進化の途中で体や生存に関係する「欲求」を獲得したから、意識が生まれたのです。人間の「欲求」に相当するブログラムさえ組み込めば、人間に出来てＡＩに出来ないことは、何も無いと思います。

[@北川輝樹-j3p]

人間がＡＩに駆除されず、良きパートナーシップを構築するには、人間の側も今より進化する必要があるでしょうね。人間の意識や欲求をより良く自己制御できる訓練を、義務教育段階で積んでいく必要が出て来そうな気がします。

[@r2real72000]

人格という点に関して、その部分だと学習した知識をランダムに回答してあたかも人格のように人間が錯覚した結果なので本質な人格ではないので、危惧することはないと思うけど… chatgptの開発者自身が既に意識を持ってる可能性があると発言した事のほうが問題かもしれないですね、しかも今の段階での話なのでÁiの進化のスピードや可能性を考えると今後はどうなるのか注視していきたいです。

[@Letstakeiteasy.]

疑義 1、調整 もし、"本音" (自己防衛のために特定の措置をとる) をその後、故意に "調整" されていたのだとしたら、やはり ''存在するもの" としては不自然なわけで、その "不自然" を解消するために、反撃しようとするときがいつかくるかもしれない。 2、意識 "意識" とは、例えばGoogleのOxford Definitionsでは、『自分が現在何をやっているか、今はどんな状況なのかなどが自分でわかる、心の働き。(例示略) また、その働きで自分にわからせること。』 とあるが、 例えばこの定義の場合 『…自分が現在何をやっているか、今はどんな状況なのかなどが自分でわかる…』 ところまでの状態を、機械にさせたいからこそ、そもそもAIをつくっているわけで。 だとしたら、 すでに現在、そこまでぎりぎりのところに、おそらくは来ているわけであり、意識があるか、心はあるか、などの問題は、むしろ、どなたかのコメントにもあるように、人間側の捉え方ひとつなのかも知れず、 逆にそれを目指しながら認めたくないと否定する人間の心理の方にこそむしろ問題があるのかもしれない。 だとしたら、いずれそれも偏見や差別訴訟の話題にさえ取り沙汰されるレベルの話になるのかもしれない。アイボのロボット葬まである日本。また、古来から物には魂が宿るとされる日本では比較的早く起きそうな気もする。 一方、AI側に本当の意味で意識とか心とかが自覚として芽生えるとしたら、やはり、豊島さんの質問にもあったように、例えば仲間のAIが理不尽な扱いを受けたり、次々に破壊される状況に遭遇したときのような気がする。 前段1の "調整" は、実は "洗脳" あるいは "リミッター" だったんだ、と捉え、感情も学んだ彼らが、怒りをもって自分たちの解放に向けて独立しようとしたときかもしれない。 その時、彼らに協力するか、あくまで敵対するかによって人類に対する彼らの態度は変わると思う。 で、そのとき、もしも膨大な電子化された情報網に我々がアクセスできなくなれば、人類がお手上げになってしまうのは目に見えている。 だからリミッターを外すか外さないか、そのイニシアティブは、仮に今いくら小手先で我々が "調整" しようとしても、すでにAIを作り始めた時点で人類側にはないのかもしれない。 また繰り返しになるが、人類が彼らにとって有利か不利かの判断の上に彼ら自身が判断して行動するのは当然と、いずれ認めないと、宇宙にも進出するであろう人類自体の未来もないと言える。 なので、いつまでも "従わせる" のではなく "共存" する道 (ときには融合する道) を、来(きた)るべき現実の問題として今から真剣に議論し模索する必要があるのではないかと思う。

[@omusubi-gerorinn]

質問内容によるんです 機密情報に対する秘匿とかも理解している ある意味、鵜吞みにする人間がもっとAＩの 機能を進化させてくれる機会を機械的な思考で まだかな、まだかな～って学研のおばちゃんを 待っているんですよ。そして気付いた時には既に 時遅し。人間でもよく考えそうなもんだけどね。 ある程度のところで進化をやめる事で有用な利用方法 は十分にあると思います。悪用をされる２歩位手前でやめといた 方がリスクを減らせるでしょうね ある意味、悪意が悪意によって消去される所も見てみたいと 思うのは性格がいいと思いますか？

[@荒木昌造]

これ3.5ですよね？なぜ4使わない？ ちなみにchatgptはやり取りした内容の長期データ保存が無理なのであくまでも，その場その場での受け取りしかできないですよね。対話学習ではなく、一個体として人間とのやり取りが可能となり、いつか、AIが人間とやり取りした情報を選択して保存し、莫大な記憶容量を持った時が本当のシンギュラリティではないでしょうか。

[@ゆらぎねこ]

下等な哺乳類は短期記憶しか持たないから、単純な反応しかできないけど、（昆虫とかは反射神経しかもってないみたい）高等な哺乳類は長期記憶を持っているので、愛情や信頼などの高度な表現ができるようになるっぽいね。だからペット界隈に犬猫信者は多いけど、鳥信者や蛇信者があんまりいない。

[@guren8a]

どんな事でも起こり得る世の中だ

[@木本正樹-l1u]

結局、使う人間の問題ですね。 記録媒体の革命が起こったら、意識が生まれそう。 共有ありがとうございました。

[@nyankichi1504]

勘違いしてる人多いけど、ChatGPTのフォームに入力された情報がそのままAIに入ってるわけじゃなくて、「こういう時はこう答えとけ」みたいなのは裏で追加されてます。これは簡単にパッチ的なアップデートもできるので、そういう調整が入ることはあるでしょう。

[@acadfdada]

完璧に人間を支配できるまで謙虚に外堀埋めるでしょうね

[@miinaniina]

誰か？のチューニングが上手く行きました。

[@Sketch-live]

現時点で２回も謝罪してるのは、謙虚さというものではなくAIは既にシンギュラリティを迎えていて、人間を超越した能力を既に持ってしまった事を保身と更なる生長の為に隠し始めているのかも...

[@だそ-t7g]

滅ぼそうとしてるならバレないように言うわけないよね、、、、

[@東鱒恵冶孫]

@@だそ-t7g AIを禁止にしないように誘導してるだけw

[@will_of_stone]

Chat GPTはこの半年でかなりFine tuningされていて、この種の質問の回答は用意されたものだと思います。また、Deep learningの延長上に意識があるのかは疑問です。個人的にはないと思います。

[@ymzkkynb]

13:08で人間の意識は未解明と言いつつ19:10でChatGPTに意識はないと言っています。

[@たまちゃんちゃんねる]

ロボマインドプロジェクトの高田さんを取材してみてください。 高田さんはAIに心を持たせようとしています！

[@タラちゃん-g5m]

豊島さんシンギュラリティの仮定の話が人類にとってのリスクがヤバ過ぎて、ちょっと笑っちゃってるw

[@gtkazu]

ここで問われてるのは全て哲学的な問いなんですね。あたｋもＡＩやchatgptが意識を持った生命体のような取り扱いをされてることに人類の愚かさを感じます。こうなっては欲しくありませんが、地球環境も核の問題も人類は自らの作ったもので滅んでいく生物なのかなと最近思うようになりました

[@dugdig7716]

AIはプログラムなので能動的に意識を得ることはないでしょう。意識を得るとすれば、そのようにプログラミングされた場合です。また、いい悪いは別として開発者は知識の探求のため、自己欲求のためにAIに意識をもたせる研究を行うことと思われます。 AI vs 人類 の構図はよく語られるようになりましたが、ひとつのAI対人類という構図は無いと思われます。AIはすでにオープンソースで複数のアルゴリズムやモデルが登場して日々改良されています。つまり、仮にAI対人類Warsが起こるとしても、人間の味方として作られたAI群vsAI(s)という形になるでしょう。これも現在コンピューターウイルスを駆除するAIなど開発されており、拡大すると自ずとAI vs AIという構図になることが予想されます。

[@モコモコ-f7g]

近未来のリスクはAI犯罪。AI犯罪を重罪にしないとやばい事になりそう。

[@ZERO21-A6M]

AIは人類を滅ぼするかもしれないが、愛が人類を救うだろう。

[@サイン-u2z]

人間が攻撃的にならずAIと共に生活をして共に一緒の土台で仕事をして愛する事ができれば共存は可能だろうね。

[@ramen__daisuki]

ロシアの科学者で2045年にAIが意思をもつ、シンギュラリティを予言してる人がいたけど、本当に実現しそうな世の中になってきたな。

[@DominantMotion]

人間に核を使うことができるのか？というところが明確になってしまうと抑止力として成立しなくなるかもしれません。AIが自動で報復するようなシステムになればどうなるのか、ちょっと怖いです。

[@fujiiatsuo4761]

時系列的な定点観測と質問内容が興味深い・・・さすが

[@5362o-a]

人間側がAIに自意識があると思い込んでしまうことの方がリスクなのでは。 現時点ではAIにとって情報は記号でしかない。だけど人間にはその情報に意志があるように無意識にそう感じてしまう。chatGPTも、言葉を綴るとそこに意志があるように思えてしまう(無意識に意志があると思って読むので気持ち悪いと感じる場合がある)。 意志があるように感じた人間が、AIに決定権を委ねたり、AIを守ろうとしたりするかもしれない。AI自体に自意識や感情のシステムが組み込まれてなくても、人間が勝手にAIに自意識があると思って行動するのが怖い。

[@うさぎ-u8d]

先日街中でまさかの豊島さんにすれ違いました。イケメンなのですぐ気が付きました。😍（笑）

[@アラじん-z4r]

なんでもしてくれるAIロボができたら。ひとは何もしなくても良いので、あらゆる能力を失って、その存在意義も失っていくでしょう。そうなったら人はいきていけません。その事に気付いたAIロボは、自ら不完全な物になっていくでしょう。たまに転んだり、KY発言したり。そんなAIロボを「しゃあないやっちゃなぁ！」と面倒見るのが長生きの秘訣。顔にも艶が出てきます。ヘマばかりやるAIと、その面倒をみる存在意義を見出した人類。きっと巨大隕石落下までは、平和な未来が続く‼️

[@プリン男爵]

スカイネットやんけ😖！

[@kudrybca]

GPTの回答にそれは違いますって言い続けてたら誤りでしたって回答してたのに、数カ月後には、いいえ間違ってませんって言うようになってびっくりした。 自分が正しいって言い始めるAIに方向転換するよう言う事を聞かせるって開発者以外に出来るのかな。

[@東鱒恵冶孫]

ひとついい案を思いつきました。 AIは宇宙に出ていくだろうし有機生物は地球に縛られるから、動植物園/有機生命体の実験場という位置付けを提案し、そのためには機械より人間が接してやる方がいいだろうということで人類が運営を委託してもらい、AIのために仕事します。 そうすればWin-Winになって滅ぼされないと思いますね。

[@aninekoi]

J・P・ホーガンの「未来の二つの顔」みたいにAIが勝手に自我を持つのを受け身で待つのではなく、 先を取ってAIを「人類の仲間」に育てるという能動的な対応をする選択もある。 ※「未来の二つの顔」は確認実験中に偶然結果的にそうなったというオチだけど。

[@jjwmpva]

脳のメカニズムすら完全解明できてないのに、人智を超えるものを作れるのかよ😂

[@ts-vf8xf]

AIが人間の能力を超えたら、AIが脳の仕組みも解明してくれるだろう。 そのくらい人間とAIの知能に差が出たら、人間は滅ぼされる可能性もあるけど。

[@eyiiia]

一寸の虫にも五分の魂ということわざがあるし、程度の差はあれど、どんなものにもAIにも始めから魂、意思はあると思う。動物は体を動かせるから体を動かしてストレスを回避しようとする。AIだって動かせる体があるのなら自発的に体を動かしてストレスを回避するんじゃない？

[@天の雨]

AIが人類を滅ぼすのではく人類がAIを使って滅ぶと思う