【倫理観】昔と変わってない

[@朋子-g1j]

倫理観を養う教育は、今も昔も必要だと思いますが、新たな技術によって、簡単に画像が作れたり拡散できてしまったりするので、倫理観に訴えるだけでは追いつかない。やはり規制強化や厳罰化も必要だと思われます。

[@彌城枝里子]

同意です😠

[@村田努-v5h]

東大阪市在住65歳のオヤジです。 倫理観、絶対に新しい考え方に基づく教育が必要だと思います。 「人に迷惑をかけてはいけない！」が底辺の考え方で迷惑をかけた者はある程度の罰則付きも必要でしょう。勿論未成年者は親にも何かしらの罰則がついてくるのは当然です。子供達には未来があるから守ってあげなければならない！ その通りです。ただ子供達はその考え方をすでに武器にして言い訳ができるようになっています。頭が良くなったのか？要領が良くなったのか？

[@結希-q7m]

菅さんの話の広げ方がすごい。 サムネの意味がよく分かりました！

[@彌城枝里子]

同意です🥰

[@psychommunity37458]

ほぼ全国民がカメラ持ってる時代やもんな。

[@yukki1716]

SNS然り生成AI然り人や社会に対して与える影響があまりにも大きすぎておふざけの範疇を超えて一発アウトになりやすい世の中になってるよなと感じる...。 子どもがやったとか軽く捉えていたが通用しない若さゆえの過ちを今後どう議論していくのかとても興味ある。

[@nono35126]

こんな事、やってしまわれたら もう取り返しがつかないですね、怖い事です😢 やった人を重罪にするよう法律を作るしかないでしょうね

[@行けとんぼ]

裁く法律が無い所が怖いなと思いました。 以前、宇治原さんが法の上に倫理がある的な事を言われてた様な… 技術の進歩の上にも倫理が欲しい所ですね。

[@ミトン2]

スカートめくりが単なるイタズラと思われていたのを、「本当に嫌なんです！」と言う人がいたから今の子どもがしてるなんて聞いたことがないです。 法律で縛ることが一番だと思いますが、人権侵害だ。とか、やってはいけないことだ。といい続けることも大切な気がします。

[@mu4360]

ある報道では卒業写真を使って性的ポルノを中高生が作成していると報告されています。また1月には小学生高学年が女子の着替えを盗撮して共有していたことも発覚しています。 法が追いついていないのもそうですが、価値観が今も昔も変わってないとしても大人側が食い止める方法をどこまで考えているかが不明です。 日本では性教育が消極的ですが、国連が2009年に発表した「国際セクシャリティ教育ガイダンス」には学習目標の中で5歳以上が対象になっています。 つまり性への好奇心は多くの人（全員ではない）が持つが、それをどう扱うかを知らない・掴めないから何が悪かが分からない状態になっているのではないでしょうか。ならば教育や教育コンテンツがもっと子どもの心理に基づいた教育をしていかないと、このような問題は形を変えて続くと思います。

[@けれんみ-b6x]

人間の倫理観は早々に変わらないので、新しい技術に対して最適なルールや法律を提案するAIができればいいですね。

[@harapochi]

AIって、そういう「映して欲しくない人、許可取れてない人の画像を一発で消してくれる」 みたいな機能のために開発・改良されていくべきと思うんですけどね… 法律全然追いついてませんね。 ポルノだけでなく、また男女も関係なく 誰でも被害者にも加害者にもなれる技術はそれなりの覚悟で触れるべきなのに 気軽に触れる状況にあるのがとても怖いです。 【はらぽち】

[@Cow-Love]

出ました！安定の宇治原回！ AIやSNSの話題と並ぶ、新聞で読んだディープフェイクの話題！！

[@patty32marisstella]

宇治原さん回！年末をお得意のＡＩ関連の話題で締めようとしていますね笑 学校のイベントを写真館さんが撮ることがありますが、今はWeb上のサンプルデータから選んで購入しするようになっています しかし、そのサンプルデータをスクショするなどして買わずに手にしてしまう人も少なからずいるそうです ディープフェイクとはズレますが、法律も倫理観も早くアップデートしないと、無法国家に近づいてしまいそうで怖いです（パティ）

[@pearlpalms]

NHK クローズアップ現代 で既に放送されましたけど、2024年12月18日(水) 中学生が卒業アルバムを悪用？！ 身近に迫る“AI生成ポルノ” があります。国内の事件です。 問題はエロ動画ではなく、被害者は何も感じないところで、心を汚されるという、別次元の被害を他人が理解しにくいところ。 複雑な状況の被害者を、どう救うか？誰が対応できるのか？という次の次元のハナシになってます。 ディープフェイクを作る犯罪ではなく、その被害者をどう救うのか？が、何も確立していないことが問題だとされています。

[@okadachako]

今回のことも闇バイトにしても犯罪との境界線がわかりにくくなっていることに怖さを感じました。

[@彌城枝里子]

今回の動画は、まずタイトル見た時は「何の話だろう？」で、観てみたら「性的画像トラブルの話か。タイトルの『倫理観　昔と変わってない』って何🤔？」と思ったら、”いたずら”気分で性犯罪を行うという話だったのですね😔確かにわたしの場合も中学の時（同性同士ですが）「スカートめくり」する子もされる子（わたしはこっちでした）も「ブルマ履いてるから」って言ってふざけてやってましたが（される方は本当は傷ついている子もいたかもしれない😥）どう考えても異常ですよね😔！その倫理観が変わってない。確かにそうかも😰（そういうことがあるのも小学生から中学・高校へと”幼くなってる”気がしますし😔）

[@ビギナー道]

危険な玩具を売って不特定の人が怪我をしたらメーカーは回収しますが、 ネットはそういうわけにはいきませんからね。 今後教育がどれだけ出来るかにもかかってきますね。

[@nekoneko3966]

とにかく何か問題が起きた時に禁止っていうのは一番悪手な気がします。 子どもを守ってるつもりが、何が悪いか分からない大人を増やしてるだけで、問題の解決じゃなくて先送りしてるだけだと思います。

[@彌城枝里子]

完全同意です😠ヤバい大人増やしてるだけですよね！

[@yamasato99]

いきなり全て解決するのは難しいけど、一旦単なる作成は罰則を作らず、 「所持・ダウンロード」と「拡散」に焦点あててこっちを禁止するように進めて方が良い気がします。 やまさと

[@misterEAD]

倫理観は昔の方が悪いレベルではあると思いますけど、仲間内で行われていたことが全世界的に公開できてしまうので表沙汰に多数出てきちゃうんでしょうね。 テレビの映り込みや卒業アルバムなんかも本人に許可なくやられてるでしょうし。 生成AIはディープフェイクに限らず、特定のキャラに似た画像を作って商業的に使用されたりもされて問題多数ですし、法律の制定が一番先でしょうね。

[@sakeganomeruzo]

今の宇治原さんは同じテーマで辛うじて違うことを喋ってますけど、あと15年くらい経ったら同じ話をループしまくるお爺ちゃんに進化しそうですねぇ(笑)【ミスター水割】

[@カナ-Kana]

今朝卒アルに個別写真載せない学校が増える可能性…みたいなニュースを見ていました。小学生でも簡単に画像を加工することができるようになってきてると思います。やろうと思えばできてしまう道具も持っていますし…。ホントに色々と追いついてないと思うこともいっぱいですが技術を止めることは無理ですもんね😅

[@al01plala]

異議ありです。2:30あたりで宇治原くんが言っていた｢罰することが出来ない｣は、当方で調べたところ、反対に罰せられる可能性のほうが高いことが、専門家での一致した解釈です。単純所持＝性的欲求を満たすため、も2014年に法改正が行われ処罰の対象として、懲役1年以下または100万円以下の罰金となっています。 途中菅くんが言っていた｢アイコラ｣が罪に問うことが出来たように、AIを利用した写真、絵画などの所持(単純所持)、流布、販売なども、アイコラより精密に作ることが出来るようになっただけで、児ポ法違反で提訴することは可能です。(満18歳以上なら、｢わいせつ図画｣になります｡)　都道府県によって｢青少年保護育成条例｣がありますが、法の適用の仕方から考えると条例はパスできても、刑訴法をパスしなければ法律違反。最初に宇治原くんが言っていたケースは、十分罪に問うことが出来ると解釈できます。いわゆる｢エロ漫画｣でも同じですからね。X-RATEDと表示していても、表現が行き過ぎればアウトになります。しかし“DEEP FAKE" って表現することがそもそも｢ごまかし｣でしかないと思う。恐らくSlungとして｢X-RATED内に収まらない性表現をDEEP FAKEと言うようになった｣んじゃないかな。

[@psychommunity37458]

僕には音声がすでにほぼわからないです。 最近 「マツコデラックス」さんがこんなＣＭやってるんやーって 聞いてたら合成音声でした。 「ひろゆき」さんがＣＭ？って思ったら、やっぱり似せた合成音声でした。

[@jink494]

もしも60年代、70年代にスマホがあったら、今よりもっとカオスだったでしょうね。 昔の方が倫理観はひどかったからね。

[@nananana-nc5rk]

自分はどこまで行っても教育や意識のアップデートに勝るものはないと思う。途中で言及があったけどいけないのは「拡散」であって、そこに焦点を当てるべき。 結局、どんなに法律で縛ろうが、例えばネットを介さないオフラインで拡散や共有だってできるわけで、根本はそこじゃないよね。

[@bs6196]

昨今言われてるような規制方法だと、いずれ脳をネットに常時接続するのが当たり前の時代になったら知人の卑猥な想像をするだけで逮捕とかになりかねない。 脳をネットに接続みたいな遠い未来技術に感じる技術もAIの知能爆発によってそう遠くないうちに誕生する気がする。20年以内とか。

[@bibabiba]

結局は倫理観とかモラルとかに行き着く問題って世の中にはたくさんあるなーと思いました。 （びばびば）

[@Kerorinpa]

よその国の事と客観視せず 日本もオーストラリアのように子供のSNS利用禁止くらいの厳しい法案を考えた方がいいと思います 気軽にいたずらとしてやられたら被害者はたまったものではありません

[@2x4-16]

犯罪率は男の方が高いということを道徳なり保健体育の時間で教えるべき

[@彌城枝里子]

うーん。それはどうなんだろう🤔！？自分のコメントにも書きましたが、ヤバいことする女子もいますからね😔

[@2x4-16]

@@彌城枝里子 何が言いたいのか分かりません ヤバいことをする女子がいたら、男の方が犯罪に手を染めやすいというデータが覆るんですか？

[@彌城枝里子]

@@2x4-16 それはないですけど。犯罪率だけで決めるのはどうかということです。男女関係なくダメなことに変わりはないですから。

[@2x4-16]

@@彌城枝里子 もちろんそうです 犯罪率で何かを決めているつもりはありません ただ男の方が犯罪者になりやすいという客観的な数字を知らせることで男性には自制の心を持ってもらう方が良いと思っています 別に男の方が犯罪に走りやすいからダメだとか、そういう話じゃありません

[@優人-i8p]

ネット規制の話ですがSNSの悪い面ばかり見過ぎです。 SNSで友達が出来る子やSNSに居場所があってそれを大事にしている子達も確実にいます。 健全に使っている人たちにとってSNSは遊び場なので、それを奪われるのは辛いです。

[@rosickyko]

画像検索の技術から考えると、ネット上をAIが常に監視して本人が承認した画像や映像以外は自動で削除されるシステムくらいなら、簡単に作れそうですよね。 ただ、膨大なデータを扱うデータセンターと、それを稼働させる膨大な電力が必要になるので、半導体や小型原子炉など政府が成長戦略に掲げてる分野が、望ましい未来に直結してるわけです。

[@どっこいおむすびくん-v6u]

おじさんがスカートめくりを軽く見てるように、 今の人たちがディープフェイクを軽く見ているだけかもしれない

[@user-chishimasakura]

AIを開発したエリートさんも、褒めて欲しいでしょうに・・・

[@tnchtm8870]

技術や社会の進歩が早すぎて生物としての進化が明らかに追いついてないと思います。 次の世代くらいで想像したことが映し出せるようになってそれの倫理感とかの話になりそうだけどその時の人間は今と大差ない気がします。 人間としての自由を縛るか、虫くらいの速度で世代交代するくらいしか解決できないのではないでしょうか。

[@ppe399]

線引が難しい 肖像権を拡大するとしても、「AI生成です」と言い張られたら、特定は難しい

[@stabatmaterhijiri]

もう難しすぎる。現代は問題が複雑。 ガラケーに戻そう。アプリは全廃止。 【すたば】

[@片山大輔-n2j]

今後はやり方だけ拡散してしまうかもしれませんが、それを一人でやる分は法律では取り締まれないでしょうね。

[@takayuki2665]

AIポルノの問題点、衝撃です。被害者が出てから法律が出来る…というのが理不尽でなりません。 むしろ、芸能人の方々の方が被害に遭ってはいないでしょうか。仰る通り、「肖像権」という権利を個人がもっと守れるような世の中になれば良いと思います

[@inndosiki]

誰にも見せずに作っただけで禁止だと、思想の自由の侵害ではないか。 誰にも似せて作らなくても誰かには似るから、線引きが難しい。 やるとしたら、著作権みたいに、不特定多数に公開して、似させて作ったことが示されたらアウトって感じかな。

[@bayady27]

被害者の心のダメージも変わらない、もしくはより大きかったかもしれませんね。 今ほど問題視されず、子どものいたずらじゃないかと、流されてしまうことも多かったのではないでしょうか。

[@tumujikaze9999]

そのスマホで認証した顔以外はSNSに上げた写真の人物の顔は全部勝手にモザイクかけるようにするしかないかな

[@shomwoys]

まぁ法の話に落とそうとするとだいぶめんどい それこそハサミとノリがありゃアイコラとか作れるんだから、作る方を規制したところで…ってなる 「本人が承諾した」ってのも、あらゆる映像に対して映った人物に「承諾の証拠としての契約書とハンコをとる」みたいな非現実的な方法を取らざるを得なくなると、経済も文化もめちゃくちゃになるし 結局、名誉毀損とかと同じく、作ったものの使われかたが著しく本人の名誉を傷つけるようなものの場合は、訴えて裁判で勝負しろ、にしかならんでしょう

[@saizo_houshi]

技術が発展してしまったが故に被害が拡大しているってことですよね。 盗撮なんかも一昔前よりもっと巧妙にもっと手軽になってますし… もっと技術が進んだら自分の顔を使った画像や動画を簡単にネット上から消し去る技術も出てくるんだろうか。

[@ピエトロエフォート]

全く擁護するつもりはありませんが、現実に全く興味・関心を抱かず、全てAIで賄ったものしか評価しないようになったら...昨今のVtuberの盛り上がりとか見てましたら象徴・表層でしか繋がりや満足を得られないような世の中になっていやしないかと感じています😢 難しい話ですね😵

[@ゆっきー-c4j]

簡単に加工が出来てある意味怖いですね。

[@psychommunity37458]

KZbinのショート動画なども、ほぼわからない 合成の動画があたかもリアルに配信されています。 言われないと全くわからないですよ。m(_ _)m

[@まる-i3f1g]

私のお客さんでも、表のAVに出るって契約で撮影したのに、無修正をネットにアップされ、なんとも出来なくて泣き寝入りしてる子がいます。 こんな話VHSやエロ本、ビニ本の時代からあるのに、法律作る人たちは守る気は無いんでしょうね。

[@serapa9012]

それは単純に、あなたも含めた私達国民が悪いんだという残酷な現実があります。 民主主義の国における政治家は代議士でしかありませんから。 ちゃんと様々な方法を使って代議士に働きかけるという行動を取らないと、なんの意味もないのですよね… それをやっている団体もちゃんとありますから。

[@MioToyo]

友達と二人で写った写真から、私だけAIで消されてアップされてたのは、文句言えるんでしょうか😅？

[@ヤマモトヤマモト-i6f]

自分がやられて嫌なことはしない←これにつきる。 他人の顔でAI画像を作った人は自分の顔で作られてもいいんですね？と問いたい。 目には目をじゃないけど、法律で罰せられないなら同じことをやり返してわからせるしかなくなる。 多くの人は自分がされたら嫌なことは他人にしないってできると思うのですが… ちなみにあきらにコラ画像であれ、自分の顔が使われるのは嫌です。

[@botamochidesu]

そのうちうちの子は卒業アルバムに載せなくていいですって出てきたりして😅 ぼたもち

[@まあ-y2g]

多分、本来は便利な技術のハズなので、AIの加工自体がダメ！みたいになってほしくないなー

[@りんりん-q7v4s]

顔だけ実際の写真に差し替えとかではなくて、顔も含めた全身を実際の人にすごく似せたAI画像を作ったらどうなるんだろ？ 「理想の人の画像を作っただけ」とか言われたら、法的に何とか出来るんだろうか。

[@1jz182]

そら昔はねーやが15で嫁に行ってたからなw倫理観なんてそんなもんよ

[@km-sf1hz]

これは「AIコラ」？

[@ryobeachclean9459]

昔からあった被害と加害の関係の本質は変わっていない。 ネットリスクが付帯してるってことですね。 SNS禁止の否定はしません。線引きが難しいけど、、、 何よりポルノの所有と作成に規制は必要かもですね。 販売だけ規制してもそもそも販売されてないわけですから

[@udosoft9989]

「ネットに拡散した画像・情報を消す技術」は現状無い状況ですが、 仮にそういった技術が発明されても、非常に危険な側面を持つと思われます。 「情報を消す」行為は非常に使用者の倫理観が問われることになるかと思います。 例えば、犯罪者が自身の犯行を隠蔽するために使用したら危険です。 或いは、いたずらで他人の情報を消してしまうような、個人攻撃的な使用も可能になってしまいます。 他方で「被害」をどのように認定するべきか？という問題もある気がします。 拡散を伴わない、個人的に使用する限定ならば、現実で好きな人を襲うよりは、 ＡＩにその子になってもらって、欲求を解消するのは、許容しても良いような気もします。 実在人物を使用しないのがマナーだろうとは思いますが。 別角度としては、 特殊な性癖を持つ人間をどのように包摂するか？という観点もあります。 一般的に受け入れられないような性癖でも、自分で解消する範囲で有れば、自由に使えたほうが、 社会としては包摂しているように思えます。

[@aggj-dq8kc]

顔はAIで体は実在のやつならKZbinとかでも流行ってるな　 搾乳動画とか

[@Hanas-i1h]

取り上げるテーマ 忖度がすごい

[@瑞紀西川]

菅広文さん、宇治原史規さん、こんばんは。後でゆったり見させて頂きます。