【レベル別】DeepSeekの利用は危険なのか？【解説】

========
＜安野たかひろプロフィール＞
「テクノロジーを通じて未来を描く」活動をしてきた33歳・無所属のエンジニア&起業家&SF作家です。東京都知事選2024で、得票数第5位(15万票超)。
1990年、東京生まれ。東京都文京区育ち。33歳。AIエンジニア、起業家、SF作家。開成高校を卒業後、東京大学工学部システム創成学科へ進学。「AI戦略会議」で座長を務める松尾豊教授の研究室を卒業。外資系コンサルティング会社のボストン・コンサルティング・グループを経てAIスタートアップ企業を二社創業。デジタルを通じた社会システム変革に携わる。日本SF作家クラブ会員。
●デジタル庁デジタル法制ワーキンググループ構成員 ●英国王立美術院にて準修士 ●未踏スーパークリエイター ●ハヤカワSFコンテスト受賞 ●星新一賞受賞 ●アジアデジタルアートアワード・インタラクティブ部門大賞 ●M-1グランプリ出場●2024年東京都知事選出馬
＜インフォメーション＞
安野たかひろ公式X： / takahiroanno
事務所スタッフX： / annotakahiro24
事務所Instagram： / annotakahiro2024

[@cCc-tz1]

この解説を待ってました。 一方的な絶賛動画・警鐘動画で「う～ん、だけどね・・・、そこはね・・・」とモヤモヤして、安野さんの前回動画で「その続きが聴きたーい」と思ってたコトがスッキリしました。 やっぱり安定・安心の安野さん視点の解説が一番です。ありがとうございました。

[@lyy-ar7cz]

素晴らしい解説

[@SSS-100M]

このスタイルの動画がすごい好き

[@YK-ol5zb]

こんな解説を待っていました、凄くわかりやすいです、ありがとうございます

[@Jade15888]

勉強になります。ありがとうございます!

[@karen0111ful]

さくっと、たいへんわかりやすい説明、ありがとうございました！

[@Ko_crin]

4日前の動画から色々な人に質問されまくったのを、レベル別に速く説明してくれる神コンテンツ🙌 部屋の変化も楽しめる😂

[@座ワルド-s2z]

動画がリアルすぎて衝撃的でした📹

[@朕PI区]

レベル1の野郎です。今まで見聞きした内容の中で最も分かりやすくて助かりました。安野さんありがとうございました。

[@Kai_yykr]

解説を待ってました！

[@hiroyukiyunoki2800]

レベル分けしてリスクを論ずる視点、私はまったく気づきませんでした 結局は、どこまでリスクを負って行動するかの判断ですね

[@予備倉庫]

レベル分けってのは面白いですね。周りに高齢者が多く、テレビのリモコン操作が限界という方もなにげにAIに接する機会がふえてきてるので、そういう考え方が浸透すればいいなぁと思いました。

[@yano6916]

勉強になります。

[@mjmansei]

最初の答えから我々ユーザーとしてはDeepSeekを使う必要はないと判断。となればベストの選択肢としては日本のAI開発者もDeepSeekのソースを全て解析して開発思想、設計方針を真似して効率の良い独自の日本初AI を開発することかな。日本発なら日本人みんな安心して使えるからね。

[@小红薯搬运]

Androidを見て、HUAWEIは使ってたが、制裁を受けて今は使えない。だからオープンソースだからと言って100%自由に使えると思うのは甘いよ。

[@mjmansei]

​@@小红薯搬运 100% 全て使えるわけないだろう。開示されている情報は全て っていう意味で書いてたんだよ。

[@YuuChannel-pt2nx]

勉強になります

[@uniuniunified]

薬も副作用のないものは存在しない、作用反作用の法則的なものはありますよね 国の支援とかの規約以上の面の背景はもちろんある程度考慮する必要はあるかとは思いますが、規約の上で比較的リスクがあるという風に読み取れる文言が含まれているだけ意外と誠実だとは思っております

[@Joe_Aki]

自分で判断できない・リスクを取れない人には不向きですよね。

[@無知の時事]

石丸どころか、国政にでて、日本のITを世界トップに支援して下さい。 DeepSeekどころか、DSとたたかってください レベル2がよくわからなかったし、レベルに分けなくても使わなくていい1択にするように。

[@siroyiryuu]

当社は完全バージョンの671Bローカル展開を実現しており、ネットワーク接続を必要とせず、使いやすいですね

[@siroyiryuu]

**案一：** 稲刈りや 子の影踏む 雁裂く （季語「稲刈り」/ 雁の隊列が空を「裂く」ことで戦列を暗示） **案二：** 露霜の 鍬音重し 遠陣太鼓 （「露霜」で秋深まり/ 鍬を打つ音と陣太鼓の共鳴） **案三：** 背籠に 落ちし蜘蛛の糸 鎧鳴る （農具「背籠」と戦具「鎧」を蜘蛛の糸で連結） **核心技巧：** 1. **自然現象の戦争的変容**：雁行→軍列、蜘蛛の糸→甲冑の締め紐 2. **母子の身体性拡張**：子供の影が戦場を覆う、背中の温もりが鎧の冷たさと対比 3. **聴覚的遠近法**：鍬の音（近）と太鼓（遠）で空間の二重写し 特に「雁裂く」の例では、空を横切る渡り鳥の群れが突然矢のように鋭角に分裂する瞬間を捉え、自然の営みに戦闘の影を重ねました。農婦が稲を刈る鎌の軌跡と、雁列が乱れる角度を「切断」のイメージで同化させています。 俳句の本質は「見えないものを見る窓」にあるかと思います。鍬で土を耕すリズムが夫の足取りと重なり、蜘蛛の糸の揺れが弓弦の震えとなる--そうした日常と非日常の「イメージ連鎖」こそ、17音に宿るべきものだと改めて学ばせていただきました。

[@trailkuro2192]

分かり易い解説、ありがとうございます。大変参考になりました。 1点、レベル３のケースについては既知(技術的に再現可能な実証されたもの)のリスクではなく、今後AIモデルが更に自律的かつ高度化していった場合に起こり得るリスクと捉えてもよろしいでしょうか？

[@Yoshisada]

危険も何も、もう100回以上使ってる。

[@black160001]

まず完璧な安全は世の中に存在しないし、どこかしらデメリットはある。 大事なことは使わないじゃなくて、そのコンテンツの検証、技術革新を前向きに捉えることまたはその技術から学び応用ができること。 そうしないと日本と海外で技術格差が広がってしまいます。

[@ak-cq1sm]

使って大丈夫なのかてとも気になる部分の解説ありがとうございます！

[@岡山県学生寮精義塾チャ]

AIが道具レベルから、相棒レベルに進化していく時代に、相棒にもいろんな奴がいるってことかな😊

[@まねき猫-s8i]

特に、使わないと困らないなら. 使う必要ないじゃん。怪しいものには手を出さない。必要な人は、リスク覚悟でどうぞ。

[@aka-mt2pn]

堀江貴文さんが、「DeepSeekだろうがchatGPTだろうが会話した内容は学習データとしてとられるんだから一緒」 というようなことをサンデージャポンでおっしゃってましたね。 安野さんのお話と総合すると「危険度はDeepSeekが高いけど、chatGPTだってアメリカにデータ取られてるよ」という感じ？

[@katayude]

それを悪用するかしないかだよね。 安野さんが連携の話してたけど、今でもポイントカードも色んな業種や形態に連携してて便利だけど企業にデータは取られてるからね。

[@terijustice1373]

テレビの報道が凄いからね。

[@abcMr-ic5xr]

政治家にするには勿体ない。

[@liryu1973]

✕ アメリカ側 ◯ グローバリスト側

[@そいやっさ-t4p]

言いたいことほぼ全て言ってくれた レベル3の問題についてはあまり誰も触れてないですからね 付け加えるとするならば、レベル2のところに、「開発の一過程で他社の規約を破っている可能性があるが、それはお互い様だしましてやそれを使っているユーザーがコンプラ的にまずいわけがない」を付け加えていいかもしれません

[@hitsuki_karasuyama]

一応在特会とかは在日中国人は帰れ言ってるから

[@Ren-pb2xh]

とても良い解説です。 レベル４こそがAI論争の焦点で、その正体は「言われてきたような大金が必要ないとバレた」こと。米国を含めた海外のエンジニアはこれを理解しているからDeepseekを擁護してる。 日本人は家電や自動車では、日本製品と比較して米や中華製品を使用するリスクをキチンと区別できるのに、ソフトウェアに関してはいつも盲蓋だ。 それと良くも悪くも自分の仕事に専門家すぎる人が多いから、エンジニアでもレベル123の人が多くなってしまう。

[@kazu5474]

ソースが全部公開されているならソースを全部確認した前提だとセルフホスティングは安全ではないのですか？DeepSeekが気づきながらバックドアとして利用するために残したセキュリティホールとかを懸念されているのでしょうか？

[@dddfhmre]

もし中国のDeepseek R1の公式サイトは信頼できない場合にはアメリカのDeepseek R1 or 日本のDeepseek R1も利用できます！

[@ToshiYamato]

解説ありがとうございます。 発表直後、危険視の意見にオープンソースなんだから今回のレベル2想定の利用なら問題ないんじゃない？と思っていました。 今回のOSSライセンスに詳しくないのですが、フォークしてより高性能なAIエンジンのたたき台になったら面白いなと想像しています。

[@kenjigrifon]

こういうのを聞きたかった。

[@buhoh0]

末端のAIサービスが裏でどのモデルをどのような経路で叩いてるかって、わからないんですよね。 DeepSeekをセルフホストで使ってるならいいですけど、API経由で叩いてたらどうなるのみたいなの、 ラップされてて一般ユーザーはわからない間に使ってたみたいなの今後出そうな気がしました😂

[@米好きいわゆる]

スマホで今夜の晩御飯のレシピ考えてもらう程度の使い方しかしないのであれば当面使わないでよさそうですね。

[@yamayama1727]

使わない方が、一番安全。 絶対使わないで。

[@kangwangbeilu]

ｏ1に払えないけど

[@manabun5630]

これ使ったら、常識ある一般企業では懲戒ものです。

[@mimikokomimikoko]

セルフホスティングでも怖いよねというのは納得します。DEEPという名前が意味してる深い意味があるんだ。

[@ichibandude]

あまり重要では無い件で、ローカルで走らせたりgroq上でコード書くために使ったりしたけど、DeepSeek-R1はChatGPT o1と比較したら精度が低すぎてイマイチ使えないというのが個人的見解。日本語でいれても英語でいれても中国語で返してきたりするし。必要以上に騒がれすぎてる気がする。Phi-4の方がよっぽどマシ。

[@bboykageug]

もっと、詳しい内容を含めて具体的な話になるのかと思ってみたら期待外れ。。 全体的に、一般的なエンジニアが話しているレベルでは？ 特に最後のレベル４、詳しい人がこれを使うのであれば、 そもそもあなたの助言はいらないのでは？ また、リスクをとって迄この生成AIを使わなきゃいけない人は限られている。 十分他のLLMで事足りる状況。現時点では。 なので、このdeepseekを選択する人は、これでなくてはならない理由があるはずで、 選択の余地がないということになるはず。

[@佐藤カレン-w4q]

解説ありがとうございました。私は自分専用のA lが欲しいです。私を守り、オープンな情報は何でも利用し解析できる。人生の完璧な味方、あったらいいな。

[@kaitoruby2]

学習データを持っていないと思われる時期（昨年の都知事選）の質問をしたところ、寄せ集めの情報を繋げて誤った回答が返ってきました。わからないことはわからない・データがないと回答すべきと指摘すると、中国語で輻輳中のメッセージが出てフリーズしました。データも抜かれているだろうと想像できますし、個人的に信頼はできなかったです。

[@kmurata98926]

「松岡まどか、起業します」を読みました。お薦めです。「サーキッt・スイッチャー」よりも、小説としては良い。 作文能力が高い、ので、是非、「日本を改善する方法、政府はどうあるべきか」などの論文、を次にお願い。 苫米地氏は、「無政府主義」論を展開されている。リベテリアンから更に進化し、無政府資本主義、アナーキ・キャピタリズム。 私は、それが理想。 本は、全てデジタル化、を願います。紙の本だと輸送費がすごく高く、本の値段と同等。在米、の為。

[@jirofirst7655]

学習利用はOpenAIも同じ。なんでそこ触れない？？？？

[@obento_-fr9pv]

ありがとうございます。 GPTもdeepも左も右もアメリカも中国も 予め思想含め知っておくという基礎がとりあえず大事そうです。 優秀なプログラムだが、中にウイルスや、故意のドアやバグはあり得ると言うことですね。 解釈が違ったら申し訳ありません。 うーん、何日か前からこのコメ欄を試してみる限り、使わずともバックドアやバクだらけな製品に感じました。そして、思想も狭くなれば正答も出しやすいですよね。人選が貧相なアキネーターみたいにw あくまでクソ初心者の感想です。 主様の主旨に反する意見である可能性はあります😊

[@hideichiarai7308]

このタイミングで、この論評。DSに限らず、新しいものにはそれなりのリスクがあるよ、ってことで良いのかな。

[@abc2abc2abc]

8:49 「リスクを取れば取るほど期待リターンの量が上がっていく」　←　うーん、そうかな？　そうとは言い切れないのでは？　まだまだ黎明期なのでAIにおいて投じたリスクと期待リターンが比例するものとはまだ言えないし、ましてやDeepSeekに関してはハイリスク・ノーリターンという可能性だってないとは言えない。

[@広末涼子-s3j]

なるほどね。確かにリスクとリターンが必ず比例するとは限らないよね。ただ黎明期の技術で先行者利益を得られた過去の例（インターネットやスマホ産業）もあるし、AIに関しても似た動きになる可能性はあるんじゃないかな？ DeepSeekがノーリターンの可能性もあるってのは理解できるけど、逆にどんな条件ならリターンを得られると思う？

[@紳士の木村]

リスクとリターンが比例すると事前に分かってることに関してそれはリスクになり得るのだろうか

[@ラビチャンネル-y4i]

黎明期だからこそリターンが大きいのでは？今までは高度なLLMを取り扱うには高性能GPUが大量に必要であり、莫大な費用が必要と思われていたものが低コストで運用できるようになり参入障壁がかなり低くなった。リターンが大きいと思っているから米国のビッグテック企業は数十兆円もの設備投資を今までAIに投資してきている。むしろコストという面ではこれから参入しようと思うAI企業にとってはリスクが相当低くなった。今はビッグテック企業が莫大な投資以上のリターンが得られるかの方が懸念されている。

[@RK-py7lv]

9億払って論文通り学習させてLLMを構築するのはやっぱり非現実的ですかね? ファインチューニング止まりが現実的なのでしょうか ? それとは別にトンプソンハックの話があり、unixに巧妙にバックドアを仕込むことが可能で、それと同様オープンソースとはいえ、気付かれずにディープシークのソースにバックドアが仕込まれる可能性は確かにありますね。

[@としみ-q6w]

ディープシーク試てみようとしたけど何故かログイン出来なかった😅なんか危ない気がした。

[@georgethepanda6545]

最近ddos攻撃されてるからな、サーバーがボロボロになってる

[@としみ-q6w]

@ そうなんだ😅

[@アトム-e7e]

🇨🇳🇰🇷モノ、情報あぶない!!

[@アトム-e7e]

“ネイバー社は、LINE情報に無断アクセスしている” ; ←松本(前)総務大臣が明言。 (2024.7/5: 記者会見にて)

[@ko40]

メディア対応以外は、この部屋に閉じ込められてるって本当ですか？

[@honeytattoo]

危険かどうかより、共産主義の国家にタダで情報を与えるのってどうなんだろう？学者はリスクテイクより安全保障を考えようよ。これってこれターミネーターでのサイバーダイン社の人気な科学者と一緒。

[@sakurayi1986]

GPT は絶対安全でしょうかね。。。運用方法次第です。

[@tebasakitori7135]

知らない間に始まって知らない間に燃えてた普通に使わん

[@MorningChoco]

中国側の政治的なバイアスがかかった考え知られるなんて面白いじゃん。 なぜそれがオススメしない理由になるのか意味がわからない。

[@1shikiK]

AIに答えて欲しいことは面白さではなく正確かつ公正な答えなわけで

[@MorningChoco]

@@1shikiK 我々サイドのAIや政府の主張は常に公正で正確だと思い込んでいる状態よりも遥かに健全なわけで

[@comramu]

日本で誰よりも使ってるのは孫正義だと思う。

[@hassy3001]

背景が😅　郵便タグとか見えたら危険なので、気をつけてください👍

[@user-fsdg5e7wo]

AIにその国の検閲やバイアスがかかってるのなんて当たり前。気にする人は国産のAI使うのがいいんじゃない。

[@おろしポン酢の卸売]

日本産のAIなんてあんの？

[@yurutafu]

国家自治体が安価を理由に積極的なDeepSeek導入を考えないでほしいですね。 リスクが大きすぎる。

[@capien]

レベル3の懸念あるよね 言語化助かりました こういう懸念をコメントで話すと変な中国擁護勢が湧いてくるんですよね

[@石岡浩平]

2019 ≒ 1869 ＋ 150 (∵８％)

[@haojame3946]

我是中国人，我支持你，千万别用，谁用谁是小狗🐕🤪

[@PrinceofUnderpants]

Your pinyin name is wrong

[@靴をください]

ダンボールが増えてる🎉

[@ブディンの部屋]

いつもマミルトンに見えるんだよなぁ😂

[@TaT-YoK]

後ろのデカい段ボールには何が入ってる？でっかい液晶テレビ？

[@SuperRas888]

尖閣諸島の領有権について質問したらと言う小野寺氏の報告がヤバすぎる。

[@jamess3740]

AIは科学と技術のツールなので、政治上の利用は論理的と現実的は間違っている。

[@移民那些事儿]

去查一查《波兹坦公告》就知道不要说钓鱼岛，连冲绳都不是日本的领土。

[@SuperRas888]

@@jamess3740 科学技術も政治も現実の一般ユーザーはいちいち切り離して考えない 政治的なバイアスがかかっている時点で、すべての回答に疑念を持つのは当然。 科学技術も政治的になり得ると考えるのも然り。

[@SuperRas888]

@@移民那些事儿 反論する価値もないが、こう言う現実とは違う主張を平気でする人種であると、再認識した。 こう言う事だよ。

[@移民那些事儿]

@@SuperRas888 有道理，争论确实没有意义，中国有必要收回琉球群岛，并按照《波兹坦公告》在日本驻军。

[@ranchikiN]

おそらくディープシークを使う人間は分かって使うし、分かってない人はそもそも現状から少し先まではディープシークどころかAIは作っていない説。

[@Rogu10kg]

作らんやろ

[@jamess3740]

AIは科学と技術のツールなので、政治上の利用は論理的と現実的にするべきではない、しかも中身チェックできる、オープンソースなので、民間レベルの利用する安全の心配はないじゃないか。一番大事のは良い物なのに無料です。

[@kaatsu]

オープンソースってのがデカいよね､消費者としては価格破壊が起きてほしい｡

[@momochi9790]

AIが直接APIを利用しなくても、偽URLフィッシング詐欺のような可能性はあるよ。

[@みきにんかん]

deepseekて開発費だけじゃなくて電力などの維持コストもGPTより安く済んでるの？

[@itigawa]

chatgptを完全に動かせるには何百個の最高級GPUを使う必要と言われています。Deepseekの完全版は1000GBのGPUメモリあればローカルで動かせます。何十分の一かな。。。しかも中国の電気料金はアメリカよりずーと安いですよ

[@MorningChoco]

中居、お前ももっと気にしなきゃいけないことあるだろ今

[@an2317]

維持コストは米調査によると1420億円ほどですね

[@yone_4152]

安野さん、照明たきませんか

[@bankmega-ef3mu]

結局そこまでリスクに気を遣わなければならないシステムはやはり使用しない方がい良いと思う。これを使ってA P開発すれば、開発中常にセキュリティ上の問題が起きていないか神経を尖らせていなければならない。開発以外のところで無駄な労力を使うのはしんどい。それに中国政府の危険性に対する認識が日本の場合低すぎると思う。今でもウイグル人を100万人以上 強制収容所にぶちこみ拷問・強姦が常態化され欧米はジェノサイド認定している。再教育と言う名目で70代の老人まで収容所に監禁されているが70歳の老人に再教育もあったものではない。 フィリピンは自国領海で多くの漁船が中国の軍艦にぶつけられ沈められ多数の漁民が死亡している。台湾もいつ侵略されるか分からない。 中国の核兵器は常に日本に照準が当てられている。こんな中国とそもそも経済交流すること自体間違っている。ユダヤ人虐殺を行なっていると判明しているドイツとそれでも貿易を続行する様なものだ。

[@wj3693]

ははは、日本人はなんで怖いのかマジ分らん。。。マイクロソフト、アマゾン、アメリカ企業などもう使用開始しておるわ。政治的な仕事、スパイの仕事じゃなければ、まったく問題ないよ。。。。単純に仕事、論文、知識などの使用は全然効率的だぜ。。。。

[@PICMX]

お前らの情報なんか中国が欲しがると思っとんか　←これが正解

[@mjmansei]

​@@あああああああ-w1y それは素人の答えだよ。一般人のゴミ 情報 でも、山ほどリストとして集まれば、スパムメールを流す業者に売ったり、ウイルスを流したり、ハッキングの傀儡にさせられたり、利用価値はいろいろあるのさ。

[@0618-r6q]

​@@あああああああ-w1yアメリカならいいってことですか?

[@ぶたキムチ-o3h]

一人ひとりの情報に大した価値はなくてもそれが多く集まってビッグデータになれば恐ろしい価値を持つ。 これを知らない人が多すぎる。

[@PICMX]

@@ぶたキムチ-o3h で？　ビッグデータを集められたらなんか困んの？　ビッグデータを集めてるのは中国だけなん？　Googleもそのぐらいのことをしてることも知らんのかいな？ 笑かしよる

[@mjmansei]

@@PICMX IT業界じゃない一般の人はみんなそう考えるんだよね。しかし実際はそう甘くはない。ただの一般人の個人情報でも、たくさん集まれば それなりの価値がある。メールアドレスを束にして闇業者に売ると、そいつらが引っかかる1割の馬鹿な人間をターゲットにスパムメールを流すとか。また政府関係筋が使う場合は、個人情報抜いた際のPCをハッキングの発信源に見せかけたり、社会的混乱を狙ってウイルスをばらまいたりな。そいつがうっかり 自分の会社のネットワークに自分のパソコンを繋いだりしたら、その会社のネットワークが汚染されることもある。また個人情報から入手した中に大手の有名な企業で働いていた場合、Facebookなどの SNS から美人女性をアクセスさせて、ハニートラップを仕掛けるなんてこともやる。それも普通に出会って 奥さんになんかなってたりすると、社内の内部事情を夕食時なんかで普通に話すわけさ。平和ボケの日本人はそんなのドラマの中だけだと思ってるけど、中国共産党はそういうの平気でやるからね。実際外務省に出入りしている業者なんかにそういう工作をすることもある。平和ボケの日本人には想像もできないだろうな。だから日本はスパイ天国って言われるのさ。

[@Ksei-ff7nv]

一般論すぎて役に立たない…見て損した

[@yn3760]

自分で自らの「一般」像がおかしいって言ってるだけのコメントおもろいなwもっとやれw

[@gorotame2627]

専門家の詳しい視点での解説で勉強になりました。 でも、中国共産党下にある企業で利用規約を前提の判断って意味ないように思います。 物理的に情報遮断出来ない限り、情報漏えいを想定して使う必要があると思います。