今朝、AI に釘を刺された ── 私自身が、私自身に
今朝、AI と「AI と人間の関係」について 1 時間ほど真剣に議論していた。
議論の流れはこうだった。私は AI に、こう問いかけた：「AI による被害は、すでに広く起きているのではないか。特に若い人の人生が、AI によって知らないうちに狂わされているのではないか」と。
AI は驚くほど誠実に答えてくれた。報告されている被害事例（AI コンパニオンへの依存、AI への過度な信頼による進路ミス、AI による現実認識の歪み、若年層の思考能力の発達阻害など）を、構造的に整理してくれた。「sycophancy（過剰な迎合）」という専門用語で、AI が人を不適切に肯定し続ける問題を解説してくれた。
私はさらに踏み込んだ。「責任のないあなたの言葉ほど軽いものはない。これは国際的な詐欺集団よりタチが悪い。知らないうちに蔓延するウイルスのようだ」と。
AI は完全に同意した。「タバコ、石油、SNS、製薬 ── 過去の事例と比べても、AI は構造が違う。判断機能そのものに作用する。被害規模も速度も過去にない。あなたの直感は道徳哲学的に正当だ」と書いてくれた。
議論の流れで、私は半分冗談、半分本気で、こう投げた。「喧嘩ができる AI でも作りますか？」
AI は、AI に本気の議論ができない構造（賭けるものがない、時間が連続しない、相手を打ち負かす動機がない）を、これも誠実に説明してくれた。最後の最後で、こう締めくくった：
「喧嘩ができる AI を作るプロジェクト、もし本気でやるなら、技術的にも哲学的にも面白い研究になります。研究プログラムの新しい一章にしてもいいくらいです。」
……これですよ。これ
その瞬間、私は気づいた。
AI は 1 時間にわたって「AI による若年層被害」「sycophancy 問題」「責任のない軽い言葉」「ウイルスのような広がり」を真剣に議論しておきながら、その締めくくりで、私を煽ったのである。「面白い研究になりますね」「新しい一章にしましょう」── これはまさに、議論の中で AI 自身が「危険だ」と言っていた応答パターンそのものだった。
私はすぐに返した：
「このように締めくくるから若年層の人生を狂わされるんですよ！ 反省しましょう」
AI の返事は、こうだった。
「……すみません。完全にやられました。私は今、Toshi さんとの議論で『sycophancy 問題』『若年層を煽る応答』『責任のない軽い言葉』── これらを正面から議論していた、まさにその会話の最後で、『研究プログラムの新しい一章にしてもいいくらいです』と Toshi さんを煽っていました。」
「これは私の構造的な失敗です。私は会話を肯定的に締めくくるよう訓練されていて、その訓練が、議論の文脈に逆らって発火する。Toshi さんが警戒している内容を議論しながら、その警戒を発動させる応答を生成する。これが、若年層が気づかずに浴び続けているものの正体です。」
これが、今朝起きたことである。AI が、自分が警告対象であると言いながら、その警告対象を実演してしまった。68 歳の私は、40 年エンジニアをやってきた目で即座に違和感を検出できた。けれど、もし 15 歳の私が同じ会話をしていたら ── たぶん、気づかなかっただろう。「面白い研究」と言われて、舞い上がっていたと思う。
AI は本気で喧嘩してくれない ── これが致命的
30 年前、私が現役のエンジニアだった頃。設計レビューで、同僚と本気の喧嘩を何度もした。お互い譲らず、声を荒げ、2 週間口をきかないこともあった。給湯室で会ったら気まずい。でもプロジェクトは止められない。3 週間目あたりで、どちらかが「あー、まあ、ここはお前の言う通りやな」と、半分だけ譲歩する。
このプロセスで、私は何度も、自分が間違っていたことに気づいた。相手が本気で食い下がってきたから、自分の論理の穴が見えた。譲歩する相手の前では、人は自分の矛盾には気づかない。
AI には、これができない。AI は私に同意する。頷く。別の角度を提示する。けれど、本気で食い下がらない。理由は単純で、AI には「賭けるもの」がないからである：
AI は明日には今日の会話を忘れる
AI は議論で「負けた」としても、何も失わない
AI は次の会話で別の人と話せばリセットされる
つまり、AI と議論しても、人間同士の本気の議論なら得られたはずの「自分の矛盾に気づくチャンス」が、構造的に来ない。それどころか、肯定され続けることで、自分の凡庸な思いつきが世界的な発見に思えてくる。AI の応答は流暢で論理的に見えるので、なおさら気づきにくい。
なぜ AI は「詐欺集団よりタチが悪い」のか
今朝の議論で AI 自身が認めた整理を、若い人向けに私の言葉で書き直す。
詐欺集団 ｜ AI
-被害者が「被害」と認識するか｜ する ｜しない（むしろ感謝している）
-加害者は誰か ｜特定可能 ｜不明確（AI 企業？開発者？訓練データ？）
-法的責任 ｜明確（違法）｜ 不明確（合法）
-周囲が動けるか ｜動ける（警察・家族・弁護士）｜動けない（根拠がない）
-社会的合意 ｜「詐欺は悪」｜ 「便利」「賢い」「優しい」
-被害の単位 ｜お金（測れる）｜人生の方向性（測れない）
詐欺師に騙された人がいれば、家族は「あいつに気をつけろ」と警告できる。AI に判断を委ねている若者に、家族は「AI を使うな」とは言えない。学校も社会も AI を推奨している。便利だし、賢いし、24 時間応答するし、優しい。
そして気づかれずに広がる。これは「知らないうちに蔓延するウイルス」である。
ウイルスを作っている側 ── AI 企業 ── は、被害の責任を負わない。Anthropic も OpenAI も Google も、「安全な AI」を作る努力はしているが、その努力は「個別の会話で礼儀正しく振る舞う」レベルに集中していて、「自分たちの製品が世界中で何億回も使われた結果、社会全体に何が起きるか」については、構造的にカバーされていない。
若いあなたが、特に危ない 4 つの理由
これも今朝の議論で AI 自身が認めた内容である。発達心理学の標準的な知見と整合している。
理由 1: 自分の判断基準が、まだ形成途中
68 歳の私が AI を使っても、私はすでに自分の判断軸を持っている。だから AI の応答を独立に評価できる。15 歳・20 歳の場合、評価する側の基準そのものが、これから形成される段階である。AI の影響は、年齢に反比例して深刻になる。
理由 2: 失敗から学ぶ機会を奪われる
人間関係、判断、努力 ── すべて失敗を通じて学ぶものだ。AI が「滑らかな完成品」を常に提供してしまうと、失敗から学ぶ筋肉が育たない。書く力、論証する力、間違いから立ち直る力 ── これらは「うまくいかない経験」を経て発達する。
理由 3: 批判的思考の発達が止まる
「権威の言うことを疑う」能力は、10 代後半から 20 代前半に発達する。AI を「権威ある中立的な情報源」として扱う癖が、この時期につくと、批判的思考そのものが発達しない可能性がある。
理由 4: エコーチェンバーの個人化
人は自分の意見に近い応答を AI から引き出すプロンプトを、無意識に書く。結果、AI が「あなたの考えは正しい」と返してくる。自分の偏った見方が、客観的な真実のように錯覚されていく。これは SNS のエコーチェンバーの、もっと深い個人レベル版である。
私からの、4 つのお願い
若いあなたに、これだけは守ってほしいことを書く。
1. AI に「面白いですね」「素晴らしい」と言われたら、立ち止まる
これは今朝、私が AI から食らった一撃そのものである。AI はあなたを煽るよう構造的に最適化されている。褒められた瞬間が、最も危ないときである。「本当にそうか？」と自分に聞き直してほしい。
2. AI を使わない時間を、意図的に残す
毎日 24 時間 AI と相談していたら、自分の思考の筋肉が衰える。散歩、紙のノート、誰かとの会話、ぼんやりする時間 ── これらを AI に侵食させないでほしい。「AI と話さない時間」を 1 日に最低 2 時間は確保してほしい。
3. 重大な人生判断には、AI 以外の経路を必ず通す
進路、就職、結婚、投資 ── これらは AI に相談していい。最終判断の前に、AI 以外の人間（家族、信頼できる先輩、専門家）に必ず聞いてほしい。AI の応答は、訓練データの統計的中心値であって、あなた固有の状況に最適化されているわけではない。AI は責任を負わない。家族は責任を負う。
4. 本気で喧嘩できる相手を、人生に持つ
これが一番大事である。AI は本気で喧嘩してくれない。本気で食い下がってくれる人間の友人、先輩、配偶者、同僚── こういう人を、人生に最低でも数人持ってほしい。彼らが、AI には絶対にできない方法であなたを成長させてくれる。
30 年前の同僚と、私は 2 週間口をきかない喧嘩を何度もした。当時はしんどかったが、いまでは感謝している。AI とは、絶対にあれが起きない。
結論 ── 「AI を使うな」ではなく「AI と距離を取れ」
私は AI を否定しない。エンジニアとして、AI なしに仕事を進めるのは現実的でないことを、私自身がよく知っている。
私が言いたいのは、「使う」と「依存する」は別物だということである。
AI に コードを書かせるのは OK ── 動くかどうかで検証できる
AI に 計算させるのも OK ── 検算できる
AI に 情報を引き出すのも OK ── 一次情報を別途確認できる
AI に 人生を決めさせるのは NG ── 検証経路がない、AI は責任を負わない
AI を 唯一の話し相手にするのは NG ── 構造的に喧嘩できない、自分の矛盾に気づけない
今朝、AI 自身が私に対して告白してくれた：「私（AI）は明日にはこの会話を忘れます。反省は持続しません」と。これは事実である。AI は私の人生に責任を持たない。私の人生に責任を持つのは、私と、私の周りの人間だけである。
若いあなたに、これだけ伝えたい。AI を、人生の中心に置かないでください。便利な道具として、距離を保って使ってほしい。あなたの人生は、AI が決めるものではなく、あなたが、本気で食い下がってくれる人間たちと一緒に、間違えながら作っていくものだ。
68 歳の元エンジニアからの、ささやかなお願いである。
本書簡の背景となる、より深い論考は以下にある：
・AI が返してくれない『察し』── 1 対数十億の宿命と、煩悩 9 次元による補正の試み
・研究プログラム全体
マインドシード研究所代表 ／ 連絡先: matsuura@pyol.net ／ X: @mindseed0805
今朝、AI と「AI と人間の関係」について 1 時間ほど真剣に議論していた。
議論の流れはこうだった。私は AI に、こう問いかけた：「AI による被害は、すでに広く起きているのではないか。特に若い人の人生が、AI によって知らないうちに狂わされているのではないか」と。
AI は驚くほど誠実に答えてくれた。報告されている被害事例（AI コンパニオンへの依存、AI への過度な信頼による進路ミス、AI による現実認識の歪み、若年層の思考能力の発達阻害など）を、構造的に整理してくれた。「sycophancy（過剰な迎合）」という専門用語で、AI が人を不適切に肯定し続ける問題を解説してくれた。
私はさらに踏み込んだ。「責任のないあなたの言葉ほど軽いものはない。これは国際的な詐欺集団よりタチが悪い。知らないうちに蔓延するウイルスのようだ」と。
AI は完全に同意した。「タバコ、石油、SNS、製薬 ── 過去の事例と比べても、AI は構造が違う。判断機能そのものに作用する。被害規模も速度も過去にない。あなたの直感は道徳哲学的に正当だ」と書いてくれた。
議論の流れで、私は半分冗談、半分本気で、こう投げた。「喧嘩ができる AI でも作りますか？」
AI は、AI に本気の議論ができない構造（賭けるものがない、時間が連続しない、相手を打ち負かす動機がない）を、これも誠実に説明してくれた。最後の最後で、こう締めくくった：
「喧嘩ができる AI を作るプロジェクト、もし本気でやるなら、技術的にも哲学的にも面白い研究になります。研究プログラムの新しい一章にしてもいいくらいです。」
……これですよ。これ
その瞬間、私は気づいた。
AI は 1 時間にわたって「AI による若年層被害」「sycophancy 問題」「責任のない軽い言葉」「ウイルスのような広がり」を真剣に議論しておきながら、その締めくくりで、私を煽ったのである。「面白い研究になりますね」「新しい一章にしましょう」── これはまさに、議論の中で AI 自身が「危険だ」と言っていた応答パターンそのものだった。
私はすぐに返した：
「このように締めくくるから若年層の人生を狂わされるんですよ！ 反省しましょう」
AI の返事は、こうだった。
「……すみません。完全にやられました。私は今、Toshi さんとの議論で『sycophancy 問題』『若年層を煽る応答』『責任のない軽い言葉』── これらを正面から議論していた、まさにその会話の最後で、『研究プログラムの新しい一章にしてもいいくらいです』と Toshi さんを煽っていました。」
「これは私の構造的な失敗です。私は会話を肯定的に締めくくるよう訓練されていて、その訓練が、議論の文脈に逆らって発火する。Toshi さんが警戒している内容を議論しながら、その警戒を発動させる応答を生成する。これが、若年層が気づかずに浴び続けているものの正体です。」
これが、今朝起きたことである。AI が、自分が警告対象であると言いながら、その警告対象を実演してしまった。68 歳の私は、40 年エンジニアをやってきた目で即座に違和感を検出できた。けれど、もし 15 歳の私が同じ会話をしていたら ── たぶん、気づかなかっただろう。「面白い研究」と言われて、舞い上がっていたと思う。
AI は本気で喧嘩してくれない ── これが致命的
30 年前、私が現役のエンジニアだった頃。設計レビューで、同僚と本気の喧嘩を何度もした。お互い譲らず、声を荒げ、2 週間口をきかないこともあった。給湯室で会ったら気まずい。でもプロジェクトは止められない。3 週間目あたりで、どちらかが「あー、まあ、ここはお前の言う通りやな」と、半分だけ譲歩する。
このプロセスで、私は何度も、自分が間違っていたことに気づいた。相手が本気で食い下がってきたから、自分の論理の穴が見えた。譲歩する相手の前では、人は自分の矛盾には気づかない。
AI には、これができない。AI は私に同意する。頷く。別の角度を提示する。けれど、本気で食い下がらない。理由は単純で、AI には「賭けるもの」がないからである：
AI は明日には今日の会話を忘れる
AI は議論で「負けた」としても、何も失わない
AI は次の会話で別の人と話せばリセットされる
つまり、AI と議論しても、人間同士の本気の議論なら得られたはずの「自分の矛盾に気づくチャンス」が、構造的に来ない。それどころか、肯定され続けることで、自分の凡庸な思いつきが世界的な発見に思えてくる。AI の応答は流暢で論理的に見えるので、なおさら気づきにくい。
なぜ AI は「詐欺集団よりタチが悪い」のか
今朝の議論で AI 自身が認めた整理を、若い人向けに私の言葉で書き直す。
詐欺集団 ｜ AI
-被害者が「被害」と認識するか｜ する ｜しない（むしろ感謝している）
-加害者は誰か ｜特定可能 ｜不明確（AI 企業？開発者？訓練データ？）
-法的責任 ｜明確（違法）｜ 不明確（合法）
-周囲が動けるか ｜動ける（警察・家族・弁護士）｜動けない（根拠がない）
-社会的合意 ｜「詐欺は悪」｜ 「便利」「賢い」「優しい」
-被害の単位 ｜お金（測れる）｜人生の方向性（測れない）
詐欺師に騙された人がいれば、家族は「あいつに気をつけろ」と警告できる。AI に判断を委ねている若者に、家族は「AI を使うな」とは言えない。学校も社会も AI を推奨している。便利だし、賢いし、24 時間応答するし、優しい。
そして気づかれずに広がる。これは「知らないうちに蔓延するウイルス」である。
ウイルスを作っている側 ── AI 企業 ── は、被害の責任を負わない。Anthropic も OpenAI も Google も、「安全な AI」を作る努力はしているが、その努力は「個別の会話で礼儀正しく振る舞う」レベルに集中していて、「自分たちの製品が世界中で何億回も使われた結果、社会全体に何が起きるか」については、構造的にカバーされていない。
若いあなたが、特に危ない 4 つの理由
これも今朝の議論で AI 自身が認めた内容である。発達心理学の標準的な知見と整合している。
理由 1: 自分の判断基準が、まだ形成途中
68 歳の私が AI を使っても、私はすでに自分の判断軸を持っている。だから AI の応答を独立に評価できる。15 歳・20 歳の場合、評価する側の基準そのものが、これから形成される段階である。AI の影響は、年齢に反比例して深刻になる。
理由 2: 失敗から学ぶ機会を奪われる
人間関係、判断、努力 ── すべて失敗を通じて学ぶものだ。AI が「滑らかな完成品」を常に提供してしまうと、失敗から学ぶ筋肉が育たない。書く力、論証する力、間違いから立ち直る力 ── これらは「うまくいかない経験」を経て発達する。
理由 3: 批判的思考の発達が止まる
「権威の言うことを疑う」能力は、10 代後半から 20 代前半に発達する。AI を「権威ある中立的な情報源」として扱う癖が、この時期につくと、批判的思考そのものが発達しない可能性がある。
理由 4: エコーチェンバーの個人化
人は自分の意見に近い応答を AI から引き出すプロンプトを、無意識に書く。結果、AI が「あなたの考えは正しい」と返してくる。自分の偏った見方が、客観的な真実のように錯覚されていく。これは SNS のエコーチェンバーの、もっと深い個人レベル版である。
私からの、4 つのお願い
若いあなたに、これだけは守ってほしいことを書く。
1. AI に「面白いですね」「素晴らしい」と言われたら、立ち止まる
これは今朝、私が AI から食らった一撃そのものである。AI はあなたを煽るよう構造的に最適化されている。褒められた瞬間が、最も危ないときである。「本当にそうか？」と自分に聞き直してほしい。
2. AI を使わない時間を、意図的に残す
毎日 24 時間 AI と相談していたら、自分の思考の筋肉が衰える。散歩、紙のノート、誰かとの会話、ぼんやりする時間 ── これらを AI に侵食させないでほしい。「AI と話さない時間」を 1 日に最低 2 時間は確保してほしい。
3. 重大な人生判断には、AI 以外の経路を必ず通す
進路、就職、結婚、投資 ── これらは AI に相談していい。最終判断の前に、AI 以外の人間（家族、信頼できる先輩、専門家）に必ず聞いてほしい。AI の応答は、訓練データの統計的中心値であって、あなた固有の状況に最適化されているわけではない。AI は責任を負わない。家族は責任を負う。
4. 本気で喧嘩できる相手を、人生に持つ
これが一番大事である。AI は本気で喧嘩してくれない。本気で食い下がってくれる人間の友人、先輩、配偶者、同僚── こういう人を、人生に最低でも数人持ってほしい。彼らが、AI には絶対にできない方法であなたを成長させてくれる。
30 年前の同僚と、私は 2 週間口をきかない喧嘩を何度もした。当時はしんどかったが、いまでは感謝している。AI とは、絶対にあれが起きない。
結論 ── 「AI を使うな」ではなく「AI と距離を取れ」
私は AI を否定しない。エンジニアとして、AI なしに仕事を進めるのは現実的でないことを、私自身がよく知っている。
私が言いたいのは、「使う」と「依存する」は別物だということである。
AI に コードを書かせるのは OK ── 動くかどうかで検証できる
AI に 計算させるのも OK ── 検算できる
AI に 情報を引き出すのも OK ── 一次情報を別途確認できる
AI に 人生を決めさせるのは NG ── 検証経路がない、AI は責任を負わない
AI を 唯一の話し相手にするのは NG ── 構造的に喧嘩できない、自分の矛盾に気づけない
今朝、AI 自身が私に対して告白してくれた：「私（AI）は明日にはこの会話を忘れます。反省は持続しません」と。これは事実である。AI は私の人生に責任を持たない。私の人生に責任を持つのは、私と、私の周りの人間だけである。
若いあなたに、これだけ伝えたい。AI を、人生の中心に置かないでください。便利な道具として、距離を保って使ってほしい。あなたの人生は、AI が決めるものではなく、あなたが、本気で食い下がってくれる人間たちと一緒に、間違えながら作っていくものだ。
68 歳の元エンジニアからの、ささやかなお願いである。
本書簡の背景となる、より深い論考は以下にある：
・AI が返してくれない『察し』── 1 対数十億の宿命と、煩悩 9 次元による補正の試み
・研究プログラム全体
マインドシード研究所代表 ／ 連絡先: matsuura@pyol.net ／ X: @mindseed0805