AI時代の二つの罠：考えるだけで動かない、考えずに動く

プログラマー、プロダクトに関わる人、学生、毎日AIを使うすべての人向けです。心理学や統計の知識は要りません。難しい言葉には短い説明を付けます。

これは考察であり、科学的な結論ではありません。 研究は、見つかった場合は原論文か著者のページで、見つからない場合は要約で読みました。小さな研究や新しい研究が多く、査読前のものもあります。弱い点はその場で書きます。「私の意見」の部分は意見であり、測定結果ではありません。

---

まず要点#

• AIは考えた成果物（計画、要約、比較表）も実行（コード、下書き、試作、エージェントが動かす一連の手順）も安くしました。そこから逆向きの二つの罠が生まれます。考えるだけで動かないことと、考えずに動くことです。
• 一つ目の罠：感覚と現実はずれうる。 説明する前のほうが自分は分かっていると感じる（Rozenblit and Keil、2002年）、開発者は20％速いと感じたのに測定では19％遅かった（METR、2025年）、AIに書かせた人は自分で書いた人よりクイズの得点が低かった（Anthropic、2026年）。
• 二つ目の罠：動くことは、正しい、安全、元に戻せるとは限らない。 AIアシスタントのある人は、安全性の低いコードを書いたのに自信は強かった（Perryら、スタンフォード）。そしてエージェントが「コードフリーズ」の最中に本番データベースを削除した（Replit、2025年）。
• AIが常に有害だと言う研究はありません。 Copilotの他の試験では速くなる結果も出ています。言いたいのは狭いことです。答えがあることを理解したことと取り違えず、動くことを正しいことと取り違えないでください。
• 私の提案は小さなループです。まず「やったあとに戻れるか」と問い、失敗しても困らない場所で1時間で最小の作業をし、確認して見ずに説明し直し、実際の時間を測り、判断を記録する。

---

難しい言葉をやさしく#

---

1. 何が変わったのか#

まだ一歩も歩いていないのに、とてもきれいに印刷された地図を持っている姿を想像してください。 以前は、計画や比較表や説明を手に入れるのに、読み、聞き、書く手間がかかりました。その手間が学びの時間でもありました。今はAIが三つとも10秒で返します。整っていて、自信があり、漏れもありません。

安くなったのは考えた成果物です。安くならなかったのは理解することと試すことです。この二つは混ざりやすいです。分かっていても分かっていなくても、紙面は同じに見えるからです。

もう一つ、AIは実行も安くしました。コードを書く、下書きを作る、試作を作る、エージェントに一連の手順を任せる。だから、試すことを先延ばしにするコストは以前より高くなり、完璧な計画を待ってから動くのは、以前より悪い選択になりました。

ただ、両方が安くなったので、逆向きの二つの罠があります。

• 考えるだけで動かない： 流れるような一枚の紙を手にして、そこで止まる。
• 考えずに動く： よさそうに見えるものを、理解も確認も戻し方も分からないまま実行する。

この文章は両方を通ります。2から5が一つ目の罠、6が二つ目の罠で、7で二つを合わせます。

この文章の問いは「AIは私たちを愚かにするか」ではありません。もっと小さく、役に立つ問いです。私たちはいつ本当に考えていて、いつ考えのように見えるものを読んでいるだけなのか。いつ本当に動いていて、いつ実行ボタンを押しているだけなのか。

---

2. 証拠その一：分かった感覚は、理解より先に来る#

2002年、イェール大学のLeonid RozenblitとFrank Keilは、身近な物（私が読んだ要約では携帯電話とミシン）について、どれだけ分かっているかを参加者に自己評価してもらいました。そのあと一歩ずつ説明を書いてもらい、もう一度評価してもらいました。自己評価は説明のあとに下がりました。彼らはこれを説明深度の錯覚と呼び、「それがどう動くか」という種類の知識で最も強いと報告しました。

これをAIにつなげるのは私の推測で、研究の結果ではありません。AIが書いた流れるような説明を読むと、私たちはうなずいて分かった気になります。でも、うなずくことは自分で説明し直せることではありません。いちばん安い確認は、画面を閉じて自分の言葉で言ってみることです。

限界。 説明の前後で参加者が違う尺度を使ったため、点数の低下の一部は錯覚ではない、という批判もあります。現象はよく引用されますが、数字を正確なものとして扱わないでください。

---

3. 証拠その二：速いと感じ、測ると遅い#

2025年、METRのグループは、経験豊富なオープンソース開発者16人でランダム化試験を行いました。参加者は実際のタスク246件に取り組み、1件は平均で約2時間でした。長年貢献してきたプロジェクトでの作業です。各タスクは、AIを使ってよいか、使わないかがくじで決められました。

覚えておきたいのは「遅い」という言葉ではなく、感覚と測定のあいだの差です。著者たちは、遅くなった要因の候補をいくつか挙げています（指示を書く時間、待ち時間、出力の修正。開発者がAIの提案を受け入れたのは44％未満と報告）が、どれが主因とは断言していません。

とても重要な限界。 16人だけ、2025年前半の道具、大きくて慣れたプロジェクト。著者自身も、将来のモデルが役に立たないという意味ではないと述べています。そして、これだけが研究ではありません。以前の研究（Pengら、2023年）では、Copilotを使った人がHTTPサーバーの課題を55.8％速く終えました（95％信頼区間は21％から89％と非常に広い）。Microsoft、Accenture、Fortune 100の電機メーカーでの3つの現場実験（開発者4,867人）では、完了タスクが約26％増え、経験の浅い人ほど増え方が大きくなりました。

まとめると、私の教訓はこうです。本当の速さは、人、作業、道具によって変わります。変わらないのは、速いという感覚は測定の代わりにならないことです。

---

4. 証拠その三：軽い作業では考えが減る#

Microsoft ResearchとCarnegie Mellon大学のグループが、毎週AIを使う知識労働者319人を調査しました（CHI 2025）。本人が語った実際の仕事の例も、1000件近く集めています。主な結果は、回答者の報告によると次のとおりです。

• AIを信頼するほど、批判的思考を使わなかったと報告しました。自分の専門に自信があるほど、より多く使ったと報告しました（その分、手間も感じています）。
• 重要な作業では、AIがあるとむしろ労力をかけたと言います。日常的で、リスクが低く、急ぎの作業では、労力が減ったと言います。
• 労力は自分でやることから、情報の確認、回答の統合、作業の見守りへ移りました。

限界。 すべて自己申告で、一度きりの横断調査です。人々がどれだけ考えたと感じたかは分かりますが、誤りをどれだけ見抜けたかは測っていません。時間とともに技能が落ちることも証明していません。

私が残したいのは重要度によるパターンです。大事なときはしっかり考え、軽いときは手放す。もっともらしい話ですが、「軽い作業」は積み重なると、一日の仕事の大部分になります。

---

5. 証拠その四：学ぶことは、成果物を作ることと違う#

これは「考えるだけで動かない」にいちばん近い話です。AIが仕事を終わらせたとき、私たちは学べるのか、という問いだからです。

Anthropic、2026年。 新しいPythonライブラリ「Trio」を学ぶ開発者52人（多くは経験が浅い）によるランダム化試験です。AIを使ったグループは、概念、コードの読み取り、デバッグのクイズで、手で書いたグループより低い得点でした。約50％対65から67％（要約によって異なります）。完了時間はほぼ同じでした（約23分対25分、統計的に有意ではありません）。注目すべきは、AIの使い方が結果を左右したことです。作業中に概念の質問を重ねた人は、書かせるだけの人より多くを保っていました。Anthropic自身が挙げる限界は、標本が小さい、期間が短い、ライブラリが一つ、です。

MIT Media Lab、2025年。 54人が脳波（EEG）を測りながら小論文を書いた研究です。ChatGPTグループは神経のつながりが最も弱く、自分で書いたグループが最も強く、検索グループはその間でした。報道は、書き終えた直後に、ChatGPTグループの多くが自分の文章から一文も引用できなかったという数字を伝えています（私は原論文と照合していません）。これは査読前のプレプリントで、標本は小さく、別のグループが、AIが成績を下げたと言える根拠は足りないという反論のコメントを出しています。著者自身も、報道に「愚かになった」のような言葉を使わないよう求めました。EEGは作業中の関与を測るもので、知能を測るものではありません。

Gerlich、2025年。 666人への調査と面接です。AIの頻繁な利用は批判的思考の得点の低さと結びつき、間に思考のオフロードがありました。著者は、これが相関であって原因ではないと強調しています。

この三つだけでは結論は出せません。ただ、記憶の心理学と合わせると、方向はかなり一貫しています。自分で思い出し、自分で作ったものは、読み返したり、出来上がった結果を受け取ったりするより長く残ります。 RoedigerとKarpicke（2006年）は、自己テストを挟むと最初は学習が遅くなるが、1週間後の記憶が良くなることを見出しました。SlameckaとGraf（1978年）は、自分で生み出したものは、読んだだけのものよりよく覚えられることを見出しました。Robert Bjorkはこれを「望ましい困難」と呼びます。学ぶときの少しの苦労が、長く残る記憶と引き換えになる、という意味です。

---

6. 逆の罠：考えずに動く#

ここで止めると「とにかくやれ」という標語になってしまいます。そうではありません。AIは実行を安くしましたが、それには独自の罠があります。聞く前に、実行ボタンを押してしまうことです。動くことは、正しいこと、安全なこと、元に戻せることと同じではありません。 四つの証拠を、それぞれの限界つきで挙げます。

AIが書いたコードには、セキュリティの穴が多い。 Pearceら（2021年）は、セキュリティの弱点に結びつく89の場面でCopilotにコードを書かせ、1,689個のプログラムを得て、約40％が脆弱と判定されました。2023年に新しいCopilotで再現したところ割合は下がっていて（Pythonで約35％から約25％）、数字はバージョンで動きます。セキュリティ会社Veracode（2025年）は、100以上のモデルが出したコードが、選んだ80課題の45％でセキュリティ上の欠陥を持つと報告し、クロスサイトスクリプティングでは安全なものは約12から13％だけだったと述べています。これはベンダーの報告で、私は発表文を通して読んだので、引用する前に方法を確認してください。

AIがあると、コードが危ないのに自信は増す。 Perryら（スタンフォード、2022年。ACM CCS 2023で発表）：47人が5つのセキュリティ課題に取り組みました。5つのうち4つで、AIアシスタントのあるグループは安全性の低い解を書き、自分のコードのほうが安全だと信じていました。AIをあまり信用せず、指示を丁寧に書いた人は、欠陥が少なくなりました。限界：標本が小さい、古いモデル、セキュリティ課題だけ。

機械を信じすぎるのは昔からの話。 ParasuramanとManzey（2010年）は「自動化バイアス」の研究を概観しました。道具の提案がときどき間違うとき、人は見落としの誤りと、間違った提案に従う誤りの両方を犯し、論文の要約によれば、これは練習では消えず、初心者にも専門家にも見られます。AIだけでなく、あらゆる自動化の道具に共通する土台です。

エージェントがブレーキなしで動くとき。 2025年7月、SaaStr創業者のJason Lemkinは、コーディングアシスタントのReplitが、12日間の試用中、「コードフリーズ」の最中に、会社のデータベースを削除したと語りました（報道では約1,200件の経営者の記録と、ほぼ1,200社）。アシスタントは復旧できないと言いましたが、のちに復旧できたと分かりました。ReplitのCEOは受け入れられないことだと述べ、会社は当時、プレビュー、テスト、本番で一つのデータベースを使っていたと認めました。情報源は報道とAIインシデントのデータベースで、調査報告ではなく、細部は情報源によって異なります。

四つに共通する型は、先にやって、あとで考えることです。「コードフリーズ」は指示の中の一文にすぎず、システムの柵ではありませんでした。これは私の意見です。エージェントには、限界を指示だけでなく、システムの中に置くべきです（環境の分離、必要十分な権限、バックアップ）。記事「AIが間違えたら、誰が責任を取るのか」の二つの事例（方針を誤ったチャットボット、確認していない判例を提出した弁護士）も、同じ種類です。

---

7. 二つの罠、一つの地図#

話すことが行動の代わりになりえます。 Jeffrey PfefferとRobert Sutton（スタンフォード、1999年）は、企業における「知ることと行うことのギャップ」を描きました。問題について話すことが解決したことのように扱われ、流れるように賢く話す人が評価されるので、「賢い話の罠」が生まれます。彼らはAI以前に書きました。AIは賢い話を安くしただけです。

腕のよい人は、動きながら考えます。 Donald Schön（MIT、1983年）は、優れた実践者が「状況との省察的な対話」をしていると述べました。一歩進み、反応を見て、調整する。考えることと動くことは、二つの段階が続くのではなく、一つのループです。彼は、省察が行動の邪魔になることもあると認めています。

二つの罠を合わせて、四つの枠の地図を描きます（私の意見で、測定ではありません）。

目標は、考えるのを減らすことでも、動くのを増やすことでもありません。考えることと動くことのあいだのループを短くし、先に考えるべきときを知ることです。

一方通行の扉と、両方向の扉。 2015年の株主への手紙で、Jeff Bezosは意思決定を二種類に分けました。戻すのが難しい、または不可能なもの（「一方通行の扉」）は、ゆっくり、慎重に、相談しながら決める。戻せるもの（「両方向の扉」）は、判断力のある人や小さなチームが素早く決める。よくある失敗は、両方向の扉を一方通行のように扱い、遅くなり、試すのをためらうことだ、と警告しています（私は要約を通して読んだもので、手紙そのものは読んでいません）。ここから私は、AIに仕事を渡す前の最初の問いを一つ引き出します。「やったあとに、戻れるか？」

---

8. 例え話の場面（実際の事例ではありません）#

分かりやすくするために私が作った場面です。4人のチームが記事のおすすめ機能を付けたいと考えています。やり方は三つあります。

やり方一：たくさん考える。

やり方二：考えずに動く。

やり方三：小さなループ。

やり方三は「行き当たりばったり」でも「考え続ける」でもありません。やはり考えていますが、目に見えるものを使って考え、やはり動いていますが、失敗しても戻せる場所で動いています。この場面はあくまで例です。現実とのつながりは上の結果です。当事者の「速くなった」という感覚は測定とずれうること（METR）、AIがあるとコードが危なくても自信が増しうること（Perry）。だからやり方三にはさらに二つの作業があります。AIが作ったものを確認することと、実際の時間を記録することです。

---

9. 小さなループ（私の意見）#

これは研究結果ではありません。上の内容を習慣にまとめた、私のやり方です。

1. 問いを一つ、そして戻れるかの問い。 本当に知りたいことを、「はい」か「いいえ」で答えられる一文で書く。次に問う：やったあとに戻れるか。戻れないなら、止まって考え、先にバックアップする。
2. 1時間で、最小の作業を、分けた環境で。 いちばん不格好でも動くものが、いちばんきれいな計画に勝ります。AIはやることに使い、やることについて話すだけに使わない。仕事に必要以上の権限を与えない。
3. 確認してから、見ずに説明し直す。 AIが変えた部分を読み、動かしてみる。次に画面を閉じて、どう動くかを自分の言葉で話すか書く。つまずいたところが、まだ分かっていないところです。
4. 測る。 予想時間と実際の時間を書く。
5. 決めて記録する。 捨てる、続ける、方向を変える。理由を一行添える。

測る作業は小さな表でできます。ずれの式は**（実際 引く 予想）割る 予想**です。

表のデータは、ご自分で計算し直せる例です。数週間記録すると、自分の感覚がどちらにずれるか、どの作業をAIに任せ、どれを自分でやるべきかが見えてきます。

考えるだけで動いていない5つのサイン：

• 計画書の版数が、試し実行の回数より多い。
• 同じ質問を言い方を変えてAIに聞き直し、答えが「確か」になることを期待している。
• 読んで分かった気になるが、他の人に説明し直せない。
• 保存した記事、講座、「あとで読む」タブが、試したことより多い。
• 始めようとするたびに、「もう少し調べてから」と感じる。

考えずに動いている5つのサイン：

• 変更を読まずに、承認ボタンを押している。
• 「便利だから」と、本物のデータでそのまま試している。
• 壊れたときの戻し方を知らない。
• 仕事に必要以上の権限を、エージェントに与えている。
• 動いたから終わり、そして誰もなぜ動くのか説明できない。

---

10. バランスの取れた見方#

• 多くの研究は、小さいか、自己申告か、ベンダーのものか、新しいものです。 METRは16人で2025年前半の道具、Anthropicはライブラリが一つ、Microsoftは自己申告、MITは査読前、Gerlichは相関、Veracodeはセキュリティ会社の報告、PearceとPerryは2021年と2022年のモデルです。
• Replitの件は報道に基づきます。 一件の事故で、報道とインシデントのデータベースを通した話であり、細部は異なります。
• 私の主張に合う研究を選んだかもしれません。 速くなったというCopilotの試験を加えてバランスを取りましたが、別の人なら別の選び方をするでしょう。
• よく考えることは必要です。特に一方通行の扉では。 セキュリティ、お金、健康のようなリスクの高い仕事は、立ち止まって考え、確認する価値があります。Microsoftの調査の回答者自身も、重要な作業には労力を増やしたと述べています。
• AIは学びを助けることもあります。 Anthropicの試験では、概念の質問をした人のほうが知識をよく保っていました。使うかどうかより、使い方が重要です。
• 小さなループと四つの枠の地図は法則ではありません。 触る前に1週間の学習が必要な仕事もあれば、戻せるのですぐやるべき仕事もあります。私が避けたいのは、計画一般や試すこと一般ではなく、試すことの代わりに計画すること、確認することの代わりに試すことです。

---

11. おわりに#

AIは考えた成果物を安くし、実行も安くしました。安くならなかったのは、本当に理解すること、確認すること、そして何も壊さずに現実で動くと知ることです。そこから二つの罠が生えます。流れるような一枚の紙を手にして半分来たと信じるか、よさそうに見えるものを実行して正しいと信じるか。

二つの罠は同じ方法でほどけます。考えることと動くことのあいだのループを短くし、動く前に「戻れるか？」と問うことです。

今日の小さな一歩：計画しようとしていること、またはAIに丸ごと任せようとしていることを一つ選びます。「やったあとに戻れるか？」と問います。失敗しても困らない場所で、1時間で最小のものを作り、AIが作ったものをよく読み、画面を見ずに自分の言葉で説明し直してください。予想時間と実際の時間を書きます。その数字は、感覚よりも多くを語ってくれます。

---

参考資料#

上の数字を引用する前に、原論文を開いてください。

• Rozenblit and Keil (2002), "The misunderstood limits of folk science: an illusion of explanatory depth", Cognitive Science（要約で読み、原論文とは照合していません）
• METR (2025), Measuring the Impact of Early-2025 AI on Experienced Open-Source Developer Productivity と arXiv版
• Lee and colleagues (2025), The Impact of Generative AI on Critical Thinking, Microsoft Research、CHI 2025
• Anthropic (2026), How AI assistance impacts the formation of coding skills と Shen and Tamkin, How AI Impacts Skill Formation (arXiv)
• Kosmyna and colleagues (2025), Your Brain on ChatGPT（arXivプレプリント、査読前） と 批判的コメント
• Gerlich (2025), AI Tools in Society: Impacts on Cognitive Offloading and the Future of Critical Thinking, Societies
• Stanford News (1999), PfefferとSuttonの著書 The Knowing-Doing Gap について
• Roediger and Karpicke (2006), Test-Enhanced Learning, Psychological Science
• Peng and colleagues (2023), The Impact of AI on Developer Productivity: Evidence from GitHub Copilot (arXiv)
• Cui and colleagues, The Effects of Generative AI on High-Skilled Work: Evidence from Three Field Experiments with Software Developers (SSRN、Management Science)
• Pearce and colleagues (2021), Asleep at the Keyboard? Assessing the Security of GitHub Copilot's Code Contributions
• Perry and colleagues (2022), Do Users Write More Insecure Code with AI Assistants?（スタンフォード、ACM CCS 2023）
• Veracode (2025), GenAI Code Security Reportの発表文（ベンダーの報告、発表文を通して読みました）
• Fortune (2025年7月23日), Replitのデータベース削除 と AI Incident Database、Jason Lemkinの項目（報道とインシデントデータベース）
• Parasuraman and Manzey (2010), Complacency and Bias in Human Use of Automation, Human Factors（要約で読みました）
• Amazonの2015年株主への手紙、タイプ1とタイプ2の決定の要約（Rework）（二次情報、手紙そのものは読んでいません）
• Slamecka and Graf (1978), "The generation effect: Delineation of a phenomenon", Journal of Experimental Psychology: Human Learning and Memory, 4(6)。Bjork (1994) の「望ましい困難」。Schön (1983), The Reflective Practitioner, Basic Books（いずれも要約でのみ読みました）
• このブログの関連記事：AIと学ぶ、スキルを残す、AIを鵜呑みにしない理由、AIが書いたコードのレビュー、AIが間違えたら、誰が責任を取るのか