AIエージェント
AI 時代、技術者の判断力をどう守るか——自動化が奪う「思考の深さ」
AI エージェントに次々と仕事を任せるほど、人間の判断力は低下し、システムへの理解も薄れていく。この避けられない現象に対抗するには、「何を学ぶか」を意識的に設計する必要がある。
原題
“To Read—Or Not to Read the Code?” （コードを読むべきか、読まないべきか？）
原文からの引用
“But if all you're thinking about is the product, you're neglecting your own development. A codebase compounds from the ground up. If a person doesn't compound alongside it, the two curves start to diverge: The system keeps getting more capable while the person's ability to judge it keeps getting weaker.”
日本語訳 製品のことばかり考えていては、自分自身の成長を見落としている。コードベースは段階的に複雑化していく。人間がそれに歩調を合わせなければ、二つの曲線は乖離し始める。システムはより能力を高めるのに対し、人間の判断力はより弱くなっていく。
要点
- 著者は AI エージェント（Cora など）に仕事を次々と自動化した結果、効率は上がったが、学習への報酬感が失われ、脳が「TikTok のような短期的な快楽の集合体」になっていることに気づいた
- 自動化レベルが上がるほど人間の判断力が低下する「自動化の逆説」は 1983 年から指摘されており、AI 時代に加速している。研究者 Margaret Mitchell らの論文でも実証されている
- コード読みの役割が変わった。著者は以前「検証のため」に全行を読んでいたが、今は「学習のため」だけに読む。細部ではなく、システム全体の流れと判断理由を理解することが重要
- 実例：顧客が送信済みメールを削除されたバグで、表面的に妥当な修正案（待機時間の追加や条件チェック）は、システム全体を理解していないと不十分。著者が「Gmail に問い合わせてから削除する」という根本的な解決策を提案できたのは、システムの全体像を持っていたから
- 判断力を保つには、継続的に「どこで学びが足りないのか」を把握し、意識的に学習を習慣化する。ツールの使い方を知ることと、その背後にある仕事を理解することは別タスク
編集部の考察
Cora のメール削除バグ事例が示すのは、「テストを通り、もっともらしく見える修正」と「実際に効く修正」を見分ける基準を、デリバリー速度中心の評価制度はそもそも測れていないという問題だ。（要点4）顧客が Gmail から直接送信したメールを Cora が誤って削除したこのバグでは、「削除前に30秒待つ」「Cora 自身が送信した場合はスキップする」という2つの修正案が出たが、どちらも表面的には妥当でテストも通りかねない内容だった。それでも両方とも本当の原因とは無関係で、実際に有効だったのは「削除前に必ず Gmail に事実確認し、確証が得られなければ削除しない」という、システム全体の処理フローを事前に理解していたからこそ出せた根本解決策だった。人材評価が PR のマージ数やデリバリー量だけで測られている組織では、まさにこの種の「もっともらしいが的外れな修正」を最速で出す人材を高く評価してしまっている可能性がある。
決めるべきは、評価基準に「なぜその修正が正しいと言えるかをシステム全体から説明できるか」という項目を加えるかどうかだ。これを変えないまま自動化だけを進めれば、判断力を測らない評価制度の下で「即応は速いが原因を説明できない人材」が昇進し、次の障害でも同じ種類の誤った修正が繰り返されることになる。
本記事は海外記事の独自キュレーション・考察であり、原文の翻訳ではありません。引用部分の著作権は原著者に帰属します。