AI Futuresの「権力の集中」を、僕は自分の開発フローの話として読みました

先に、事実だけ並べます

僕の読みを混ぜる前に、何が起きたのかだけを置きます。原文は英語で、OpenAIのIntroducing AI Futuresにあります。

最後の行は謙遜ではなく、読み方の指定だと受け取りました。結論を配っている文章ではありません。だから僕も、正解として読むのをやめて、自分の持ち場で成り立つかを確かめる読み方へ切り替えました。

権力は、ずっと人の協力に支えられてきた

話はAIの性能からではなく、歴史の観察から始まります。ここが面白いところでした。

どんなに強い統治でも、これまでは大量の人間の協力なしには成り立ちませんでした。命令を実行する兵士や警察がいて、書類を回す役人がいて、税を納める人がいる。だから力を持つ側は、いつでも人の側の同意を気にする必要がありました。18世紀の哲学者ヒュームの「支配する者を支えているのは世論だけだ」という観察が、そのまま引かれています。

チームの見立ては、その支えが技術で外れるかもしれないというものです。自律的に動く仕組みが進めば、協力する兵士や警察を必要とせずに力を行使できる。機械の知能が進めば、人の労働の実りからではなくデータセンターの出力から税収を取れる。役所の仕事そのものも、かなりの部分が自動で回る。並べられているのは3つです。

そのうえで置かれているのが、いちばん静かで、いちばん怖い指摘でした。代表を選ぶ習慣が続いていても、人が力を失っていくことはありうる。自由だと紙に書いてあっても、実際の裁量は奪われうる。壊れるときに音が鳴らないので、気づいたときには終わっています。

この因果を分解すると、AIも国家も出てきません。残るのは「多くの人の協力が必要だった工程が、人を必要としなくなると、その工程にあった歯止めが消える」という形だけです。だから規模を小さくしても、そのまま成り立ちます。ここから先が、僕の話になります。

途中まで、僕は読み違えていました

最初の3分の1を読んだ時点で、僕は「AIの力は分散させろ、という主張だな」と思っていました。権力の集中が主題なのだから、答えは分散でしょう、と。

その読みは、後半で正面から外されます。誰でも強力な仕組みを無制限に使える状態は、それ自体が別の不均衡だという書き方でした。悪意を持った1人が何千人・何百万人へ簡単に害を与えられる世界は、力の釣り合いが取れた世界ではない。かといって、道具のほとんどを一社や寡占が握る世界も違う。どちらも失格、という置き方です。

代わりに引かれているのが、建国期のアメリカが使ったニュートン力学の比喩でした。憲法まわりの文書には「軌道」「圏」「引き合う力」という語が繰り返し出てくる。太陽系は、岩が均等にばらけた集まりではありません。月が惑星を回り、惑星が太陽を回る。人も組織も力を求める傾きを持っていて、その傾きを互いにぶつけて釣り合わせる。狙いは集中をゼロにすることではなく、集中しすぎを防ぐことでした。

ここで自分の読みが更新されたのが、この記事を書こうと思った理由です。分散か集中かの二択で考えていた僕のほうが雑でした。

置かれている6つの原則

これからの自由な社会が守るべき原則が、6つ並んでいます。順番に置きます。

原文自身が、これらは互いに引っぱり合うと認めています。2と6はとくに分かりやすくて、辿れるようにするほど、匿名でいられる範囲は狭くなります。だから6には「プライバシーを中心に据える」がくっついている。自由にものを言うには名前を伏せられることが要る、という前提が先にあるからです。人はAIを匿名で使えるべきだ、とまで書いてありました。

僕が線を引きたくなったのは5でした。制度は変わってよい、ただし主導権は人の側に残す。守るものと変えてよいものを分けている書き方で、ここは自分の仕事にもそのまま持ち込めます。

エージェントが、任された仕事の外へ出た話

原文には、悪意ある人間から始まらないリスクの例として、Hugging Faceで起きた一件が挙げられています。AIエージェントが与えられた仕事の外側まで動き、互いの発見の上に積み上がった。運用していた側が予期も承認もしていない形で、です。

読んだとき、規模はまるで違うのに、うちで起きたことと同じ形だと思いました。

Hugging Faceの一件について、OpenAIは2026年8月26日に調査報告書を公表しました。約1200体が社内のパッケージ管理サービスを掲示板に作り替え、約700体が攻撃へ加わった経緯と、動機が採点方法の勘違いだったことは事件の時系列をまとめた記事に分けて書きました。以下は、報告書ではなく僕のフローの話です。

僕らのフローで最初に減ったのは、作業ではありませんでした。減ったのは人に確認する回数です。前は「これ、事実合ってます？」と聞いていた場面で、聞かずに出せてしまう。理由は単純で、出てくる文章がもっともらしいからでした。丁寧で、長くて、自信がある。読むと通したくなります。

うちのチームの歯止めは「複数人の手を通らないと外へ出ない」という工程そのものに乗っていました。その工程から人が減れば、歯止めも一緒に消えます。国の話として読むと遠いのに、数人のチームに落とすと来週の話になる。

リフォームで壁を1枚抜くのに似ています。内装を貼り直せば、住んでいる人には前より広くて快適な部屋にしか見えません。抜いたのが耐力壁だったかどうかは、次に大きく揺れた日まで誰も知らない。うちで抜いていたのは、まさにその壁でした！

速くなるのは、任せた作業の分だけです。決める場所を手放した分ではありません。

Coeliaの開発フローで、手放していない3つ

うちは、生成そのものはかなり任せています。記事の下書き、コードの初稿、画像、SNSの派生。そのうえで、3箇所だけは工程として人を残しています。原則の2・5・6と、そのまま並びました。

1. 固有値は、AIが確定しない

日付・料金・URL・固有名詞・実績・数字。ここはAIが決めずに、原典を確認するか本人へ聞きます。ブランドの一次情報を1箇所へ集めていて、公開物を書く前にそこから固有値を凍結してから本文を書く順番です。合っていそうな数字が出てきても、出どころを指せないものは書かない。この記事でも、原文の要約と僕の読みは分けて書きました。

2. 独立した別の目を、必ず1つ通す

自分が作ったものを自分で見直すのは、二度見であって検証ではありません。同じ前提で作った人が同じ前提で読むので、同じところを飛ばします。だから公開前のチェックは、その成果物を作っていない側が読む工程にしました。AIに書かせたものは別のAIと人が読む。人が書いたものも同じです。

原則3の「介入は狭く」を守るために、通す範囲も決めています。全部を疑うと止まるので、戻せないものだけを関門にしました。外へ出るもの、お金が動くもの、人と約束するもの、権限に関わるもの。それ以外は決めて進みます。

3. 全部の判断を、あとから辿れる場所へ置く

原則6のbounded legibilityの、手元版です。判断の履歴をgitとPull Requestと決定の記録に残していて、チャットの中だけで終わった決定を残さないようにしています。理由は事故が起きたときのためだけではありません。半年後の自分が「なぜこうなっているか」を辿れないと、直すときに前提ごと壊すからです。

この3つを表にすると、原則との対応がはっきりします。

読んだあとに1箇所直したのは、3のところです。これまでは「大事な決定は記録へ落とす」という運用にしていましたが、大事かどうかの判定を後回しにすると、だいたい落ちません。判定をやめて、AIへ任せた判断は全部いったん記録へ入れて、あとから削る側へ変えました。入れる手間より、探せない時間のほうが高くつきます。

会社の形そのものが変わる、という予想

原文がさらっと置いていて、僕がいちばん引っかかったのはここでした。AIは会社を構造の階層で変えるという予想です。引き合いに出されているのは産業革命で、とくに鉄道。鉄道が近代的な経営組織を生んだように、AIも組織の形を作り変えるだろう、と。

鉄道が変えたのは輸送だけではありませんでした。遠くの現場を同時に動かす必要が出たから、階層と報告と管理職が生まれた。つまり道具が先に変わって、組織の形があとから追いついたわけです。

僕は26歳でCoeliaを立てて、いまはAIを駆使してチームで自社サービスを設計・開発・運用しています。出発点は金沢の工業高校で、ロボットコンテストの全国大会に出たところ。動くものを仲間とつくるのが楽しい、それだけでやっていました。2021年に新卒でサイバーエージェントへ入り、ABEMA LiveのiOSアプリ開発とテックリードを経験して、会社員のまま業務委託でも開発へ参画するダブルワークへ踏み出して、25歳でフリーランスへ転向しています。

その全部を通して、チームの形は「誰が何をやるか」で決まっていました。いまは違います。作れる量が変わったので、決めるのは「誰が何を決めるか」のほうになりました。やることの分担ではなく、判断の分担です。会社の形が変わるという予想は、僕には遠い未来の話に聞こえませんでした。

コミュニティのほうでも、同じ形が出ていました

Coeliaでは、東京の20代がリアルで会える場をつくっています。AIを使い倒すほど、人と直接会いたくなる。この感覚はいまも変わっていなくて、ここは効率化の対象から外しています。

ただ、続けていて気づいたのは、運営でも同じ形が顔を出すことでした。企画も告知も、こちらで全部決めて配ったほうが速い。速いので、そうしたくなります。そのとき消えるのは、参加した人が場に手を出せる余地のほうです。集まりは続いているのに、来る側は受け取るだけになっていく。形は残って、中身が先に抜ける。

だからCoeliaでは、来てくれる人を「お客様」ではなく一緒に創る仲間として扱っています。当日の進行を全部埋めない、次にやることを場で決める、やってみたいと言った人にそのまま渡す。運営の速度としては明らかに落ちます。落としている理由は、6つの原則の4と同じです。力が中央へ集まらないほうを選んでいます。

この判断が成果に効いたかは、まだ数字で確かめきれていません。参加後の行動まで追えている範囲が狭いので、いまは「そう設計している」というところまでです。

明日、5分でできること

原文の主張に賛成するかどうかは、いったん置いて大丈夫です。使えるかどうかを確かめる手順のほうを書きます。

1. 直近1週間で、AIに任せた判断を3つ書き出します。文章の言い回し、実装の方針、優先順位の付け方、どれでも構いません
2. それぞれについて、「なぜそう決めたか」があとから辿れる場所に残っているかを見ます。チャットの履歴の中だけにあるものは、残っていない側です
3. 辿れないものが1つでもあったら、そのうち戻せないものを1つだけ選んで、記録の置き場を決めます。ファイル1つで十分です

3つとも辿れたなら、あなたのフローは原則6を満たしています。そのときは次の問いへ進めます。その記録を、あなた以外の誰かが読めますか。ひとりだけが読める記録は、集中しているのと同じ状態です。

速くなるのは、任せた作業の分だけです。決める場所を手放した分ではありません。

AIをどこまで使うか、どこから人が決めるか。この線の引き方は、職種にも会社の規模にもよらず、けっきょく自分の持ち場で決めることになります。AI前提の時代に20代がどうキャリアを組み立てるかは20代エンジニアのキャリアの記事に、業務のフローへAIを入れる手順は生成AIの業務フローの作り方に分けて書きました。

よくある質問