本文へ
ハクソク

世界を動かす技術を、日本語で。

クロードが何かを測定できるようになると、それをより速くすることができる

元記事: 原文(claude.dev)

概要

  • 2023年8月、 claude.ai とデスクトップアプリのユーザー体験を約3倍高速化
  • Slackチャンネル で全ての進行を一元管理し、Claudeがスレッドごとに対応
  • 主要なユーザージャーニー4つに集中し、 待機時間を大幅短縮
  • 計測とベンチマーク を徹底し、3,000件以上の改善を事故ゼロで実施
  • 本記事では 実施内容・計測方法・安全な改善ループ を解説

claude.ai高速化スプリントの全貌

  • ユーザーからの「遅い」という声を受け、 2週間で体感速度を3倍向上
  • Slackの専用チャンネル で全てのやり取りと進捗管理
  • Claudeを全スレッドに参加させ、 リアルタイムでボトルネック特定・改善提案
  • 主要ユーザー行動4つ(アプリ起動、会話開始、既存会話ロード、メッセージ送信)に注力
    • 合計13指標で ベースラインを厳密に計測
  • 75パーセンタイルでの改善例
    • claude.ai初回ロード: 3.1秒→0.55秒
    • Claude Code新規セッション: 0.8秒→0.3秒
    • Claude Cowork Cloudセッションロード: 2.6秒→0.73秒
  • 毎日 数万ユーザー時間 の待機削減を実現

計測・ベンチマークと改善手法

  • Claude Tag(ベータ) と社内研究モデル(Opus 5.5相当)を活用
  • Claudeが ボトルネック発見・ベンチマーク作成・改善実装・デプロイ監視 を一貫して担当
  • 施策ごとに ミリ秒単位の効果予測 を行い、目標値を設定
  • 2週間で 13指標中12を3日目で達成
  • 例:HTMLに静的コンポーザーを組み込み、React初期化中でも入力可能に
  • V8コードキャッシュ のプリコンパイルでデスクトップの起動高速化
  • 会話間の移動高速化のため、コンポーザーのマウント維持やセッションのプリフェッチを実施
  • Claudeが 新たな改善機会を自律的に発見・提案 する仕組みも導入

ラボでのパフォーマンス計測とCIガードレール

  • デプロイ頻度より速いイテレーション を目指し、ラボでの計測手法を多様化
  • Valgrind+Node --predictable でJSインストラクションカウントを取得
  • ブラウザ経路ではReactコミット数、V8関数呼び出し数、DOM変異数なども活用
  • ベンチマークは2つの役割
    • Claudeが改善できるラボ指標
    • CIでのガードレール(数値は下がる方向にしか進まない)
  • ユーザー体感(壁時計時間)と指標の相関性をClaudeが検証
  • 例:会話メッセージツリー組み立てやコード出力スキャナのホットパスで指標削減
    • インストラクション数48%/31%削減、体感時間78%/44%短縮

スレッドごとの改善ループ

  • Slackチャンネル内で全ての議論・改善・レビューが進行
  • ループの流れ
    • エンジニアが遅延箇所をスレッドで報告
    • Claudeがフロー解析・ベンチマーク作成
    • ラボで改善後、PR提出(リスク別に複数用意、ユーザー影響はフラグ管理)
    • デプロイ後、Claudeが実地データ監視・ベンチマーク値を更新
    • 改善がなければフラグを戻して再挑戦
  • 例:サイドバーの行が遅れて表示される問題を、Layout Instability APIで直接検知・修正
  • 1スレッドで50〜100件の最適化PR が出るケースも

水平展開と自律的スケーリング

  • ループを複数スレッドで同時進行、新たな改善機会をClaude自身が発見・着手
  • 例:Reactフックの多重呼び出しや不要なstyle再計算、隠れたlocation.reload()の検出と修正
  • 日によって200件以上の変更をデプロイ
  • 新しいベンチマーク・テレメトリの追加で 改善の連鎖を促進

安全な高速改善のためのガードレール

  • 全PRは自動レビュー+人間の承認
  • 最適化前に必ずユニットテストを追加
  • ユーザー影響のある変更は 短期間のフラグ管理 で段階的リリース
  • フラグが増えた場合は 専用管理スレッド で整理
  • 全ての進行がSlackチャンネルで可視化 され、他チームも参加可能

まとめと今後の展望

  • 計測できるものは必ず改善できる という教訓
  • Claudeとの協働により 爆発的な改善速度と安全性 を両立
  • 今後も 新たな計測指標と自律的な改善ループ の拡大を目指す方針

提供: ハクソク · 要約更新:

AIによる日本語要約です。内容は原文とあわせてご確認ください。

Hacker Newsの議論を読む

Hackerたちの意見

この書き込みは、月曜日に投稿した「エージェントにコードを速く作らせるけど、壊さないように制約を設ける」という内容と偶然にも一致してるね。フロントエンドのUI最適化は、厳密なアルゴリズムの最適化よりも少し難しいけど、エージェントに視覚的なリグレッションを追跡するツールを作るように促すのは十分すぎるくらい効果的だよ。主な問題は(少なくともGPTモデルに関しては)、パディングやマージン、ネガティブスペースの使い方をすごく明確にしないといけないことだね。とはいえ、今はエージェントがそれらをうまく扱えるようになったから、フロントエンドのJSフレームワークを避けて、HTML/CSS/バニラJSだけでどこまで速く進めるか試してみるつもり。

└

HTML/CSS/バニラJSだけで、2017年までこんなウェブアプリを作ってたんだ。React + TypeScriptの世界に入ったのはその後。B2Bなら結構進めるよ、サーバーでHTMLをレンダリングするのは速いから!バックエンドにはRailsを使ってたから、テンプレートやパーシャル、共有チャンクで管理が楽で、一貫したUIをあまり繰り返さずに持てたんだ。大変なのは、無限スクロールのテーブルを作る必要があるときで、バルク選択やカラムのインプレース更新が必要なときだね。まあ、ちょっと極端かもしれないけど、フロントエンドコンポーネントを作る方が楽になると、基本的にUI全体にJavaScriptフレームワークを使わざるを得なくなる。しかも、ほとんどがオールオアナッシングなんだ。最後にチェックしたのは数年前だけど(その時、最適化されてないフロントエンドを受け入れることにした)、上記のようなプログレッシブエンハンスメントをする良い方法はなかった。ページはサーバーでHTMLとしてレンダリングされて、いくつかのコンポーネントがフルフロントエンド管理になる感じ。で、StimulusやHTMXみたいなフレームワークは僕にはあまり解決策にならない。もっと宣言的なものが欲しいんだ。DHHにはちょっとイライラしてる、彼があまりにも反JavaScriptの方向に進んだせいで、Railsが注目を失った大きな要因の一つだと思う。バックエンドでは、まだこれほど簡単で楽しいものを見つけられてないな。

Opus 5.5をちゃんと動かしてみたらどう?コードレビューを準備させようとしたんだけど、拒否された上に、他のClaudeが書いたプロンプトが何だったのかすら教えてくれなかった。なんで?別のモデルにセッションを読ませたら(「もっとバカな」モデルは問題なく処理できたけど)、その中に「reasoning」って単語が入ってたって説明されたよ。これがAnthropicの何十億ドルもの研究の全てだよ。「reasoning」って単語が入ったプロンプトは、Claudeがどう推論するかを探ろうとしてるってこと!こんなモデルはQAを通過するべきじゃなかったし、リリースされるなんてありえない。

└

モデルの問題について文句を言うのが、ハーネスやサイトに関する投稿でちょっと変な気がするんだけど?

└

フラストレーションは理解できるけど、批判的思考が欠けてるね。特に「どうしたら…」って始めるときは。このブログ記事はフロントエンドのパフォーマンスについてだから、Swiftのブログ記事に「Airpodsのノイズキャンセリングはどう?」ってコメントするのと同じだよ。確かにどちらもAppleだけど、全然違うチームなんだから。

└

過去1週間で同じことが5、6回起きたよ。彼らは思考の連鎖を引き出すようなことを防ごうとしてるみたい。毎回トリガーされたのは、彼ら自身のモデルが書いたプロンプトによるものだった。自己中心的な監視はもうやめてほしい。モデルの蒸留を「攻撃」と呼ぶのは、本当に笑えるよ。彼らが私たちの仕事からモデルを「蒸留」して、今も続けてるのにね。AIはここに残るし、すごく強力なツールだと思うけど、これらの会社、特にダリオとオルトマンには、絶対に管理してほしくない。

└

多分、システムプロンプトの抽出や蒸留攻撃をやってると思ってるんじゃない?それで、君がやろうとしてるワークフローって何なの?コードレビューをしてるけど、他のAIモデルのプロンプトやセッション履歴を読ませてるの?コードレビューなのか、セッション履歴の振り返りなのか、どっちなの?

└

別のモデルにセッションを読ませた時(「もっとバカな」モデルは全然問題なかったけど)、その中に「推論」という言葉が含まれているって説明してた。説明したのか、それとも妄想したのか?

└

: https://claude.dev/blog/getting-the-most-out-of-opus-5-5/

今日初めてOpus 5.5を使ってみたけど、書き方がもっとマシになるかと思ったら、全然ダメだった。なんで直してくれないの?

└

Opus 5.5の書き方は5.0よりもずっと簡潔だね。

Anthropicの社員がAIに対して見せる幼稚な無関心さ(おかしい、病気、料理、…)は本当に奇妙だよ。

Hacker Newsで議論の続きを見る