テック技報最新号へ →
AIコーディング

「Claude Code が最近バカになった?」は Marginlab の性能トラッカーで確かめる

Marginlab の Claude Code Performance Tracker は、最新の Claude Code CLI と最新モデルで SWE-Bench-Pro の一部を毎日50問解かせ、合格率と95%信頼区間を出している。体感の「劣化」が統計的に意味のある差かどうかを、自分で検証する前に見られる。

@AI_masaou · 投稿 2026-02-04
#ai-coding#claude-code#ベンチマーク#品質監視#モデル

見方

  • 日次(50問)・7日(350問)・30日(1,200問)の合格率が出る。日次はぶれが大きく、50問だと ±12.8% 以上の差でないと有意にならない。判断は7日・30日の値で
  • Claude Code CLI そのもので動かしているので、モデルの変化だけでなくハーネス(Claude Code 本体)の変化による劣化も拾える
  • 過去には Opus 4.7 の時期に、Claude Code 2.1.150〜2.1.152 で1週間ほど有意な低下を検出し、2.1.153 で戻ったと報告している
  • 劣化を検出したときのメール通知もある(投稿より)

使い方

  1. 「最近おかしい」と感じたら、まずトラッカーの7日・30日の推移を見る
  2. 差が出ていれば、その期間の Claude Code のバージョンを CHANGELOG と照らし、必要なら一つ前のバージョンに固定して比べる
  3. 差が出ていなければ、自分の側(CLAUDE.md の肥大、MCP の増加、コンパクトの多発)を疑う

注意点

  • 2026-09-24 から Opus 5.5(high)の新しい基準値を集めていて、劣化の判定は止まっている(2026-09-29 更新の表示)。判定が再開したかはページで確かめる
  • SWE-Bench-Pro の一部での結果。自分のコードベースや言語での性能と同じとは限らない
  • 第三者の独立したサービスで、Anthropic とは関係がない

出典

X の元の投稿を開く