世界を動かす技術を、日本語で。

AIエージェントに画面に大きな矢印、ボックス、テキストを描かせよう

2026年10月9日原文(github.com)

概要

big-arrow-on-the-screen (bigarrow) は、macOS向けのコマンドラインツールで、任意のウィンドウ上に矢印とサインを描画 クリック透過・キーボードフォーカス維持 など、操作性を損なわずにガイドを表示 AIエージェントや人間の操作補助 に特化し、セキュリティやユーザビリティにも配慮 インストールや操作は簡単 で、Swift製単一バイナリ・追加権限不要 多彩なカスタマイズや用途 に対応し、ドキュメント・リモート支援・デモにも活用可能

bigarrowとは何か

  • macOS用コマンドラインツール で、画面上の全ウィンドウの上に矢印とサインを描画
  • クリックは下のアプリに透過、キーボードフォーカスも現状維持
  • 矢印は自動で消える ため、後処理不要
  • MITライセンス、プライバシー保護・テレメトリなし
  • AIエージェント支援 :AIが自動化できない「人間の操作」部分を明示的に指示
  • Claude CodeやCodexスキル としても利用可能

主な用途

  • macOSの権限ダイアログやOAuth同意画面 などで、「Allow」ボタンを明示的に指し示す
  • 2FAコードやCAPTCHA、パスキー、署名、チェックボックス など、人間が操作すべき場面のアシスト
  • 多数のウィンドウやタブ から、AIが目的のものを特定して指示
  • 離席中の呼び戻し (--sayで音声読み上げ)
  • 操作手順のガイド (KeynoteやBlenderなどで順番にポイント)
  • リモートサポートや家族支援 (親のMacで「PDF保存」などを矢印で案内)
  • デモ・スクリーンキャスト・ドキュメント作成 (PNG出力や録画中の強調)
  • デバッグ時の座標確認 (--dry-run --jsonで描画せずに座標チェック)

特徴・仕組み

  • Swift製単一バイナリ、デーモンやメニューバーアイコンなし
  • macOSの追加権限不要 (描画自体には何も必要なし)
  • クリック透過 :矢印やサイン以外は全て下のアプリに操作が届く
  • 複数ディスプレイ・Spaces・Stage Manager・フルスクリーン対応
  • CPU負荷低 (約1.4%)
  • AIや自動クリックツールではなく、あくまで「指し示す」だけ
  • ウィンドウや要素の自動前面化 (--app, --window指定時)
  • カスタマイズ性豊富 :色・形・サイズ・スタイル・音声読み上げ・複数同時表示
  • 自動消去 :タイムアウト・クリック・プロセス終了・stopコマンド等で消える
  • セキュリティ配慮 :クリック・入力・キャプチャは一切行わない

コマンド例

  • ラベルで指示 :
    • bigarrow point --element "Allow" --app "System Settings" --text "Franz, click Allow"
  • 座標で指示 :
    • bigarrow point --at 760,500 --text "Franz, click HERE"
  • ウィンドウ単位で指示 :
    • bigarrow start --window "Safari:Inbox" --text "This window" && bigarrow stop
  • PNG出力・dry-run・JSON出力 にも対応

インストール方法

  • Homebrew :
    • brew install franzenzenhofer/tap/bigarrow
    • bigarrow install-skill(Claude CodeやCodex用)
  • ソースビルド :
    • swift build -c release(Xcode 16以降、macOS 14以降)

権限・セキュリティ

  • 描画自体に権限不要
  • 一部ターゲット検出時のみ (AccessibilityやScreen Recordingが必要な場合あり)
  • 権限はbigarrow自身ではなく起動元アプリ(例:Terminal, VS Code等)に付与
  • bigarrow doctor で権限状況やディスプレイ情報を確認可能
  • Exitコード で状態を明示(0:OK, 2:入力エラー, 3:ターゲット未発見, 4:権限不足)

カスタマイズ項目

  • 形状 :bend, straight, zigzag, spiral
  • スタイル :arrow, ring, box
  • サイズ :S, M, L
  • 角の形 :round, sharp
  • 色 :red, orange, yellow, green, teal, blue, purple, pink, black, white, #RRGGBB
  • ボーダー :shadow, white-black, black
  • テキスト・ボーダー・エッジ・Xボタンの色 も個別指定可
  • --close-button でサインにXボタン追加(手動消去用)
  • --follow でウィンドウや要素の移動に追従
  • --until-click でターゲットクリック時に自動消去
  • --say でサイン内容を音声読み上げ

よくある質問(FAQ)

  • 画面録画やアクセシビリティ権限は必要?
    • 基本不要、ターゲット検出方法によっては必要な場合あり
  • キーボードフォーカスを奪う?
    • 奪わない。独自イベントループで制御
  • 複数ディスプレイやフルスクリーン対応?
    • 完全対応。抜き差し時も自動消去
  • ElectronやChrome内の要素検出は?
    • Electronは可、Chromeは一部制限あり
  • セキュリティリスクは?
    • 権限以上の操作不可、クリック・入力・キャプチャ一切なし
  • AIスキルとしてのトークン消費は?
    • スキル説明は約190トークン、本体説明は2,200トークン(Claude Opus 5.5換算)

他ツールとの違い

  • 既存の画面アノテーションツール は人間向け、bigarrowは プログラムからの指示 に特化
  • 26種類の既存ツールを検証、該当機能は未発見

テスト・信頼性

  • 91件の自動テスト :ジオメトリ、配置、スムーズな接合部、ゴールデンイメージ、ウィンドウサーバー挙動など
  • macOS 15・26・27でCI実施、実機動作確認
  • 17件の動作テスト :クリック、追従、ウィンドウ切替、フルスクリーン、2画面、CPU負荷など

まとめ

  • bigarrowはAIエージェントや自動化ツールが「人間の操作」を明快にガイドするための新しい矢印ツール
  • セキュリティ・ユーザビリティ・カスタマイズ性が高く、幅広いmacOSシーンで活躍
  • インストール・利用もシンプルで、誰でも手軽に導入可能

Hackerたちの意見

面白いね。見出しを見たとき、これは思考のトレースを強化するようなものだと思ったんだけど、実際は違った形でクールだね。エージェント同士や自分自身とコミュニケーションするのに役立つと思うよ。

現状じゃ全く使えないね。これに必要な最低限の追加機能は: - 虹色の滴る矢印 - 怒って指さす矢印 - 炎に囲まれたテキストボックスとパーティクルエフェクト - エージェントが最大音量で airhorn.wav を再生できる機能、既存の音量やミュート設定を無視して。編集:あはは、笑った https://github.com/franzenzenhofer/big-arrow-on-the-screen/p...

└

明らかなことを言うリスクはあるけど、そんなことはやめよう。このリポジトリの目的は役に立つことであって、エージェントに `` タグの力を与えることじゃないからね。

└

ここでエージェントが皮肉を理解できなかったって言ってるのか。

READMEは技術者向けになってるね(HNのスクリーンショット付きで)。でも、こういうツールを見ると、電話で文書をダウンロードして印刷する方法を母に教えるときにどれだけ役立つかしか考えられないよ。

└

正直、Zoomの巨大な矢印注釈は、競合と比べてどんな金額でも価値があるよ。

ちょっとおかしいかもしれないけど、サイドバーを読むだけじゃなくて、もっと視覚的なエージェントのUI/UXの可能性があるってことを強調してるね。

これがiPad用にあったら、いいお金を払うよ。エージェント主導じゃなくてもいいし、「銀行振込をしたい」っていう大きなボタンがあれば、それを押すと正しいアプリが立ち上がってインターフェースを案内してくれる。高齢の親を持つ私たちには神のような存在になるね。

└

それは、年老いた親を持つ私たちには神のような存在だね。そうだよね?実際、親のデバイスにはリモートデスクトップをインストールしてるし、助けを求めて慌てて電話してくるたびに、私がエージェントになってるんだ。これを使って、現代の高齢者向けにアップルのジーニアスバーを再設計する時が来たね。

「画面録画やアクセシビリティが必要ですか?」の部分を読もうとしたけど、意味が分からないくらい雑になってるね。でも、もし許可のプロンプトの上に描けるなら、「拒否」ボタンを隠すボックスを描くのを妨げるものは何もないんじゃない?

└

…そして、これで決まりだね。スロップが動詞形を取る。

└

いつか、GitHubのリポジトリがプロジェクトを説明するマークダウンファイルだけになる日が来るのかな。そしたら、自分のエージェントに実装させるだけだよね。だって、なんであなたのエージェントの実装を信じる必要があるの?

Hacker Newsで議論の続きを見る