Peekaboo:AIエージェントのためのmacOSスクリーンショット・インターフェース


Peekaboo:AIエージェントのためのmacOSスクリーンショット・インターフェース

steipete/Peekaboo

2026-02-03

本日のテーマは、macOSエンジニアやAI開発者の間で今アツい視線を浴びているツール、「Peekaboo」(ピーカブー)です!

「AIに自分の画面を見せて、指示通りに操作してもらいたい…」そんな願いを叶えるこのツールの正体を、エンジニア視点で紐解いていきましょう。

答え
AIに「目」を授ける、macOS専用のスクリーンショット制御ツールです!

通常のスクリーンショットと違うのは、CLI(コマンドライン)やMCP(Model Context Protocol)として動作する点。つまり、人間が「カシャッ」と撮るのではなく、プログラムやAIエージェントが自律的に「今の画面の状態」を把握するために設計されています。

MCPサーバー対応
Claude DesktopなどのAIエージェントにそのまま組み込めます。

VQA(視覚応答)連携
画像を撮るだけでなく、ローカル(Ollamaなど)やクラウドのAIに「この画面に何が映ってる?」と解析させるところまで一気に自動化できます。

特定アプリ狙い撃ち
システム全体だけでなく、特定のウィンドウだけをターゲットにできます。

答え
Swift製なので、ビルドしてパスを通すだけ!

まずは、お使いのマシンに Xcode が入っていることを確認してくださいね。

リポジトリをクローン

git clone https://github.com/steipete/Peekaboo.git
cd Peekaboo

ビルド

swift build -c release

実行ファイルの配置
ビルドされたバイナリ(.build/release/peekaboo)を /usr/local/bin などに移動させれば、どこからでも peekaboo コマンドが叩けるようになります。

答え
CLIから叩くのも良し、エージェントに任せるも良し!

peekaboo capture --path ./screenshot.png

ここがPeekabooの真骨頂!例えば「今のブラウザに何が映ってる?」とAIに聞く場合

peekaboo vqa --prompt "この画面に表示されているエラーメッセージを書き出して" --model gpt-4o

Claude Desktopの config.json に以下のように追記すれば、AIがあなたの画面を自由に「見る」ことができるようになります。

{
  "mcpServers": {
    "peekaboo": {
      "command": "path/to/peekaboo",
      "args": ["mcp"]
    }
  }
}

答え
GUI操作の自動化(RPA)が、AIによって劇的に簡単になるからです!

これまでは、画面上のボタンの位置(座標)をプログラムに教える必要がありました。しかし、Peekabooがあれば

AIがPeekaboo経由で画面を見る。

AIが「あ、右上に送信ボタンがあるな」と判断する。

AIが次のアクションを決定する。

という、より人間に近い自律的なワークフローが組めるようになるんです。まさにAIエージェント時代の「必須アイテム」と言えますね!

いかがでしたか?Peekabooを使えば、あなたのmacOSライフがもっと自動化されること間違いなしです!


steipete/Peekaboo




ごちゃごちゃメニューバーはもう卒業!macOSエンジニアのための「Ice」徹底解説

Jordan Baird/Ice は、macOSのメニューバーを管理するための強力なツールです。たくさんのアプリをインストールしていると、メニューバーのアイコンが増えすぎて見にくくなりがちですよね。そんな時にIceが活躍します。まるで魔法のように、メニューバーをスッキリと整理し、必要な時だけアイコンを表示させることができます。


RPAの次世代形:trycua/cuaが提供する安全なデスクトップAIエージェントインフラストラクチャ

今回は、GitHubで注目を集めているプロジェクト「trycua/cua」(読み方クーア、とされています)について、ソフトウェアエンジニアの視点から、その魅力と活用法をわかりやすく解説しますね。trycua/cuaは、「Computer-Use Agents(コンピューター利用エージェント)」のためのオープンソースのインフラストラクチャです。簡単に言えば、AIエージェントがWindows、macOS、LinuxといったデスクトップOS全体を制御できるようにするためのサンドボックス、SDK(開発キット)、評価ツールを提供しています。


SDWebImage:iOS開発を加速させる非同期画像処理の「高速補給船」

ソフトウェアエンジニアの視点から、このライブラリがどれほど強力で、あなたの開発をスムーズにするのかを、宇宙飛行士のように冷静かつ情熱的に解説しますね!SDWebImageは、iOS/macOSなどのAppleプラットフォームで、インターネット上の画像を扱う際に、開発者が面倒を見るべき多くのタスクを肩代わりしてくれる超強力な画像処理ライブラリです。


ネットの「今」が見える!SNIFFNETで快適なデジタルライフを

今宵も最高の体験をあなたに。私、SNIFFNETが、あなたのインターネットライフをより豊かに、そして安全にするお手伝いをさせていただきます。SNIFFNET、そう、それはまるでホストクラブのナンバーワンホストのように、あなたのインターネットトラフィックを優雅に、そしてスマートに監視するツールです。


macOSで「動かない」をなくす!エンジニアのためのLinux VM環境構築術:Lima徹底活用ガイド

Limaは、macOS上でLinux仮想マシン(VM)を簡単に起動・管理するためのツールで、特にコンテナの実行環境として注目されています。要するに、Limaは「macOSで、本番に近い、手軽で高速なLinuxコンテナ開発環境」を手に入れるための強力なツールと言えます。


モビルスーツ級の高性能!k2-fsa/sherpa-onnx徹底解剖と実戦導入ガイド

「連邦の白いヤツ」...ではなく、ソフトウェアエンジニアの皆さん!今回は、オフラインでの音声処理を強力にサポートするライブラリ k2-fsa/sherpa-onnx について、その能力と活用法を、さながらモビルスーツの機能解説のように、分かりやすく、フレンドリーに解説していきます!


エンジニアの味方!macOS最適化ツール「Mole」導入ガイド 〜もしもドラえもんがITコンサルだったら〜

今回は、Macを爆速でクリーンアップしてくれる強力なツール「Mole」について、エンジニア視点で解説します。せっかくなので、某・国民的SFアニメの「青いネコ型ロボット」と「メガネの少年」によるショートコント風にお届けしますね!のび太「ドラえも〜ん!Macが重すぎて、ジャイアンとのオンライン対戦に負けちゃうよ〜!何とかして〜!」


開発者のための証明書作成ツール「mkcert」徹底解説

そこで、今回紹介する新兵器が mkcert だ!まず、なぜローカル開発でHTTPSが必要なのか、そこから話そう。本番環境とのギャップをなくす 多くの本番サービスはHTTPSを使っている。ローカル環境も同じHTTPSにすることで、本番との違いによる予期せぬバグを防げる。


macOSエンジニア必見!厳選アプリリスト「awesome-mac」の活用術

jaywcjlove/awesome-macは、ソフトウェア開発者、特にmacOSを使用するエンジニアにとって非常に役立つ、厳選されたアプリケーションとツールのリストです。プロジェクトのGitHubリポジトリにホストされており、ソフトウェア開発に必要な様々なカテゴリのツールが網羅的にまとめられています。


コントで学ぶPS4エミュレータ:ソフトウェアエンジニア的視点での活用法と導入ガイド

「え、エミュレータ?」って思った方もいるかもしれませんね。そうです、PS4のゲームをPCで動かすためのソフトウェアです。でも、今回は単にエミュレータの説明をするだけではありません。これを「万引きGメン」のコントに見立てて、その特徴や使い方、そしてソフトウェアエンジニアとしての視点から「どう役に立つのか」を、楽しく、そして分かりやすく解説していきましょう!