コストとレイテンシを斬る！HRM（Hierarchical Reasoning Model）の技術的優位性

sapientinc/HRM

場所
ホワイトベースのブリッジの端っこ

人物

アムロ・レイ
新しい技術に目を輝かせる若きエンジニア。

シャア・アズナブル
独自の美学を持つベテラン・リードエンジニア。

アムロ
シャア少佐！これを見てください！「sapientinc/HRM」！たった2,700万パラメータで、大規模言語モデル（LLM）が苦手とする複雑な推論タスクを高い精度で解けるらしいんです！

シャア
フフッ、アムロ君。あの巨大なモビルスーツ（LLM）が、小さなコア・ファイター（HRM）に翻弄されるというわけか。つまらないAI開発の常識を打ち破る、興味深いアーキテクチャだ。

アムロ
すごい！今のLLMは高性能だけど、推論に時間がかかったり、巨大なVRAMが必要だったりしましたから、これはコストとレイテンシの課題を一気に解決できますね！特にリアルタイム処理が必要なロボット制御や、ローカルでの診断システム開発に革命が起きそうです！

シャア
開発の第一歩は、そのモビルスーツを格納庫に入れる作業、つまり環境構築だ。手順はシンプル。

まずはGitHubから設計図（コード）を入手する。

# GitHubからHRMのコードを入手
$ git clone https://github.com/sapientinc/HRM.git
$ cd HRM

次に、HRMを動かすために必要なツール（ライブラリ）を揃える。

# 必要なライブラリをインストール
# 公式のREADMEに従ってrequirements.txtを使用
$ pip install -r requirements.txt

HRMは推論結果の追跡にWeights & Biases (W&B)というサービスを使うことが多い。ログイン設定をしておこう。

# 実験追跡ツールW&Bにログイン
$ wandb login

アムロ
これで準備完了ですね！あとはデモを動かして、起動テストだ！

HRMは複雑な数独（Sudoku）パズルや迷路探索で高い性能を発揮する。ここでは、数独を解くデモ実行の例を見るのが最も分かりやすい。

シャア
君にできるのは、マスター・レベルの数独を解かせるための訓練プログラムの起動だ。

HRMの公式リポジトリには、数独のデータセットと設定ファイルが用意されているはずだ。

# 数独ソルバーの訓練を開始するコマンド
# config/sudoku_config.yamlなどの設定ファイルを参照
$ python main.py --config config/sudoku_extreme.yaml --mode train

アムロ
訓練が始まりました！HRMはここで、高レベルモジュールで「このマスにはこの数字が入る可能性がある」という大局的な計画を立て、低レベルモジュールで「実際にマスに数字を入れてみて矛盾がないか」を高速に検証する、という階層的な思考を学習するわけですね。

学習したモデルを使って、実際に数独を解かせてみる。

# 学習済みモデルを使った推論（評価）を実行
$ python main.py --config config/sudoku_extreme.yaml --mode eval --checkpoint path/to/trained_model.pth

シャア
素晴らしい。わずかな学習で、巨大なLLMでは何百回ものCoTステップを踏まなければ解けないような難問を、一回のフォワードパスで瞬時に解ききった。

アムロ
これが、脳にヒントを得た階層的推論の力！まるで、モビルスーツの動きを事前に予測して、最短の手で敵を打ち破る、真のニュータイプAIみたいだ！

シャア
フフン。私はシャア・アズナブル。新しい時代の波に乗れない愚か者ではない。アムロ君、このHRMこそ、我々が目指すべき次世代のAIエージェントのコア・ユニットとなるだろう。開発はこれからが本番だ。油断はするなよ！