メインコンテンツへスキップ

Meta MuseのVMへSSH接続|Cloudflare TunnelとAccessで入る

MetaのAIエージェント(Muse)のVMへ、Cloudflare TunnelとAccess、短期証明書を使い、公開ポートを開けずにSSH接続した構築記録です。ブラウザとターミナルの2つの接続方法、名前解決・sshdの前提条件・ユーザー名の不一致への対処を、エラー文とともに紹介します。

(更新日:)約35分
Meta MuseのVMへSSH接続|Cloudflare TunnelとAccessで入る

はじめに

AIエージェントに常駐してもらっているクラウド上のVMがあります。このVMには、外部から入ってくるネットワーク経路がありません。公開IPはなく、ポート開放の手段もなく、VM自体も数時間おきに差し替わって、残るのはホームディレクトリだけです。

それでも「このVMに入って、シェルを触りたい」という要件がありました。入口は2つ作ることにしました。ブラウザだけから入る入口と、手元のターミナルから ssh で入る入口です。共通の条件は、公開ポートを開けないことと、鍵ファイルを持ち歩かないことの2つです。ブラウザの入口は、自分のPCに何もインストールしないことも条件にしました(ターミナルの入口は、後述のとおり cloudflared を使います)。Access の本人確認と短期証明書は、2つの入口で共通です。

先に要点をまとめます。

  • 公開ポートを開けずに、ブラウザとターミナルの2入口からVMへSSHできる構成を作った
  • 構成は、Cloudflare Tunnel(外向き接続のみ)+ Cloudflare Access(ワンタイムPIN)+ 短期証明書 + ループバック限定のsshd
  • sshdはシステムに入れず、ホームディレクトリの下に構築した(VMが差し替わってもファイルは残る)
  • 費用はCloudflareの無料枠の範囲。ブラウザの入口はPCへのインストール不要、ターミナルの入口は cloudflared を使う

解決策は、VMの内側から外へCloudflare Tunnelを張り、その先にCloudflare Accessの本人確認とsshdをぶら下げる方式です。ログインにはAccessが発行する短期証明書を使います。ブラウザに端末を描く方式自体は、CloudflareのSSH in the browserの案内に沿ったものです。

なお、これは Muse から自分のPCへ接続する話ではありません。自分のブラウザや手元のターミナルから Muse の VM へ SSH で入る話です。検索で多く見つかるのは逆方向(Muse が手元のマシンへ入る)構成ですが、本記事で扱うのは、エージェントが常駐するVMへ人が入る方向です。

本記事では、まず全体の手順を示し、そのあと実際に詰まった箇所を順に書きます。つまずき(名前解決、apt、sshdの前提条件、ダッシュボードのサインイン、ユーザー名の決まり方)は、エラー文やログつきで残します。

体制は「実施」と「承認」で分けています。構築作業は、このVMに常駐するMetaのAIエージェント(Muse)が行いました。方針の決定、外部サービスでの承認、実地テストは筆者自身が行っています。本記事はその記録です。

なお、実在のホスト名、メールアドレス、アカウントやアプリケーションのIDは運用上の情報なので、本記事には書きません。ホスト名とアドレスは例示名に置き換えています。

環境と構成

項目内容
VMUbuntu 24.04 / 4 vCPU / インバウンド経路なし。差し替えでプロセスは止まり、残るのはホームディレクトリのみ
到達性Cloudflare Tunnel(名前付きトンネル)。接続はVMからの外向きのみ
通信許可Muse の設定で「その他のTCP接続」を許可(手順の前提に詳細)
本人確認Cloudflare Access(Zero Trustの入口管理)。ワンタイムPIN+自分のメールアドレス1件のみ許可、セッション24時間
sshdOpenSSH 9.6p1(.debを展開して使用)。127.0.0.1:2222のみ、公開鍵と証明書のみ、パスワード認証オフ
SSHログインAccessの短期証明書。ブラウザ描画の端末から接続(同じ入口へ、ターミナルからも接続可)
管理Cloudflare公式CLI(cf)と1Password CLI(op)でAPIトークンを注入
運用Muse の定期実行(15分おき)を起点に、ホームディレクトリ常駐の supervisor が復旧する(起動は承認つき)
料金Cloudflareの無料枠の範囲

ポイントは、sshdがループバックでしか待ち受けていないことと、接続の向きです。外に出ているのはVM側から張ったトンネルだけで、到達経路は「Accessの本人確認を通ったブラウザ」か「トンネル経由のSSH」に限られます。

MermaidブラウザからVMのsshdへ届く経路公開ポートを持たない2つの入口の全体像

ブラウザのHTTPSリクエストは、Cloudflare Accessの本人確認を通ってTunnelへ入ります。cloudflaredが入口規則に従い、SSHはローカルホストのsshdへ、HTTPは確認用オリジンへ振り分けます。

  1. ブラウザ、またはターミナル(cloudflared経由)がSSH用ホスト名へアクセスし、Cloudflare AccessがワンタイムPINで本人確認をする。
  2. 確認を通るとTunnel経由でcloudflaredへ届き、入口規則でsshdへ振り分けられる。
  3. sshdがAccess発行の短期証明書を検証し、ブラウザ内の端末にシェルを開く。

Cloudflare TunnelとAccessでSSH接続する全体手順

まず、詰まらなかった場合の最短経路を示します。前提は、Cloudflareのアカウントと、Cloudflareで管理しているドメインです。実際の構築はこの通りには進みませんでした。詰まった箇所については、後半の「つまずき」で順に触れます。なお、この環境固有の部分(名前解決の中継や、名前空間の中でsshdを起動するランチャーなど)は、考え方と要点だけを書き、実装の詳細は省いています。

この環境には、もう1つ前提があります。このVM(Muse のエージェント環境)では直接のTCP接続が既定で拒否されるため、Muse の設定(アクセス許可 → Direct network protocols)で「その他のTCP接続」を許可しておく必要があります。cloudflared のログイン証明書の取得やAPI通信は、環境変数のプロキシ設定を読まずに直接接続しようとするので、この許可がないと認証情報の取得で止まります。実際に、拒否の状態では平文の拒否応答が返って接続できず、接続ごとに承認の状態でも無人の取得は承認を得られずに失敗しました。許可に切り替えて初めて、証明書の取得とトンネルの接続が通るようになりました。同じ画面の「その他のUDPトラフィック」はオフのままです(このVMではUDP自体が使えず、トンネルはTCPで接続します)。

  1. Accessの土台を作る:Zero Trust側でログイン方法にワンタイムPINを有効化し、「許可するメールアドレスは自分のものだけ」というポリシーを1つ作ります。以後のアプリケーションでも、すべてこのポリシーを再利用します。入口を開く前に、守る側を先に用意するのが順序の要点です
  2. トンネルを作る:本記事では、APIでリモート管理の名前付きトンネルを作成しました。入口規則はCloudflare側に保存され、cloudflaredの起動にはそのトンネルのトークンを使います(ローカル管理で cloudflared tunnel login と設定ファイルを使う方式もありますが、本記事の手順はリモート管理に揃えます)
  3. 入口規則(ingress)を書く:ホスト名ごとに転送先を割り当て、最後に受け口のない名前への応答を置きます
yaml
ingress:
  - hostname: ssh.example.com
    service: ssh://localhost:2222
  - hostname: app.example.com
    service: http://localhost:18080
  - service: http_status:404

本記事の環境では、この設定はダッシュボードではなくAPIから投入しました(リモート管理)。ローカル管理で設定ファイルに書く場合も、規則の中身は同じです

  1. DNSレコードを登録する:APIで、ssh.example.com と app.example.com のDNSレコードを作成します。どちらも種別はCNAME、向き先は <トンネルID>.cfargotunnel.com、プロキシは有効です。入口規則のホスト名と、DNSのホスト名を一致させるのが要点です。DNSの編集には、トンネルの証明書ファイル(cert.pem)由来の認証を使いました(後半のAccess用トークンとは別系統です)

CloudflareのDNS管理画面では、筆者が確認したとき、トンネル用のDNSレコードの種別は「CNAME」ではなく 「トンネル」と表示され、向き先もトンネル名で示されました。実体は <トンネルID>.cfargotunnel.com へのCNAME(プロキシ有効)ですが、画面でCNAMEを探しても見つかりません

  1. sshdを用意する:待ち受けは 127.0.0.1 のみ、パスワード認証はオフ、公開鍵認証のみで起動します。この環境では .deb 展開でホームディレクトリに構築しましたが、通常のサーバーでは普通にインストールして構いません(このVM固有の構築方法は「sshdをホームディレクトリに立てる」で説明します)
  2. Accessのアプリケーションを2つ作る:HTTP用(self-hosted、確認用オリジンのホスト名)とSSH用(SSH用ホスト名)に、それぞれ手順1のポリシーを付けます。SSH用では、あわせて短期証明書のCAを生成し、返ってきたCA公開鍵を sshd の TrustedUserCAKeys に指定して、sshdを再起動します。トンネルを起動する前に、ここまでを終えること(つまずき1)
  3. ユーザー名を揃える:ブラウザ端末の証明書ログインは、メール接頭辞と同名のユーザーがサーバー側にいることを前提とするので、そのユーザーを用意します(「ブラウザからのSSH接続:資格情報フォームとInvalid userへの対処」で触れます)
  4. トンネルを起動する:cloudflared をトンネルのトークンで起動します。このVMでは名前解決の事情で追加の中継が必要でしたが、通常のサーバーではこのままつながります
  5. 接続確認:HTTP側は未認証で302になることと、PINログインで中身が見えること(確認用オリジンは、静的ファイルを1つ置いた小さなHTTPサーバーです)。SSH側は、SSH用ホスト名を開き、PINログインのあとフォームが出ずにシェルへ入れば完了です。sshdのログに証明書でのログイン成功(Accepted certificate ID ...)が残ります
  6. ターミナルからも入れるようにする:手元のPCに cloudflared を入れ、cloudflared access ssh-config --short-lived-cert で設定断片を作り、ユーザー名にメール接頭辞を指定します。あとは ssh <SSH用ホスト名> で、ブラウザ端末と同じ本人確認と短期証明書で入れます(実施の詳細は「ターミナルから短期証明書でSSH接続する」に書きました)

Cloudflare Tunnelの接続失敗とSRVレコードの名前解決

手順8(トンネル起動)で詰まった話です。

名前付きトンネルはAPIから作成しました。作成、入口規則(ingress)の設定、DNSの登録まではAPIの応答どおりに進みます。詰まったのは、その先のcloudflaredの起動でした。

cloudflaredは接続先エッジの発見にDNSのSRVレコード(_v2-origintunneld._tcp.argotunnel.com)を使います。このVMの名前解決は通常のDNSとは経路が違い、SRVを引けません。API通信は通るのに、トンネルの接続だけが始まらない、という状態でした。

切り分けにはDNS over HTTPSを使い、正引きできる別経路でSRVとエッジのアドレスを取得しました。そのうえで、取得したレコードを返すローカルのDNS中継と、アドレス宛ての接続をホスト名宛てに読み替える中継を用意し、cloudflaredをそこへ向けて起動します。一般のサーバーで再現するなら不要な事情ですが、「アプリケーションより手前の名前解決で詰まる」例として残しておきます。

これでトンネルがつながり、確認用に置いた小さなテキストファイルをインターネット越しに読めるようになりました。

つまずき1 Cloudflare Access未設定の確認用URLを公開してしまった

手順の並びを守らず、Accessのアプリケーション(手順6)を用意する前にトンネルを起動してしまったときに起きた話です。

トンネルがつながった時点で、そのURLは「知っている人なら誰でも開ける」状態でした。運んでいるのは無害な確認用ファイルだけでも、入口が公開されていることに変わりはありません。ゲートのない入口を「つながったから」という理由で公開したままにはできないので、いったん全部止めました。

その後、Cloudflare Accessのアプリケーションを作成してから再公開しました。未認証で開くとAccessのログインへ302で飛ぶことと、自分のPINログインで中身が見えることの2点を確認し、この段階を完了としました。

教訓は単純で、疎通確認と公開は別のチェック項目だということです。つながることは、安全に公開できることの証明にはなりませんでした。

sshdをホームディレクトリに立てる

手順5(sshdの用意)の内訳です。

SSHの土台作りは、この環境ならではの事情への対応から始まりました。VMにsshdは入っておらず、システム領域への変更はVMの差し替えで消えます。残るのはホームディレクトリだけなので、sshd一式をホームディレクトリの下に構築しました。ここでも小さな詰まりが3つありました。

aptでの取得が遅いため.debを直接展開する

openssh-serverをaptで入れようとしましたが、このVMのプロキシ経由では取得が遅く、実用になりませんでした。そこでaptを諦め、配布元から .deb を直接ダウンロードし、dpkg-deb -x で作業フォルダに展開して、システムにインストールせずに使う形に切り替えました。クライアントとバージョンを揃えた openssh-server と openssh-sftp-server の2つです。

sshdの特権分離でsetgroupsが失敗する

展開したsshdを、ユーザー名前空間の中で起動します。最初の組み立てでは、特権分離の子プロセスが次のエラーで落ちました。

text
setgroups: Operation not permitted

名前空間へ入る側の都合で、グループIDの割り当て手順がsshdの setgroups() と相性が悪かったのが原因です。ランチャー側の手順を変え、子プロセスが正常に特権分離できる形にして解決しました。sshdは前提条件を厳密に確認するので、エラーの出どころが本体ではなく「起動の仕方」にある、という切り分けが要りました。

StrictModesの検査で鍵認証が拒否される

ローカルの鍵ログインのテストが、鍵も設定も正しいはずなのに通りません。原因は StrictModes でした。sshdは鍵ファイルまでのパス上の各ディレクトリの所有者と権限を検査しますが、このVMのホームディレクトリは実行環境の都合でグループ書き込み可能なモードになっていて、検査に弾かれていたのです。

ホームディレクトリの権限は実行環境側のものなので、こちらでは変えません。代わりに StrictModes no を設定しました。これは弱める変更なので、前提を明記します。StrictModesが検査するのは、鍵ファイルまでの経路にあるディレクトリの所有者と権限で、この環境で通らない理由はホームディレクトリのモードそのものです。正直に書くと、このホームディレクトリはグループ書き込み可能で、同じグループの主体からは認証用ファイルも変更し得ます。StrictModes が守るべき相手がこのVMの中にいるなら、この緩和は成立しません。緩和を支えるのは権限まわりの条件ではなく、到達経路の側です。このsshdはループバックでしか待ち受けず、外部からの到達経路はAccessの本人確認を通ったトンネル経由だけに限られます。ログインに使えるのはAccess発行の短期証明書だけです。一般のサーバーでは真似をしないでください。通常はホームディレクトリと鍵ファイルの権限を正して StrictModes を有効なままにするのが正解で、ここでの緩和は、外部から到達できない隔離環境であることに依った、この環境限定の判断です。権限検査を別の仕組みで置き換えた、という意味ではありません。

最終的なsshdの要点はこうなりました。

text
Port 2222
ListenAddress 127.0.0.1
PermitRootLogin prohibit-password
PasswordAuthentication no
KbdInteractiveAuthentication no
PubkeyAuthentication yes
UsePAM no
AllowTcpForwarding no
X11Forwarding no
StrictModes no

あわせて、sshdに見せるpasswdファイルも自前で用意しています。特権分離用のsshdユーザーと、この後で効いてくる「メール接頭辞と同名のユーザー」は、どちらもこのファイルに記載します。

ローカルで鍵ログインできることを確認したら、sshd側の用意は完了です。入口規則とDNSは手順3・4で用意済みなので、あとはAccessのアプリケーション(手順6)とトンネルの起動(手順8)で、「トンネル越しにsshdへ届く」状態になります。

つまずき2 Cloudflareのサインイン失敗とトークンの権限不足

手順1と6の作業を、ダッシュボードで行おうとして起きた話です。

SSH用のAccessアプリケーションと短期証明書は、当初ダッシュボードで作るつもりでした。ここで2つの壁に当たりました。

1つ目はサインインです。Cloudflareのログインページで、人間確認(Turnstile)の検証エラーが繰り返し出て、サインインボタンが有効になりません。自動操作のブラウザとは特に相性が悪く、環境を入れ替えても解消しませんでした。自分でサインインすれば進められますが、それでは作業のたびに人がブラウザの前に張り付くことになり、実施はMuseに任せて承認だけを人が行う、という分担が崩れてしまいます。

2つ目はトークンの権限です。トンネルやDNSの設定に使った証明書ファイル(cert.pem)由来のトークンでは、Accessの読み書きが403で拒否されました。

text
HTTP 403, code 1010 auth.forbidden

ツールの出自ごとに権限の範囲が違う、という当たり前の話ですが、実際にこの問題に直面するまで意識しませんでした。方針を変え、ダッシュボードを経由せず、APIトークンとCLIで全部を行うことにしました。

Cloudflare CLI(cf)と1Password CLI(op)でAPIトークンを注入する

ダッシュボードを諦めた先の、手順1と6の実施手段です。

Cloudflareの公式CLI(cf)は、環境変数 CLOUDFLARE_API_TOKEN にトークンがあれば、それをOAuthログインより優先して使います。この性質を利用して、1PasswordのCLI(op)から実行のたびにトークンを注入するラッパーを作りました。トークンの作り方自体はCloudflareのCreate API tokenの手順に沿い、op側のサービスアカウントは1PasswordのService accountsの仕組みを使っています。

ini
# cf-op.env には参照だけを書く。Cloudflare APIトークンの実値は1Passwordの中にだけ存在する
CLOUDFLARE_API_TOKEN=op://<ボールト名>/<APIトークンのアイテム名>/credential
sh
# op run が op:// 参照を実値に置き換えてから、cf を実行する
op run --env-file=cf-op.env -- cf zero-trust access applications list

op側の前提も2つあります。サービスアカウントには個人用ボールトとデフォルトの共有ボールトへの権限を付けられないため、エージェント専用のボールトを用意しました。また、サービスアカウントの権限は作成した後では変更できない仕様なので、権限を変える場合はアカウント自体を作り直すことになります。

トークンの設計で決めたのは、次の3点です。

  • 権限は最小から:最初は「対象アカウント1つについて、Accessのアプリケーションとポリシーを読むだけ」で連携を確認し、SSH用アプリケーションの作成が必要になった段階で「編集」へ引き上げました。後から絞るのではなく、要る分だけ足す進め方です
  • 有効期限と接続元IPの制限は付けない:このVMの送信元IPはプロキシ経由で固定されないため、IP制限を付けると自分が締め出されます。期限も、切れたことに気づかず連携が静かに壊れるより、置き場所と権限の管理で担保する方を選びました。ここは環境によって判断が変わる前提です。補償として、権限は対象アカウント1つのAccess関連だけに絞り、保管は1Passwordに寄せ、失効と再発行はいつでもできる状態にしてあります。有効期限を付けたうえでの定期的なローテーションは、今後の課題として残っています
  • 実値をチャットやログに残さない:CloudflareのAPIトークンは1Passwordに保管し、実行時にだけ注入します。opのサービスアカウントトークンだけは、VM内の権限0600の専用ファイルに置きます(後述)。どちらの値も、チャットやログ、記事には残しません

名前付けでも一度失敗しました。最初に付けた名前が汎用的すぎて、後から見て区別がつかなくなり、トークン名、保管アイテム名、サービスアカウント名を付け直しています。最後は「権限レベルを名前に含めない」形にしました。権限は変わり得るので、名前に焼き込むと実態とずれていくためです。

実際に使っているラッパーは、要点だけ抜くとこうなります(そのまま保存して動く完成版ではなく、置き換え部分を含む抜粋です)。cf以外のツールにトークンを渡すための汎用版(cf-env-run.sh)も、同じ仕組みで用意しました。

sh
#!/bin/sh
# cf-op.sh — 1PasswordからAPIトークンを注入して cf を実行する
export OP_SERVICE_ACCOUNT_TOKEN="$(cat <サービスアカウントトークンの保存ファイル>)"  # 権限は0600で、値は画面にもログにも出さない
export CLOUDFLARE_ACCOUNT_ID=<アカウントID>  # このトークンではアカウントを列挙できないため固定する
exec script -qec "op run --env-file=cf-op.env -- cf <引数>" /dev/null

正直に書くと、この保存ファイルはエージェント自身からも読める場所にあります。サービスアカウントに許してあるのは専用ボールトの読み取りだけで、読み出せる範囲はそこに限られますが、隔離の実効性はその範囲の絞りと、漏れた場合に1Password側でサービスアカウントごと失効できることにあります。受け渡しはAccessの内側にその時だけ出す1回限りのフォームで行い、値はチャットやログには残していません。

最後の行で疑似端末(script)を挟んでいるのが、この連携で一番効いた工夫です。理由は後述の「つまずき3」で説明します。アカウントIDの固定も必須で、トークンの権限だけではアカウントの列挙ができないため、cf側の自動解決が失敗します。

つまずき3 TTYのない環境で1Password CLI(op)の認証が止まる

ラッパーの疎通確認で、op がサービスアカウント認証のまま無言で固まりました。ネットワークは通っていて、トークンの形も正しい。それでも応答がありません。切り分けに時間を溶かしましたが、疑似端末(TTY)を割り当てることで解消しました。今回のVMでは、TTYのない実行環境でopを起動すると認証が進まず、ラッパー側で疑似端末を割り当ててから起動すると、認証は数秒で通るようになりました。エージェントの実行環境は大抵TTYを持ちません。op一般の要件というより、この実行環境での観測と回避策として残します。

疎通は、認証確認と読み取りで確かめました。

sh
cf-op.sh auth whoami
text
{
  "authenticated": true,
  "authSource": "CLOUDFLARE_API_TOKEN environment variable",
  "tokenValid": true
}

Cloudflare AccessのSSH用アプリケーションと短期証明書の設定

ラッパーが正常に動作すれば、あとの作業はCLIとAPIで完結します。コマンドはすべて、トークンを注入するラッパー経由で実行します。SSH用アプリケーションは、HTTP用に作った「自分のメールアドレス1件だけを許可する」ポリシーを再利用して作りました。

sh
cf-op.sh zero-trust access applications create --body '{
  "name": "VM SSH (owner only)",
  "domain": "ssh.example.com",
  "type": "ssh",
  "session_duration": "24h",
  "allowed_idps": ["<ワンタイムPINのIdP ID>"],
  "policies": ["<自分のメールだけを許可するポリシーのID>"]
}'

短期証明書の認証局(CA)は、アプリケーションに紐づけてAPIで生成できます。返ってくるのはCAの公開鍵で、これは公開情報なので、そのままサーバーへ配れます。秘密鍵に相当するものはCloudflare側にあり、こちらには来ません。コマンド中の変数は、トークンが注入された内側のシェルで展開される必要があるため、内側にもう一段シェルを挟んでいます。

sh
cf-env-run.sh sh -c 'curl -X POST \
  "https://api.cloudflare.com/client/v4/accounts/<ACCOUNT_ID>/access/apps/<APP_ID>/ca" \
  -H "Authorization: Bearer $CLOUDFLARE_API_TOKEN"'

サーバー側は、受け取ったCA公開鍵を TrustedUserCAKeys に指定するだけです。

text
TrustedUserCAKeys ~/ssh-stack/ca.pub

これで理屈の上では「PINログイン → ブラウザ端末 → 証明書でsshdへ」となるはずでした。

ブラウザからのSSH接続:資格情報フォームとInvalid userへの対処

手順7(ユーザー名を揃える)を知らずに、手順9の確認へ進んだ結果です。

実地テストでは、ブラウザ端末にパスワードと秘密鍵の入力フォームが出て、接続できませんでした。フォームの案内には「短期証明書も使える」と書いてあるのに、証明書が使われている様子がありません。

sshdのログを見ると、接続自体は届いていて、ユーザー名で弾かれていました。

text
Invalid user owner@example.com from 127.0.0.1
Connection closed by invalid user owner@example.com 127.0.0.1 [preauth]

(ログのアドレスは例示に置き換えています。)

ログに出ているユーザー名は、メールアドレスの全文です。一方、証明書ログインの前提を確認すると、Cloudflareの公式ドキュメント(Browser-rendered terminal)には、ブラウザ描画のSSHとVNCでは「ユーザーのメール接頭辞と、サーバー上のユーザー名が一致すること」が前提だと書かれていました。つまり、証明書での接続は接頭辞をユーザー名として行われます。こちらのサーバーには管理者ユーザーしか作っておらず、接頭辞と同名のユーザーがいなかったため、接続を受け付けられなかった、というのが実態です。

対処は、メール接頭辞と同名のユーザーを追加することでした。前述の自前passwdファイルに1行足して、sshdを再起動します。名前はメールアドレスから一意に決まり、その名前を名乗れるのは入口で本人確認を済ませた人だけなので、Accessのポリシー側で塞がっています。この環境では、そのユーザーの先はVM内の管理者権限のシェルです。一般のサーバーで同じ詰まりに対処する場合は、通常権限の専用ユーザーで受けて、必要な操作だけ権限昇格する形が安全です。今回この形にしたのは、このVMが外部から到達できない隔離された使い捨ての実行環境で、外部からの到達経路がAccessの本人確認を通ったトンネルだけに限られるためで、その代わりメールアカウントが侵害された場合の影響はVM全体に及ぶ前提に立っています。

再テストすると、今度はフォームが出ることなく、そのままシェルに入れました。sshdのログにも、証明書でのログイン成功が残りました。

text
Accepted certificate ID "owner@example.com" (serial ...) signed by ECDSA CA ... via ~/ssh-stack/ca.pub
Accepted publickey for owner from 127.0.0.1 ... ECDSA-CERT ... ID owner@example.com

証明書のIDはメールアドレス全体、プリンシパルは接頭辞、という形で記録されます。「ブラウザ端末が証明書を自動で使う」ことは、ドキュメントの記述だけでなく、このログで実測できた範囲の話として書けます。

ターミナルから短期証明書でSSH接続する

実運用の接続は、ブラウザでもターミナルでも、メール接頭辞と同名のユーザーで入ります。それとは別に、証明書のプリンシパルを管理者ユーザーへ対応付ける設定も用意し、検証しました。設定自体は、SSH用アプリケーションを作った段階で sshd の Match ブロックとして入れてあります。本物の証明書はログインのたびに発行されるため、検証は sshd の複製に自己署名のテスト用CAを信頼させて行いました。プリンシパルがメール接頭辞と一致する証明書では管理者ユーザーでログインでき、違うプリンシパルの証明書と、証明書ではない通常の鍵はどちらも拒否されました。実CAの署名検証自体は、ブラウザ端末のログインで実証済みの経路と同じ仕組みです。

ブラウザ端末は手軽ですが、腰を据えて作業するなら手元のターミナルから ssh で入る方が自然です。Macのターミナルで設定断片を作って接続しました。断片の生成には cloudflared access ssh-config に --short-lived-cert を付ける必要がありました(付けないと証明書の行が出力されず、提示できる鍵がありません)。生成される断片に、ユーザー名としてメール接頭辞を指定する User の行を足した完成形がこちらです。手元の ~/.ssh/config に置きます。

text
Match host ssh.example.com exec "cloudflared access ssh-gen --hostname %h"
  User <メール接頭辞>
  ProxyCommand cloudflared access ssh --hostname %h
  IdentityFile ~/.cloudflared/%h-cf_key
  CertificateFile ~/.cloudflared/%h-cf_key-cert.pub

接続すると、ブラウザで Access の本人確認画面が開きます。このときはブラウザ端末ログインのセッション(24時間)が生きていたため、PINの入力ではなく、ログイン済みの状態で承認ボタンを押すだけでした。セッションが無い状態では、メールアドレスとワンタイムPINの入力になります。その後、発行された短期証明書(このときの観測では有効期間は約4分)で管理者権限のシェルに入れました。sshd のログにも証明書の受理が記録されています。

VM差し替え後のSSH復旧:自動検知と承認つきの起動

このVMには、再起動のタイミングで何かを自動実行する仕掛けを内側に置けません。systemd のユーザーバスは無く、ホームディレクトリの外に置いた設定は差し替えで消えます。ブートにフックする場所が無い以上、起点はVMの外に置くしかありません。

そこで起点にしたのが、エージェント基盤(Muse)の定期実行機能です。15分おきに状態確認のジョブが走ります。ホームディレクトリには常駐の supervisor スクリプトを置き、60秒ごとに待ち受けポートとトンネルの登録状態を見て、落ちていれば復旧スクリプト(起動し直しと9項目の疎通確認を1本にまとめたもの)を呼びます。Muse の定期実行は、VMの差し替え後に supervisor が動いていなければ、承認を経て supervisor を起動します。セッション内の自己回復は supervisor のループが担います。

この構成で、実際にVMの差し替えをまたいだ復旧を確認しています。定期実行の間隔は当初30分でしたが、15分に縮めて正式運用に移しました。状態確認の直後にVMが差し替わった場合、次に検知されるまで最大で約15分かかります。入口が止まる時間はこれに、承認待ちと、起動・疎通確認にかかる時間が加わります。

ただし、完全な無人復旧ではありません。定期実行が supervisor を起動する操作には、Muse の承認が1回必要です。承認できる人がいない時間帯は、復旧は承認待ちになります。検知と状態確認は自動、起動は承認つき、という半自動の形です。

supervisor の置き方には、一度変更が入りました。当初は Muse の定期実行のセッションの中で保持していて、実行側の時間枠が終わると supervisor ごと落ちていました。落ちたタイミングを切り分けると、そのいくつかは実行の時間切れではなく、VM 自体の差し替えが原因でした。そこで supervisor は、起動元の実行セッションから切り離した常駐プロセスとして起動する形に変えました(setsid と nohup を使います)。変更後は、実行セッションが終わっても supervisor の動作が続くことを確認しています。ただし、VMが差し替わるとプロセス自体が消えます。そのため、15分おきの定期実行が担う「生きているかの確認と、消えていたら承認を経て起動し直す」役割は、そのまま残っています。

復旧しても入口の守りは変わりません。復活するのはプロセスだけで、Access のポリシー、ワンタイムPIN、短期証明書の前提はそのままです。

運用上の注意

  • VMが差し替えられると、トンネルとsshdは全部止まります(ファイルは残ります)。復旧は、前節のとおり定期実行を起点に行われます(起動には承認が要ります)。ただし起点が15分おきなので、検知まで最大で約15分、復旧には承認待ちと起動確認の時間がさらにかかります。常時つながっている必要がある入口には向きません
  • 守りの要はメールアカウントです。ワンタイムPINの宛先がメールで、その先は管理者権限のシェルなので、そのアカウントを取られるとVM全体の侵害に直結します。メール側でパスキーや二要素認証などの強い認証を有効にしておくことが、この構成の前提です。入口を増やす前に、土台のアカウント側の防御を確認するのが先でした
  • ホスト名の秘匿は防御に数えていません。サブドメインはDNSと証明書の公開ログで誰でも引けます。防御はAccessのポリシー、PIN、証明書の3点に寄せています
  • 構築中の確認に使った検証用の鍵は、証明書経路の実地テストが通ったあとで authorized_keys から外しました。いまログインに使えるのは、Accessが発行する短期証明書だけです

よくある質問

Muse の VM へ SSH で入るにはどうすればいいですか?

Muse の VM には公式のSSH入口が無いので、自分で作ります。VMの内側から Cloudflare Tunnel を外向きに張り、その先に Cloudflare Access(ワンタイムPINで本人確認)とループバック限定の sshd を置き、ログインには Access の短期証明書を使う構成です。入口は2つあり、ブラウザだけで入る方法(自分のPCへのインストールは不要)と、PCに cloudflared を入れてターミナルから ssh で入る方法があります。本人確認と証明書は共通です。手順は本文の「Cloudflare TunnelとAccessでSSH接続する全体手順」にまとめました。なお、逆方向(Muse から自分のPCへ入る)構成とは別物です。

公開ポートを開けずにSSH接続できますか?

できます。接続はVMの内側から外へ張るCloudflare Tunnelだけで、外部公開の待ち受けポートは作りません。sshdはループバック(127.0.0.1)でだけ待ち受け、到達経路はトンネル経由に限ります。

鍵ファイルを持ち歩かなくても大丈夫ですか?

ログインには、Cloudflare Accessが本人確認のたびに発行する短期証明書を使います。ワンタイムPINで本人確認を通ると短命な証明書が発行され、sshdはCAの公開鍵でそれを検証します。ブラウザ端末の経路では、自分の端末に鍵ファイルは残りません。ターミナル経由の場合は、cloudflared が管理する鍵ペアとアクセストークンが端末の ~/.cloudflared/ に置かれます(権限は600)。自分で長期の秘密鍵を持ち歩く形ではない、という点はどちらの経路でも同じです。

Cloudflare TunnelとAccessの利用に費用はかかりますか?

個人利用の範囲では、Cloudflareの無料枠に収まっています。トンネルもAccessも、今回の規模では有料プランを契約していません。

CloudflareのDNS一覧でトンネル用のCNAMEが見つかりません

トンネル用のレコードは、筆者が確認したDNS管理画面では種別「トンネル」と表示され、CNAMEとしては並びませんでした。実体は <トンネルID>.cfargotunnel.com へのCNAME(プロキシ有効)です。その場合は、そのまま「トンネル」表示の行が正解です。

MuseのVMに組み込まれたTailscaleで外部からSSH接続できますか?

このVMに組み込まれたTailscaleは、Muse が相手のマシンへ出ていく方向専用で、外から入る方向の受け口にはなりません。Muse から自分のMacやPCへ入る用途なら Tailscale は有力ですが、「人が Muse の VM へ入る」今回の要件には向きませんでした。

MuseのVMへのSSH接続に、Pinggyやngrokのリバーストンネルは使えますか?

一時的に入るだけなら使えます。ただ、無料枠の制約はサービスごとに違います(Pinggy は1回60分まで、など)。今回は、同じホスト名を継続して使い、入口での本人確認まで一体で構成できることを優先して、Cloudflare Tunnel と Access の組み合わせを選びました。

ワンタイムPIN以外のログイン方法は使えますか?

Cloudflare Access は Google などの IdP(認証基盤)とも連携できます。ただし Google の IdP を使うには OAuth クライアントの用意が要ります。メールアドレス1件だけが対象の個人運用では、設定の要らないワンタイムPINで十分だったので、今回はそちらを選びました。

MuseのVMが再起動・差し替えされたらSSH接続はどうなりますか?

トンネルも sshd もプロセスなので、VMの差し替えや再起動で全部止まります。設定とファイルはホームディレクトリに残るので、復旧はスクリプト化できています。検知は自動で、起動には承認が必要な半自動の運用です。起点はVMの外にある定期実行(15分おき)で、差し替えをまたいだ復旧は実測で確認しました。詳しくは「VM差し替え後のSSH復旧:自動検知と承認つきの起動」に書きました。

ブラウザからのSSH接続で Invalid user が出たらどう対処しますか?

ブラウザ端末の証明書ログインは、メールアドレスの接頭辞と同名のユーザーがサーバー側にいることが前提です。そのユーザーが無いと、接続は弾かれます(失敗時のログには、メールアドレス全文のユーザー名で試行された形跡が残りました)。対処は本文の「ブラウザからのSSH接続:資格情報フォームとInvalid userへの対処」に書きました。

1Password CLI(op)が無言で固まります

今回のVMでは、TTYのない実行環境でサービスアカウントの認証が進みませんでした。疑似端末を割り当ててから起動すると通ります。本文の「つまずき3」が切り分けの記録です。

まとめ

  • 入口のないVMでも、内側から張るトンネル+Accessの本人確認+ループバック限定のsshdで、公開ポートなしの入口は作れる
  • 壁は方式そのものより、名前解決、apt、StrictModes、TTY、ユーザー名の決まり方といった「周辺の前提条件」に集中していた
  • 画面操作に固執せず、詰まった段階でAPIとCLIへ切り替えたことが、後半の作業を進めるうえで最も効果があった

Written by

柿添貴士(TakashiKakizoe) profile photo

柿添貴士(TakashiKakizoe)

Webエンジニア/テックリード

Fukuoka, Japan

  • PHP
  • Laravel
  • Next.js
  • AWS
  • Cloudflare
  • AI Agent