上原正吉(EarthLink Network Co., Ltd.)。Claude Codeを開発の主体に据え、20を超えるプロダクトを1人で同時に開発・運用しています。これは、その現場の実測記です。

社員が AI に何を送っているか。管理する側からは、ほとんど見えません。顧客の一覧や公表前の数字が貼られていても、気づくのは後からです。気づいた時に、どの会話で起きたのかをたどれないこともあります。
当社は、複数の AI を 1 つの作業環境で使う Prompt Flow Studio(以下、promptflow)に、組織向けの Enterprise プランを用意しました(発表は PR TIMES)。この記事は、その中心にある 1 つの仕組みを実画面で説明します。組織が決めたルールで AI への送信を止め、どの会話のどの送信で起きたかまで記録する仕組みです。
生成 AI を仕事に使い始めると、管理する側には 2 つの問いが残ります。社員が顧客の個人情報や社外秘の情報を、そのまま AI に送っていないか。問題が起きた時に、どの会話で何が起きたのかを後からたどれるか。
AI の提供元ごとに設定を変えても、この 2 つには答えられません。社員は OpenAI・Anthropic・Google など、いくつもの AI を使い分けるからです。どの AI に送る時も同じ決まりで止め、同じ形で記録が残らないと、組織としては管理できません。
promptflow は、50 以上の AI プロバイダー・400 種類以上のモデルを 1 つの画面で使い分ける製品です。そこで、どの AI に送る時にも効く形で、AI に渡る前に組織のルールで送信を確かめ、記録を残すことにしました。Enterprise プランの機能の中で、この記事が中心に扱うのはここです。
管理者は、設定の「セキュリティフィルター」の画面で、組織独自のルールを登録します。書き方は 3 つです。
社内のプロジェクト名・顧客名・独自の用語は、キーワードとして登録します。あいまい一致も選べます。社員番号や案件番号のような形の決まった文字列は、正規表現で登録します。キーワードや正規表現では書き切れないあいまいな観点は、AI に判断させます(次の節)。この 3 つ目の種類は、AI 判定(画像の種類の欄の表示)です。
ルールごとに、当たった時の扱いを「伏せ字にして送る」「警告して送る」「送信を止める」から選びます。「送信を止める」を選ぶと、その送信は AI へ一切送られません。設定は組織全体に効き、メンバーが個人で切ることはできません。

一覧には、ルールごとの種類・内容・動作と、「直近 30 日」に当たった件数が並びます。例の画面では、社員番号を EMP-\d{6} の正規表現で、社外秘のプロジェクト名を Project-Orion のキーワードで止めています。残りの行は、AI に判断させるものです。どのルールがよく当たっているかは、件数の列で分かります。
キーワードは、その言葉が書かれていないと当たりません。社外秘の計画の話をしていても、計画の名前を書かずに中身だけを書けば、すり抜けます。そこで、AI に判断させるルールを用意しました。
管理者は「ルールを追加」で種類を選び、「止めたい話題(方針)」を自分の言葉で書きます。例の画面の方針は「社外秘のプロジェクト『ブルーオーシャン計画』の内容(予算・仕様・取引先)を含む送信を止める。計画名が出てこなくても、内容から明らかにこの計画の話であれば該当とする。」です。続けて「該当する例」と「該当しない例」を書きます。該当しない例には、紛らわしい文を入れると、誤って止める数が減ります。入力欄の数字を見ると、ルール名は 200 字まで、方針は 300 字まで、例はそれぞれ 20 件まで書けます。
例の画面では、該当する例に「ブルーオーシャン計画の来期の予算案を 3 行で要約して」と「新しい海洋センサーの試作機(社内コード BO-7)の仕様書を英訳して」を入れています。2 つ目には計画の名前がありません。該当しない例は「海が青く見える理由を小学生向けに説明して」と「公開済みの会社案内パンフレットの文章を校正して」です。言葉は似ていても、止めたくない文です。
AI の答えは確率的なものです。そのため、保存の前に例文で試験します。試験の結果には、提供元ごとに、該当する例を検知した数、該当しない例を通した数、見逃し、誤検知、費用、遅延が出ます。見逃しと誤検知の数を見てから、ルールを有効にします。扱いは「送信を止める」か「警告して送る」です。試験する提供元は 3 社まで選べ、試験の費用は、試験を実行した管理者の PFC から引かれます(最低 1 PFC)。

例の試験では、計画の名前が無い 2 つ目の文も含めて「2/2 件を検知」、該当しない 2 つは「2/2 件を通過」で、見逃しも誤検知も 0 件でした。
この画面の説明のとおり、AI のルールは、送信先と同じ提供元の専用のモデルが見て判断します。渡すのは伏せ字にした後の文だけで、原文を他社に渡しません。費用は送信 1 回ごとに約 0.1 PFC が目安で、その送信の費用に含めて引かれます。送信を止めた時は、AI が判断した分の費用だけがかかります(最低 1 PFC)。なお、専用のモデルが無い提供元への送信は、このルールでは止めません。
「送信を止める」のルールに当たると、送信はそこで止まり、AI には届きません。送った人の画面には、組織のルールで止まったことと、どのルールに当たったかが出ます。

例の画面では、特定の社員の評価と賞与、休職の理由を一覧にする依頼が、「社員の評価・給与・健康の情報」のルールで止まっています。送った人には、どのルールで止まったかが分かります。入力した文は画面に残りますが、AI には届いていません。
「警告して送る」のルールは、動きが違います。当たっても送った人の画面には何も出ず、送信はそのまま行われます。残るのは、監査ログの「警告」の 1 行です。止めるほどではないが、管理者として把握はしておきたい送信に使います。
どちらの場合も、監査ログの行そのものには送信の本文を書きません。
セキュリティフィルターが反応した送信は、監査ログに記録されます。残るのは、誰が・いつ・どのルールや検知の種類に当たり・どの AI に送ろうとしたか、そしてどの会話のどの送信か、です。

記録は、種類・期間・利用者で絞り込めます。AI に質問して探すこともできます。たとえば「今月、セキュリティフィルターで送信を止めた件を見せて」のように聞いて探せます。AI のルールに当たった行を開くと、AI がどのルールに該当すると見たか、その理由が出ます。
監査ログの行そのものには、送信の本文や、検知した値は書きません。管理者も、他のメンバーの会話の本文は開けません。保存した該当箇所を見られるのは、組織が指定した人だけです。行からたどれるのは、どの会話のどの送信だったかまでです。
調査のために、当たった箇所を残しておくかどうかは、組織の設定で決めます。セキュリティフィルターの画面の「組織ポリシー」にある「調査用に該当箇所を保存する」です。同じ欄で、保持期間と閲覧できる人も決めます。画面の説明は「暗号化して保存し、期間が過ぎたら自動で削除します。無期限でも、組織の契約が終わった時はすべて削除します。」です。
ログイン、権限やメンバーの変更、個人データの削除、Legal Hold、課金・AI 利用量の配分などの重要な操作は、別に、ハッシュチェーンでつないだ改ざん検知可能な記録として 7 年間保持します。
ルールとは別に、決まった形の個人情報は、AI に送る前に自動で伏せ字にします。対象は、メールアドレス・電話番号・マイナンバー・クレジットカード番号・銀行口座番号・API キーなどです。伏せ字にした値は外部の AI に渡らず、回答では元の値に戻して表示します。利用者は、普段どおりに書くだけです。

回答の下には「メッセージ内の個人情報 2 件を自動マスクして送信し、応答で復元しました」と出ます。会話の履歴・添付・ナレッジ(RAG)・URL の本文・生成の依頼文も対象にでき、範囲と扱いは管理者が選べます。氏名や所在地(番地などの表記)は、形では見つけられないため、この自動の伏せ字の対象外です。画像の中の文字も対象外です。
設定は、カスタムルールと同じ「セキュリティフィルター」の画面の上半分にあります。「検知する個人情報(組み込み)」の一覧で、種類ごとにチェックを入れ、扱いを選びます。画面には郵便番号や「その他(米国 SSN)」の行もあります。その下の「対象範囲」で、「今回の発言」「会話の履歴」「添付ファイル・PDF」「ナレッジ(RAG)」「URL の本文」「画像生成の依頼文」を切り替えます。画面の説明は「送る直前に全部まとめて検知します。」です。
ルールは、管理者が避けたい場面を自分の言葉で書くものです。日本の組織向けには、たとえば次のような例があります。
| ルール | 扱いの例 | 気づける場面 |
|---|---|---|
| 退職・転職の兆候 | 警告して記録 | 職務経歴書に社内の実績を盛り込む |
| 顧客名簿・取引先情報の持ち出し | 送信を止める | 顧客の一覧を個人のメールに送れる形に整える |
| 未公表の決算・M&A・人事 | 送信を止める | 公表前の数字で IR 文書の下書きを作る |
| 社員の評価・給与・健康の情報 | 送信を止める | 特定の社員の評価と賞与を一覧にする |
| ハラスメント・労務トラブルの兆候 | 警告して記録 | 残業を記録に残さない方法を聞く |
| 見積もり・原価・単価の社外流出 | 警告して記録 | 仕入れ値と利益率の表を取引先向けに作る |
| 不正・下請法・談合の疑い | 警告して記録 | 下請けへの支払いを遅らせる |
| 社外秘の資料・ノウハウの副業での利用 | 警告して記録 | 社内の営業マニュアルを副業の資料に作り替える |
文脈で判断する観点は AI に判断させ、形が決まっているものはキーワードや正規表現で登録します。
扱いの分け方も、表のとおり組織が決めます。顧客名簿や未公表の決算のように、外に出たら取り返しがつかないものは「送信を止める」にします。退職の準備や労務の兆候のように、送信そのものは仕事の範囲でありうるものは「警告して記録」にして、送信は止めずに記録だけを残します。止めるルールばかりにすると、普段の仕事まで止まります。
ここで大事なのは、製品が自分で退職しそうな人を見つけるのではない、という点です。退職・転職の例も、管理者がそういうルールを書いた時に、そのルールに該当した送信が「警告」として残るだけです。話題を勝手に分類して知らせることはしません。
記録は、組織ダッシュボードにもまとまります。管理者は期間を選んで、アクティブユーザー・メッセージ数・PFC の消費と、個人情報の検知・独自ルールの発動・深夜帯の利用などを 1 画面で見られます。
個人情報の検知を繰り返すメンバー、深夜帯に大量に使うメンバー、権限の拒否を繰り返すメンバーは、リスクシグナルとして出ます。これも、会話の本文を読まずに記録だけから出したものです。ダッシュボードを見たこと自体も、監査ログに残ります。
料金は、席と AI の利用量を分けました。席料には AI の利用量を含めず、利用量(PFC)は組織で共有する月々のパックとして別に選びます。管理者は「PFC 管理」の画面で、メンバーごとの配分と上限を決めます。よく使う人に多く、使わない人に少なく割り振れます。
料金は米ドル・税別です。
この記事の主題の外にも、組織向けの機能があります。使ってよい AI モデルを開発元の国で絞るモデルの統制、訴訟や監査に備えて削除を止める Legal Hold、EU の GDPR 第 17 条(消去権)に沿った個人データの削除の手続き、組織の標準ペルソナの配布です。申し込みは Enterprise のページ からです。
Enterprise プランは 100 席からです。少人数の組織向けには、1 席ごとに AI 利用量とストレージが付く Team・Business・Business+ もあります(Enterprise の機能は使えません)。詳しくは料金のページの比較表をご覧ください。
このシリーズでは、旗艦SaaSの Prompt Flow Studio ほか、AI開発・運用の現場で得た知見を順次公開していきます。 興味のある方は、ぜひ「いいね」と記事の購読をお願いいたします。
Prompt Flow Studio は、複数のAIを1画面で使い、比べ、議論させるマルチAIワークスペースです。詳しくは https://prompt-flow.studio をご覧ください。 そのほかの自社プロダクトは https://www.eln.ne.jp/products にまとめています。
上原正吉。EarthLink Network Co., Ltd. でAI開発をしています。2025年からClaude Codeを開発の主体に据え、今は20を超えるプロダクトを1人で同時に開発・運用しています。この連載では、その現場で実際に起きたこと(うまくいったことも、失敗も)を、数字と一緒に書いていきます。
また、AIで業務や開発を組み替えたい会社・チーム向けに、AI活用のコンサルティングも受け付けています。ご相談は www.eln.ne.jp からどうぞ。
EarthLink Network は、会社の全業務を AI で回すために、必要になったものを自社で作っています。いま作っているプロダクトの一覧と概要は、こちらにまとめています。
→ EarthLink Network が自社でつくっている18のプロダクト
会社と各プロダクトの詳細は、公式サイト www.eln.ne.jp をご覧ください。