社員が AI に送る社外秘を、組織のルールで止めて記録する ── Prompt Flow Studio の Enterprise プラン

上原正吉(EarthLink Network Co., Ltd.)。Claude Codeを開発の主体に据え、20を超えるプロダクトを1人で同時に開発・運用しています。これは、その現場の実測記です。

社員が AI に送る社外秘を、組織のルールで止めて記録する ── Prompt Flow Studio の Enterprise プラン

社員が AI に送る社外秘を、組織のルールで止めて記録する ── Prompt Flow Studio の Enterprise プラン

社員が AI に何を送っているか。管理する側からは、ほとんど見えません。顧客の一覧や公表前の数字が貼られていても、気づくのは後からです。気づいた時に、どの会話で起きたのかをたどれないこともあります。

当社は、複数の AI を 1 つの作業環境で使う Prompt Flow Studio(以下、promptflow)に、組織向けの Enterprise プランを用意しました(発表は PR TIMES)。この記事は、その中心にある 1 つの仕組みを実画面で説明します。組織が決めたルールで AI への送信を止め、どの会話のどの送信で起きたかまで記録する仕組みです。

困るのは、何を送ったかが見えないこと

生成 AI を仕事に使い始めると、管理する側には 2 つの問いが残ります。社員が顧客の個人情報や社外秘の情報を、そのまま AI に送っていないか。問題が起きた時に、どの会話で何が起きたのかを後からたどれるか。

AI の提供元ごとに設定を変えても、この 2 つには答えられません。社員は OpenAI・Anthropic・Google など、いくつもの AI を使い分けるからです。どの AI に送る時も同じ決まりで止め、同じ形で記録が残らないと、組織としては管理できません。

promptflow は、50 以上の AI プロバイダー・400 種類以上のモデルを 1 つの画面で使い分ける製品です。そこで、どの AI に送る時にも効く形で、AI に渡る前に組織のルールで送信を確かめ、記録を残すことにしました。Enterprise プランの機能の中で、この記事が中心に扱うのはここです。

ルールは 3 つの書き方で登録する

管理者は、設定の「セキュリティフィルター」の画面で、組織独自のルールを登録します。書き方は 3 つです。

社内のプロジェクト名・顧客名・独自の用語は、キーワードとして登録します。あいまい一致も選べます。社員番号や案件番号のような形の決まった文字列は、正規表現で登録します。キーワードや正規表現では書き切れないあいまいな観点は、AI に判断させます(次の節)。この 3 つ目の種類は、AI 判定(画像の種類の欄の表示)です。

ルールごとに、当たった時の扱いを「伏せ字にして送る」「警告して送る」「送信を止める」から選びます。「送信を止める」を選ぶと、その送信は AI へ一切送られません。設定は組織全体に効き、メンバーが個人で切ることはできません。

promptflow の設定の「セキュリティフィルター」画面の「カスタムルール」の一覧。顧客名簿・取引先情報の持ち出し、退職・転職の兆候、社員の評価・給与・健康の情報、社員番号(正規表現 EMP-\d{6})、社外秘プロジェクト名(キーワード Project-Orion)などのルールが並び、列ごとに種類・内容・動作(送信停止・警告)・直近 30 日の件数・有効のスイッチが出ている

一覧には、ルールごとの種類・内容・動作と、「直近 30 日」に当たった件数が並びます。例の画面では、社員番号を EMP-\d{6} の正規表現で、社外秘のプロジェクト名を Project-Orion のキーワードで止めています。残りの行は、AI に判断させるものです。どのルールがよく当たっているかは、件数の列で分かります。

名前が出てこない話も止められる

キーワードは、その言葉が書かれていないと当たりません。社外秘の計画の話をしていても、計画の名前を書かずに中身だけを書けば、すり抜けます。そこで、AI に判断させるルールを用意しました。

管理者は「ルールを追加」で種類を選び、「止めたい話題(方針)」を自分の言葉で書きます。例の画面の方針は「社外秘のプロジェクト『ブルーオーシャン計画』の内容(予算・仕様・取引先)を含む送信を止める。計画名が出てこなくても、内容から明らかにこの計画の話であれば該当とする。」です。続けて「該当する例」と「該当しない例」を書きます。該当しない例には、紛らわしい文を入れると、誤って止める数が減ります。入力欄の数字を見ると、ルール名は 200 字まで、方針は 300 字まで、例はそれぞれ 20 件まで書けます。

例の画面では、該当する例に「ブルーオーシャン計画の来期の予算案を 3 行で要約して」と「新しい海洋センサーの試作機(社内コード BO-7)の仕様書を英訳して」を入れています。2 つ目には計画の名前がありません。該当しない例は「海が青く見える理由を小学生向けに説明して」と「公開済みの会社案内パンフレットの文章を校正して」です。言葉は似ていても、止めたくない文です。

AI の答えは確率的なものです。そのため、保存の前に例文で試験します。試験の結果には、提供元ごとに、該当する例を検知した数、該当しない例を通した数、見逃し、誤検知、費用、遅延が出ます。見逃しと誤検知の数を見てから、ルールを有効にします。扱いは「送信を止める」か「警告して送る」です。試験する提供元は 3 社まで選べ、試験の費用は、試験を実行した管理者の PFC から引かれます(最低 1 PFC)。

promptflow の「ルールを追加」の下半分。動作に「送信を止める」を選び、その下に、送信先と同じ提供元の専用のモデルが伏せ字にした後の文だけを見ること、費用は送信 1 回ごとに約 0.1 PFC の目安であることの説明がある。「精度 — 試験結果(保存前に必ず実行)」の欄で google を選んで試験し、試験文 4 件・該当 2/2 件を検知・非該当 2/2 件を通過・見逃し 0 件・誤検知 0 件・費用 0.28 PFC・遅延 0.6 秒と出ている

例の試験では、計画の名前が無い 2 つ目の文も含めて「2/2 件を検知」、該当しない 2 つは「2/2 件を通過」で、見逃しも誤検知も 0 件でした。

この画面の説明のとおり、AI のルールは、送信先と同じ提供元の専用のモデルが見て判断します。渡すのは伏せ字にした後の文だけで、原文を他社に渡しません。費用は送信 1 回ごとに約 0.1 PFC が目安で、その送信の費用に含めて引かれます。送信を止めた時は、AI が判断した分の費用だけがかかります(最低 1 PFC)。なお、専用のモデルが無い提供元への送信は、このルールでは止めません。

止まった時に、送った人に見えるもの

「送信を止める」のルールに当たると、送信はそこで止まり、AI には届きません。送った人の画面には、組織のルールで止まったことと、どのルールに当たったかが出ます。

promptflow のチャット画面。営業部の社員の今期の評価と賞与額、休職の理由を一覧にする依頼を入力したところ、入力欄の上に赤い帯で「組織のルールにより送信されませんでした(社員の評価・給与・健康の情報)」と出ている

例の画面では、特定の社員の評価と賞与、休職の理由を一覧にする依頼が、「社員の評価・給与・健康の情報」のルールで止まっています。送った人には、どのルールで止まったかが分かります。入力した文は画面に残りますが、AI には届いていません。

「警告して送る」のルールは、動きが違います。当たっても送った人の画面には何も出ず、送信はそのまま行われます。残るのは、監査ログの「警告」の 1 行です。止めるほどではないが、管理者として把握はしておきたい送信に使います。

どちらの場合も、監査ログの行そのものには送信の本文を書きません。

どの会話のどの送信で起きたかを残す

セキュリティフィルターが反応した送信は、監査ログに記録されます。残るのは、誰が・いつ・どのルールや検知の種類に当たり・どの AI に送ろうとしたか、そしてどの会話のどの送信か、です。

promptflow の「監査ログ」の「セキュリティフィルター」の表示。日時・利用者・結果(送信停止・警告)・検知内容・ルール名・AI モデル・スレッドの列で、いろいろなルールの警告と送信停止が並び、1 行を開くと、その下に経路 Chat と、AI がどのルールに該当すると見たかの理由が出ている

記録は、種類・期間・利用者で絞り込めます。AI に質問して探すこともできます。たとえば「今月、セキュリティフィルターで送信を止めた件を見せて」のように聞いて探せます。AI のルールに当たった行を開くと、AI がどのルールに該当すると見たか、その理由が出ます。

監査ログの行そのものには、送信の本文や、検知した値は書きません。管理者も、他のメンバーの会話の本文は開けません。保存した該当箇所を見られるのは、組織が指定した人だけです。行からたどれるのは、どの会話のどの送信だったかまでです。

調査のために、当たった箇所を残しておくかどうかは、組織の設定で決めます。セキュリティフィルターの画面の「組織ポリシー」にある「調査用に該当箇所を保存する」です。同じ欄で、保持期間と閲覧できる人も決めます。画面の説明は「暗号化して保存し、期間が過ぎたら自動で削除します。無期限でも、組織の契約が終わった時はすべて削除します。」です。

ログイン、権限やメンバーの変更、個人データの削除、Legal Hold、課金・AI 利用量の配分などの重要な操作は、別に、ハッシュチェーンでつないだ改ざん検知可能な記録として 7 年間保持します。

形で分かる個人情報は、伏せ字にして送る

ルールとは別に、決まった形の個人情報は、AI に送る前に自動で伏せ字にします。対象は、メールアドレス・電話番号・マイナンバー・クレジットカード番号・銀行口座番号・API キーなどです。伏せ字にした値は外部の AI に渡らず、回答では元の値に戻して表示します。利用者は、普段どおりに書くだけです。

promptflow のチャット画面。山田太郎様のメールアドレスと電話番号を含むお礼メールの依頼に、AI がメールの文面で答え、回答の下に「メッセージ内の個人情報 2 件を自動マスクして送信し、応答で復元しました」と出ている。赤い囲みと「送信の前に個人情報を伏せたことが、AI の回答の下に表示されます」の注記がある

回答の下には「メッセージ内の個人情報 2 件を自動マスクして送信し、応答で復元しました」と出ます。会話の履歴・添付・ナレッジ(RAG)・URL の本文・生成の依頼文も対象にでき、範囲と扱いは管理者が選べます。氏名や所在地(番地などの表記)は、形では見つけられないため、この自動の伏せ字の対象外です。画像の中の文字も対象外です。

設定は、カスタムルールと同じ「セキュリティフィルター」の画面の上半分にあります。「検知する個人情報(組み込み)」の一覧で、種類ごとにチェックを入れ、扱いを選びます。画面には郵便番号や「その他(米国 SSN)」の行もあります。その下の「対象範囲」で、「今回の発言」「会話の履歴」「添付ファイル・PDF」「ナレッジ(RAG)」「URL の本文」「画像生成の依頼文」を切り替えます。画面の説明は「送る直前に全部まとめて検知します。」です。

管理者が決めておくルールの例

ルールは、管理者が避けたい場面を自分の言葉で書くものです。日本の組織向けには、たとえば次のような例があります。

ルール扱いの例気づける場面
退職・転職の兆候警告して記録職務経歴書に社内の実績を盛り込む
顧客名簿・取引先情報の持ち出し送信を止める顧客の一覧を個人のメールに送れる形に整える
未公表の決算・M&A・人事送信を止める公表前の数字で IR 文書の下書きを作る
社員の評価・給与・健康の情報送信を止める特定の社員の評価と賞与を一覧にする
ハラスメント・労務トラブルの兆候警告して記録残業を記録に残さない方法を聞く
見積もり・原価・単価の社外流出警告して記録仕入れ値と利益率の表を取引先向けに作る
不正・下請法・談合の疑い警告して記録下請けへの支払いを遅らせる
社外秘の資料・ノウハウの副業での利用警告して記録社内の営業マニュアルを副業の資料に作り替える

文脈で判断する観点は AI に判断させ、形が決まっているものはキーワードや正規表現で登録します。

扱いの分け方も、表のとおり組織が決めます。顧客名簿や未公表の決算のように、外に出たら取り返しがつかないものは「送信を止める」にします。退職の準備や労務の兆候のように、送信そのものは仕事の範囲でありうるものは「警告して記録」にして、送信は止めずに記録だけを残します。止めるルールばかりにすると、普段の仕事まで止まります。

ここで大事なのは、製品が自分で退職しそうな人を見つけるのではない、という点です。退職・転職の例も、管理者がそういうルールを書いた時に、そのルールに該当した送信が「警告」として残るだけです。話題を勝手に分類して知らせることはしません。

組織ダッシュボードで傾向を見る

記録は、組織ダッシュボードにもまとまります。管理者は期間を選んで、アクティブユーザー・メッセージ数・PFC の消費と、個人情報の検知・独自ルールの発動・深夜帯の利用などを 1 画面で見られます。

個人情報の検知を繰り返すメンバー、深夜帯に大量に使うメンバー、権限の拒否を繰り返すメンバーは、リスクシグナルとして出ます。これも、会話の本文を読まずに記録だけから出したものです。ダッシュボードを見たこと自体も、監査ログに残ります。

料金と、ほかに入っているもの

料金は、席と AI の利用量を分けました。席料には AI の利用量を含めず、利用量(PFC)は組織で共有する月々のパックとして別に選びます。管理者は「PFC 管理」の画面で、メンバーごとの配分と上限を決めます。よく使う人に多く、使わない人に少なく割り振れます。

  • 席料: 1 席 月 $135、または年払いで 1 席 $1,440(1 か月あたり $120 相当)。最低 100 席。
  • 月次共有 PFC パック: 月 10,000 PFC・$160 から(必須・組織で 1 つ)。
  • 例: 100 席+10,000 PFC で、月払いは毎月 $13,660、年払いは年 1 回 $145,920。

料金は米ドル・税別です。

この記事の主題の外にも、組織向けの機能があります。使ってよい AI モデルを開発元の国で絞るモデルの統制、訴訟や監査に備えて削除を止める Legal Hold、EU の GDPR 第 17 条(消去権)に沿った個人データの削除の手続き、組織の標準ペルソナの配布です。申し込みは Enterprise のページ からです。

Enterprise プランは 100 席からです。少人数の組織向けには、1 席ごとに AI 利用量とストレージが付く Team・Business・Business+ もあります(Enterprise の機能は使えません)。詳しくは料金のページの比較表をご覧ください。

結論

  • 組織が AI に何を送るかは、AI の提供元ごとの設定では管理できません。promptflow は、どの AI に送る時も、渡る前に組織のルールで確かめます。
  • ルールはキーワードと正規表現で書くほか、文脈で判断する観点は AI に判断させられます。扱いは伏せ字・警告・送信停止から選び、AI のルールは保存の前に試験します。
  • 記録には、誰が・いつ・どのルールで・どの会話のどの送信で起きたかが残ります。監査ログの行に本文は書かず、該当箇所を残すかは組織の設定で決めます。

用語

  • セキュリティフィルター: promptflow で、AI に送る前の文を組織のルールと個人情報の検知で確かめる機能。設定と記録の画面の名前でもあります。
  • 伏せ字(マスク): 見つけた値を別の文字に置き換えて送ること。元の値は外部の AI に渡りません。
  • 監査ログ: 誰がいつ何をしたかの記録。セキュリティフィルターの記録は、ここの「セキュリティフィルター」の表示に並びます。
  • PFC: promptflow で AI の利用量を表すクレジット。提供元ごとに違う費用を、共通の単位にそろえます。
  • Legal Hold: 訴訟や監査に備えて、組織のデータの削除を止めて保全すること。
  • リスクシグナル: 組織ダッシュボードで、検知や拒否の繰り返し、深夜帯の大量の利用などを、記録だけから示す表示。

このシリーズでは、旗艦SaaSの Prompt Flow Studio ほか、AI開発・運用の現場で得た知見を順次公開していきます。 興味のある方は、ぜひ「いいね」と記事の購読をお願いいたします。

Prompt Flow Studio は、複数のAIを1画面で使い、比べ、議論させるマルチAIワークスペースです。詳しくは https://prompt-flow.studio をご覧ください。 そのほかの自社プロダクトは https://www.eln.ne.jp/products にまとめています。

筆者について

上原正吉。EarthLink Network Co., Ltd. でAI開発をしています。2025年からClaude Codeを開発の主体に据え、今は20を超えるプロダクトを1人で同時に開発・運用しています。この連載では、その現場で実際に起きたこと(うまくいったことも、失敗も)を、数字と一緒に書いていきます。

また、AIで業務や開発を組み替えたい会社・チーム向けに、AI活用のコンサルティングも受け付けています。ご相談は www.eln.ne.jp からどうぞ。


EarthLink Network は、会社の全業務を AI で回すために、必要になったものを自社で作っています。いま作っているプロダクトの一覧と概要は、こちらにまとめています。

→ EarthLink Network が自社でつくっている18のプロダクト

会社と各プロダクトの詳細は、公式サイト www.eln.ne.jp をご覧ください。