言論の自由絶対主義者Cloudflare、従業員のChatGPTプロンプトへの雇用主のアクセスを許可

雇用主は生成AIを好むかもしれませんが、従業員が社内の財務情報や独自のコードをChatGPT、Claude、Geminiに貼り付けてしまい、企業の秘密がクラウドに流出するまでの話です。

Cloudflareは、その技術がウェブの約20%を支えている企業ですが、本日、エンタープライズセキュリティプラットフォーム「Cloudflare One」にAI監視機能を導入しました。この機能により、ITチームは誰がAIとやり取りしているのか、そして何を密かにAIに入力しているのかを即座に把握できます。同社は、従業員による生成AIの利用をX線のように可視化するツールとして位置付けており、IT担当者がすでに利用しているダッシュボードに組み込まれています。

「管理者は今や、ChatGPTで従業員が何をしているのか、Claudeにどんなデータがアップロード・利用されているのか、GeminiがGoogle Workspaceで正しく設定されているのか、といった質問に答えることができます」と同社はブログ記事で述べています。

シャドウAIはもう過去のもの

Cloudflareによると、従業員の4人に3人がChatGPT、Claude、Geminiを使って、テキスト編集やデータ分析、デバッグ、デザインなどあらゆる業務を行っています。問題は、機密データがAIツールに入力されても、通常は痕跡が残らないことです。Cloudflareの製品はAPIレベルで統合され、不審なアップロードをスキャンします。

同社によれば、不正なプロンプトが外部モデルを即座にあなたの機密データで学習させてしまい、そのデータは永遠に失われる可能性があります。

エンタープライズセキュリティ分野の大手競合他社、例えばZscalerやPalo Alto NetworksもAI監視機能を提供しています。Cloudflareは、Cloudflare Oneの特徴はハイブリッドかつエージェントレスなモデルにあると主張しています。これは、ChatGPT、Claude、Gemini全体で、アウトオブバンドのAPIスキャン（ポスチャー、構成、データ漏洩の検出）と、インラインかつエッジで強制されるプロンプト制御を組み合わせており、エンドポイントへのソフトウェアインストールを必要としません。

言論の自由絶対主義者

Cloudflareは長年、自らをコンテンツに中立なインフラプロバイダーであり、モデレーターではないと位置付けてきました。つまり、法的な命令がない限り、クライアントが公開する内容を監視することは基本的に控えています。この姿勢は10年以上前から続いており、CEOのMatthew Princeは、Cloudflareはホスティングプラットフォームではなく、許可されるコンテンツを決定する立場にはないと強調しています。Cloudflareは、イデオロギーに関係なく、ウェブサイトがオンラインで保護され続けることを保証するだけだと述べています。

この「言論の自由絶対主義」的なアプローチは、批判の的となってきました。批評家は、Cloudflareがヘイトに満ちた過激派サイトや有害なサイトを、公式な削除要請がないという理由だけでアクセス可能な状態にしていると指摘しています。2022年のStanfordの調査では、Cloudflareがインターネット全体のトラフィックシェアに比べて、誤情報を拡散するウェブサイトに過剰にサービスを提供していることが明らかになりました。

それでも、例外的な対応が稀に行われたこともあります。2017年には、Cloudflareが白人至上主義サイトThe Daily Stormerへのサービスを打ち切りました。これは、同サイトがCloudflareが密かにナチス支持だと虚偽の主張をした後の、物議を醸す決定でした。Princeは後に、この決定は中立性の方針からやむを得ず例外として行ったものであり、圧力の下での判断だったと述べています。

同様に、2019年にはCloudflareが8chanとの関係を断ちました。これは大量銃撃事件との関連が明らかになり、そのコミュニティが危険なまでに無法状態になったことを認めたためです。

さらに最近では、2022年にCloudflareはKiwi Farmsへのサポートを最終的に打ち切りました。これは、嫌がらせや個人情報の晒し、人命への脅迫が激化したことを受けての対応でした。この閉鎖は、活動家による圧力や暴力のエスカレートに関する報告を受けて行われました。