あなたが想像していなかったかもしれない話がある。
Metaが最近、大々的に宣伝せずにあることを発表した。それは、従業員のキーストロークとマウスクリックのすべてを記録し、コンピューターを自動操作できるAIエージェントの訓練に使用するというものだ。
外部ユーザーではなく、従業員だ。毎日Metaのオフィスで働く人々である。
具体的に何を収集するのか
Metaによると、収集するデータには以下が含まれる：
- マウスの移動軌跡
- 押されたボタン
- ドロップダウンメニューでの選択内容
- 各種アプリケーション内の操作経路
平たく言えば、あなたがコンピューターをどう使っているか、すべてを記録するということだ。
Metaの公式説明では、このデータは日常的なコンピューター作業を支援するAIエージェントの訓練に使用されるとしている。
目的は一見合理的に聞こえる——コンピューターを実際に使えるAIを作るには、人間の使い方を観察するのが最善の方法だからだ。しかし問題は、データソースとして特別に設計された収集プロセスではなく、自社の従業員を選んだ点にある。
なぜこの問題は聞こえ以上に微妙なのか
まず業界の背景を説明する。
過去2年間、各AI企業は次世代エージェントへの投資をコンピューター操作にますます傾けてきた——単なるチャットボットではなく、アプリを開き、フォームを埋め、ボタンをクリックし、作業を完了させるシステムだ。この能力は「computer use」または「computer-use agent」と呼ばれている。
問題は、このようなエージェントを訓練するには大量の実際の人間とコンピューターのインタラクションデータが必要なことだ。公開データセットの品質はまちまちで、自社で収集するにはコストと時間がかかる。
最も手軽なデータはどこにあるのか？それは社内、従業員のところにある。
これはMetaだけの考えではない。ロイター通信の報道によると、これは業界のトレンドになりつつある。Slackのチャットログ、Jiraのチケット、従業員の操作ログが、各社でAI訓練の対象として静かに検討されている。
Metaはそれを初めて公言しただけだ。
それは合理的か？
Metaは標準的な回答を示している。収集したデータには保護措置が講じられており、他の目的には使用されないという。
しかし、この回答はいくつかの本質的な問題を回避している：
どのアプリケーションが監視対象なのか？ 会社のパソコンで個人アカウントにログインしたり、個人メールを確認したりした場合、それらの操作も記録されるのか？
従業員に拒否権はあるのか？ それとも、これは入社契約ですでに承認された範囲であり、選択の余地はないのか？
データは本当に隔離できるのか？ 他の目的に使用しないと約束するのは簡単だが、AI訓練のパイプラインではデータの流れを追跡することは本質的に難しい。
Metaの発表はこれらの質問に一つも答えていない。
本当に注目すべきこと
Metaがcomputer-useエージェントを構築したいという事実自体は驚くに値しない。OpenAIにはCodexがあり、AnthropicにはClaude Computer Useがあり、Googleは自律ブラウザ制御をテストしている。この分野では誰もが競争している。
本当に注目すべきは、より大きな問題だ。AI訓練データの境界線が再定義されつつある。
以前は、インターネット上の公開データを訓練に使用できるかどうかが議論されていた。今では、従業員の行動データを使用できるかどうかが問われ始めている。次は何になるのか？製品内のユーザー操作記録か？ユーザーとAIの会話履歴か？
これらのデータは利用規約ですでに許可されているかもしれないが、ユーザーや従業員は、契約に同意した時点で、自分がAIのデータラベリング作業をしているとはおそらく思っていなかっただろう。
人間に代わってコンピューターを操作できるAIは、学習のために人間の操作データを必要とする。これはもともと技術的な問題だったが、今ではより複雑な倫理的問題になりつつある。
Metaのこの発表は、この議論の始まりであり、終わりではない。
参考元：CocoLoop、Meta will record employees's keystrokes and use it to train its AI models（TechCrunch）