당신이 생각지 못했을 이야기 하나.
메타가 최근 큰 소리 내지 않고 한 가지를 발표했다. 바로 직원들의 모든 키스트로크와 마우스 클릭을 기록해 컴퓨터를 자동으로 제어할 수 있는 AI 에이전트를 훈련하는 데 사용하겠다는 것이다.
외부 사용자가 아니라 직원이다. 매일 메타 사무실에서 일하는 사람들 말이다.
정확히 무엇을 수집하는가
메타에 따르면 수집할 데이터에는 다음이 포함된다:
- 마우스 이동 궤적
- 누른 버튼
- 드롭다운 메뉴에서 선택한 항목
- 다양한 애플리케이션 내 탐색 경로
쉽게 말해, 당신이 컴퓨터를 어떻게 사용하는지 모두 기록한다는 뜻이다.
메타의 공식 설명은 이 데이터가 일상적인 컴퓨터 작업을 돕는 AI 에이전트를 훈련하는 데 사용된다는 것이다.
목적은 합리적으로 들린다. 컴퓨터를 실제로 사용할 수 있는 AI를 만들려면 인간이 어떻게 사용하는지 관찰하는 것이 가장 좋은 방법이기 때문이다. 하지만 문제는 특별히 설계된 데이터 수집 프로세스가 아니라 자사 직원을 데이터 소스로 선택했다는 점이다.
왜 이 문제가 들리는 것보다 더 미묘한가
먼저 업계 배경을 설명하겠다.
지난 2년 동안 각 AI 기업들은 차세대 에이전트에 대한 투자를 점점 컴퓨터 제어 쪽으로 기울여 왔다. 단순한 채팅뿐 아니라 앱을 열고, 양식을 작성하고, 버튼을 클릭하고, 작업을 완료해 주는 시스템이다. 이러한 능력을 'computer use' 또는 'computer-use agent'라고 부른다.
문제는 이러한 에이전트를 훈련하려면 방대한 양의 실제 인간-컴퓨터 상호작용 데이터가 필요하다는 점이다. 공개 데이터셋의 품질은 들쭉날쭉하고, 자체 수집은 비용이 많이 들고 느리다.
가장 편리한 데이터는 어디에 있을까? 바로 회사 내부, 직원들에게 있다.
이는 메타만의 생각이 아니다. 로이터 통신 보도에 따르면 이것이 업계 트렌드가 되고 있다. Slack 채팅 기록, Jira 티켓, 직원의 작업 로그가 각 기업에서 AI 훈련 대상으로 조용히 고려되고 있다.
메타는 그것을 처음으로 공개적으로 말한 것뿐이다.
합리적인가?
메타는 표준적인 답변을 내놓았다. 수집된 데이터는 보호 조치가 적용되며 다른 목적으로 사용되지 않을 것이라고.
그러나 이 답변은 몇 가지 진짜 문제를 회피하고 있다:
어떤 애플리케이션이 모니터링 대상인가? 회사 컴퓨터로 개인 계정에 로그인하거나 개인 이메일을 확인하면 그 작업도 기록되는가?
직원에게 거부권이 있는가? 아니면 이것이 이미 고용 계약에 포함된 범위라 선택의 여지가 없는가?
데이터를 진정으로 분리할 수 있는가? 다른 목적으로 사용하지 않겠다고 약속하는 것은 쉽지만, AI 훈련 파이프라인에서 데이터 흐름은 본질적으로 추적하기 어렵다.
메타의 발표는 이러한 질문에 하나도 답하지 않았다.
진정으로 주목해야 할 것
메타가 computer-use 에이전트를 구축하려는 사실 자체는 놀랍지 않다. OpenAI에는 Codex가 있고, Anthropic에는 Claude Computer Use가 있으며, Google은 자율 브라우저 제어를 테스트 중이다. 이 분야는 모두가 경쟁하고 있다.
진정으로 주목해야 할 것은 더 큰 문제다. AI 훈련 데이터의 경계가 다시 그려지고 있다.
이전에는 인터넷 공개 데이터를 훈련에 사용할 수 있는지가 논의되었다. 이제는 직원의 행동 데이터를 사용할 수 있는지 묻기 시작했다. 다음은 무엇일까? 제품 내 사용자 작업 기록? 사용자와 AI의 대화 기록?
이러한 데이터는 이용약관에서 이미 허가되었을 수 있다. 하지만 사용자나 직원은 계약에 동의할 때 자신이 AI의 데이터 라벨링 작업을 하고 있다고 생각하지 않았을 것이다.
인간을 대신해 컴퓨터를 제어할 수 있는 AI는 학습을 위해 인간의 작업 데이터가 필요하다. 이것은 원래 기술적 문제였지만, 이제 더 복잡한 윤리적 문제가 되고 있다.
메타의 이 발표는 이 논의의 시작일 뿐, 끝이 아니다.
참고 출처: CocoLoop, Meta will record employees's keystrokes and use it to train its AI models (TechCrunch)