당신이 사용하는 모든 AI 모델 뒤에는 가장 더럽고 어두운 콘텐츠——아동 성적 학대 자료, 자살 유도, 극단적 폭력——를 응시하며 라벨을 붙이고, 모델에게 이것이 무엇이며 어떻게 반응해야 하는지 가르치는 실제 사람들이 있다.
이 일을 데이터 라벨링이라고 한다.
이 작업을 담당하는 회사 중 Scale AI는 가장 큰 기업 중 하나다.
Scale AI는 어떤 회사인가
Scale AI는 Alexandr Wang이 19세에 창업했으며, 현재 AI 데이터 인프라 분야에서 가장 중요한 기업 중 하나다. 고객으로는 OpenAI, Google, Meta, 그리고 미 국방부가 포함된다.
2024년 Meta는 직접 143억 달러를 투자해 Scale AI의 대주주가 되었다.
이는 Scale AI가 현재 부분적으로 Meta 소유이면서 동시에 Meta에 훈련 데이터 서비스를 계속 제공하고 있음을 의미한다——이상한 순환 구조다.
노동부 조사
2025년 3월, TechCrunch는 미국 노동부(DOL)가 Scale AI에 대해 공정노동기준법(FLSA) 위반 혐의로 조사를 시작했다고 보도했다.
이 조사는 바이든 행정부 시절 시작되었으며, 거의 1년 동안 외부에 알려지지 않았다.
조사의 초점은 Scale AI의 노동자——회사는 이들을 "Taskers"라고 부른다——이다. Scale AI는 이들을 정규 직원이 아닌 독립 계약자로 분류하는데, 이는 법적으로 실질적인 차이가 있다: 계약자에게는 연방 최저임금 보장, 사회보장, 근로시간법 보호가 적용되지 않는다.
필리핀의 상황은 더 직접적이다: 현지 노동자들은 Google의 자율주행 프로젝트를 위한 데이터 라벨링 작업을 하고 있으며, 보고에 따르면 보수가 현지 법정 최저임금보다 낮고 건강보험이나 유급휴가도 없다.
Scale AI는 위반 혐의를 부인하고 있다.
Schuster 대 Scale AI 소송: 정신적 손상 사건
돈만이 핵심 문제는 아니다.
캘리포니아 북부 연방지방법원에서 심리 중인 소송에서, 원고인 Scale AI의 전직 "Taskers" 다수는 회사가 노동자에게 유해 콘텐츠에 장시간 노출되도록 강요해 심각한 정신적 손상을 초래했으며, 회사가 보호 의무를 다하지 않았다고 주장한다.
이 노동자들은 AI 시스템과 장시간 대화를 해야 했으며, 그 내용은 다음과 같다:
- 자살 유도 및 방법 설명
- 아동 성적 학대 자료(CSAM) 관련 콘텐츠
- 극단적 폭력 및 약탈 시나리오
소장에 따르면, 이것은 빠르게 클릭해서 넘길 수 있는 작업이 아니다. AI 시스템은 노동자의 각 응답에 대해 추가 세부 사항을 계속 추궁하며, 노동자가 지속적으로 이런 콘텐츠에 깊이 관여하도록 요구했으며 "완전한 정신적 몰입"이 필요했다.
소장에는 두 가지 개념이 인용되었다: 도덕적 손상(moral injury)——자신의 가치관에 반하는 행동을 장기간 강요당해 발생하는 심리적 손상——그리고 제도적 배신(institutional betrayal)으로, 고용주가 노동자가 위험에 직면해 있음을 알면서도 보호를 제공하지 않은 것을 의미한다.
노동자들은 PTSD, 우울증, 불안 등의 구체적인 증상을 설명했다.
소송은 과실 및 캘리포니아 부정경쟁방지법(UCL) 위반을 주장하며, 집단소송 인증을 신청하고 있다.
처음이 아니다
이 패턴은 낯설지 않다.
2020년, The Verge는 Facebook(현 Meta)이 콘텐츠 심사 노동자를 고용해 테러리즘 및 아동 폭력 콘텐츠에 대량으로 노출시켰으며, 노동자들에게 외상후 스트레스 증상이 광범위하게 발생했다는 심층 보도를 발표했다. 결국 Facebook의 계약업체 Cognizant는 관련 소송을 해결하기 위해 5200만 달러를 배상했다.
하지만 그것은 콘텐츠 심사였다——노동자의 임무는 플랫폼에서 유해 콘텐츠를 삭제하는 것이었다.
Scale AI의 노동자가 하는 일은 AI 훈련 데이터 라벨링이다——그들은 모델에게 "이런 유형의 콘텐츠에 어떻게 반응해야 하는지"를 가르치고 있다. 이 작업은 더 은폐되어 있고 대중의 인지도는 낮지만, 정신적 손상의 정도는 콘텐츠 심사에 뒤지지 않는다.
업계 구조적 문제
Scale AI 사건이 드러낸 것은 AI 업계의 체계적인 구조다: 가장 유해하고 처리하기 어려운 작업을 가장 낮은 임금을 받는 노동자에게 아웃소싱하고, '독립 계약자' 신분으로 노동 보호를 우회하면서, 자사 제품 출시 페이지에서는 '책임 있는 AI'와 '안전 우선'을 크게 외친다.
Meta는 2024년 143억 달러를 들여 Scale AI의 과반수 지분을 인수했다. 같은 기간 Meta는 'AI 안전'과 '책임 있는 AI'에 관한 수많은 성명과 연구 논문을 발표했다. 그러나 필리핀에서 매일 유해 콘텐츠에 라벨을 붙이고 최저임금보다 낮은 보수를 받고 있을 수도 있는 노동자들의 이름은 어떤 공식 성명에서도 찾을 수 없다.
이 노동자들의 노동은 AI 능력의 물질적 기반이지만, 이 비용은 대규모 모델의 훈련 비용 비교표에 한 번도 등장한 적이 없다.
이제 법원이 그 계산서를 산정하기 시작할 것이다.
출처: Scale AI is being investigated by the US Department of Labor（TechCrunch）；Training Artificial Intelligence and Employer Liability: Lessons from Schuster v. Scale AI（Epstein Becker Green Workforce Bulletin）；Scale AI, Data Labeling Company, CocoLoop、 Under Investigation by the US Department of Labor（AIBase）