あなたが使うすべてのAIモデルの背後では、実際の人間が最も過酷で暗いコンテンツ——児童性的虐待素材、自殺誘導、極端な暴力——を凝視し、ラベルを付け、モデルにそれが何であり、どう反応すべきかを教えている。
この仕事はデータラベリングと呼ばれる。
この作業を請け負う企業の中で、Scale AIは最大手の一つである。
Scale AIの事業内容
Scale AIはAlexandr Wangが19歳の時に創業し、現在ではAIデータインフラ分野で最も重要な企業の一つとなっている。顧客にはOpenAI、Google、Meta、そして米国防総省が含まれる。
2024年、Metaは直接143億ドルを投資し、Scale AIの大株主となった。
これはScale AIが現在部分的にMetaに所有されながら、引き続きMetaにトレーニングデータサービスを提供していることを意味する——奇妙な循環である。
労働省の調査
2025年3月、TechCrunchは米労働省（DOL）がScale AIに対し、公正労働基準法（FLSA）違反の疑いで調査を開始したと報じた。
この調査はバイデン政権下で開始され、約1年間外部に知られることなく続けられた。
調査の焦点はScale AIの労働者——同社は「Taskers」と呼ぶ——である。Scale AIは彼らを正社員ではなく独立請負業者に分類しており、これは法的に重要な違いがある：請負業者には連邦最低賃金保証、社会保障、労働時間法の保護が適用されない。
フィリピンの状況はより直接的である：現地労働者はGoogleの自動運転プロジェクト向けにデータラベリングを行っており、報告によれば報酬は法定最低賃金を下回り、健康保険や有給休暇もない。
Scale AIは違反の申し立てを否定している。
Schuster対Scale AI訴訟：精神的損害事件
金銭だけが核心的な問題ではない。
カリフォルニア北部地区連邦地方裁判所で審理中の訴訟において、原告であるScale AIの元「Taskers」複数名は、同社が労働者に有害コンテンツへの長時間の接触を強要し、深刻な精神的損傷を引き起こしたこと、また同社が保護義務を果たさなかったと主張している。
これらの労働者は、AIシステムとの長時間の対話を求められ、その内容は以下のものを含んでいた：
- 自殺誘導とその方法
- 児童性的虐待素材（CSAM）関連コンテンツ
- 極端な暴力と略奪的シナリオ
訴状によれば、これは素早くクリックして飛ばせる仕事ではない。AIシステムは労働者の応答ごとにさらに詳細を追及し、労働者に継続的にこうしたコンテンツに関与するよう要求し、「完全な精神的没入」を必要とした。
訴状では二つの概念が引用されている：道徳的損傷（moral injury）——自身の価値観に反する行動を長期にわたり強制されることによる心理的損傷——および制度的裏切り（institutional betrayal）——雇用者が労働者がリスクに直面していることを認識しながら保護を提供しなかったことを指す。
労働者はPTSD、うつ病、不安などの具体的な症状を報告している。
訴訟は過失およびカリフォルニア州不正競争法（UCL）違反を申し立てており、集団訴訟の認証を申請している。
初めてではない
このパターンは新しいものではない。
2020年、The VergeはFacebook（現Meta）がコンテンツ審査労働者を雇用し、テロリズムや児童暴力コンテンツに大量に接触させ、労働者に広く外傷後ストレス症状が生じていることを暴く詳細な報道を発表した。最終的に、Facebookの請負業者Cognizantは関連訴訟の和解金として5200万ドルを支払った。
しかしそれはコンテンツ審査だった——労働者の仕事はプラットフォームから有害コンテンツを削除することだった。
Scale AIの労働者が行っているのはAIトレーニングデータのラベリングである——彼らはモデルに「この種のコンテンツにどう反応すべきか」を教えている。この仕事はより隠蔽され、一般の認知度は低いが、精神的損傷の程度はコンテンツ審査に劣らない。
業界の構造的問題
Scale AIの訴訟が暴露したのは、AI業界における体系的な取り決めである：最も有害で困難な作業を最も低賃金の労働者に外注し、「独立請負業者」という身分で労働者保護を回避し、その一方で自社の製品発表ページでは「責任あるAI」と「安全第一」を大々的に謳う。
Metaは2024年に143億ドルを投じてScale AIの過半数株式を取得した。同期間中、Metaは「AI安全」と「責任あるAI」に関する多数の声明と研究論文を発表した。しかし、フィリピンで毎日有害コンテンツにラベルを付け、最低賃金以下の報酬しか得ていないかもしれない労働者の名前は、いかなる公式声明にも登場しない。
これらの労働者の労働はAI能力の物質的基盤であるが、このコストは大規模モデルのトレーニングコスト比較表に一度も登場したことがない。
今、裁判所がその請求書を計算し始めようとしている。
出典：Scale AI is being investigated by the US Department of Labor（TechCrunch）；Training Artificial Intelligence and Employer Liability: Lessons from Schuster v. Scale AI（Epstein Becker Green Workforce Bulletin）；Scale AI, Data Labeling Company, CocoLoop、 Under Investigation by the US Department of Labor（AIBase）