오픈 모델 추론 플랫폼 Fireworks는 이번 주 월요일 새로운 침해를 당해 일부 고객의 청구 정보, 모델 가중치, 데이터셋이 유출됐다고 확인했다. 보도에 따르면 회사는 지난주 Harvey 등 대형 고객 몇 곳에 10월보다 심각한 사고가 발생했다고 먼저 알렸으며, 현재 보안업체 Palo Alto Networks 산하 Unit 42와 함께 조사하고 있다.
Fireworks 대변인은 회사가 이번 사고를 "매우 중대하게 받아들이고 있다"며, 고객과 직접 소통하는 한편 Unit 42와 함께 문제를 점검하고 시스템을 보강하고 있다고 밝혔다. 법률 AI 기업 Harvey의 대변인은 이번 사고가 Harvey의 고객 데이터에는 영향을 주지 않았다고 말했다.
Notion, Vercel, Cursor는 모두 Fireworks의 서비스를 쓰고 있다. 이들 기업과 최종 사용자 데이터가 영향을 받았는지는 아직 확인되지 않았으며, 각 회사는 공식 입장을 내놓지 않았다.
한 달 새 두 번째 사고
시간순으로 놓고 보면 Fireworks에서 한 달 사이에 사고가 터진 것은 이번이 두 번째다.
10월 6일 Fireworks는 누군가 회사 내부 자격 증명을 도용해 "제한된 수"의 고객 계정에서 평가 작업의 환경 변수를 읽어 갔다는 사실을 파악했다. 여기에는 시크릿 형태로 저장된 서드파티 API 키와 토큰이 포함돼 있었다. 회사는 10월 9일 밤 보안 공지를 올렸고, 이튿날 일부 사용자 API 키를 폐기하고 서비스 계정 토큰을 교체했다. 당시 공지에는 이렇게 분명히 적혀 있었다.
"we have not detected evidence of unauthorized access to customer models, datasets, training data"
(고객 모델, 데이터셋, 학습 데이터에 대한 무단 접근 증거는 확인되지 않았다.)
한 달 뒤, 모델 가중치와 데이터셋이 유출 목록에 올랐다. 두 사고가 서로 관련돼 있는지는 현재로서는 판단할 수 없다고 Fireworks는 밝혔다. 10월 공지 페이지는 10월 10일 업데이트에서 멈춰 있고 상태는 "지속 모니터링"으로 표시돼 있으며, 기사 작성 시점까지 11월 사고 내용은 추가되지 않았다.
휘말린 곳은 한 곳이 아니다
10월 침해가 일어났을 때 Fireworks만 당한 것은 아니었다. 클라우드 보안업체 Wiz는 10월 30일 보고서에서 이번 공격 물결을 AI 개발자 플랫폼의 "블랙 옥토버"라고 불렀다. 처음에는 Fireworks, Railway, Warp, Lightning AI 등 9곳을 꼽았지만, 11월 10일 업데이트에서는 보안 사고를 공개한 곳이 16곳으로 늘었고 NVIDIA 산하 Brev도 포함됐다.
Wiz가 정리한 공통점은 공격자가 환경 변수에 든 시크릿, 특히 AI 서비스를 호출할 수 있는 키를 집중적으로 뒤진다는 것이다. 키를 손에 넣으면 먼저 요청을 한 번 보내 쓸 수 있는지 확인하고, 이어 프록시 풀로 대규모 호출을 벌인 뒤 되팔기 경로로 현금화한다. 업계에서는 이렇게 대형 언어 모델 사용량을 훔치는 수법을 LLM 하이재킹이라 부른다. Wiz가 든 사례 하나에서는 유출된 키가 약 30시간 동안 약 80만 번 호출됐고, 다른 사례에서는 약 13시간 동안 170만 번 호출됐다. 두 사례를 정가 기준으로 합산하면 10만 달러를 넘을 수 있다.
보도에 따르면 Unit 42는 이번 Fireworks 공격이 LLM 하이재킹을 하는 사이버 범죄 조직과 관련 있다고 본다. 다만 이 주장은 현재 언론 전언으로만 나와 있으며, Unit 42는 공개 보고서를 내지 않았고 구체적인 조직 이름도 밝히지 않았다.
투자 유치 시점에 터진 보안 사고
타이밍은 Fireworks에 매우 나쁘다. 2022년 설립된 이 회사는 올해 7월 연환산 매출 10억 달러, 기업 가치 175억 달러에 도달했다. 관계자들에 따르면 이번 주 새 투자 라운드를 시작할 계획이었고, 목표 기업 가치는 최소 300억 달러였다.
역시 관계자들의 말로는, 플랫폼에 매년 수백만 달러를 쓰는 일부 대형 고객이 이전을 고려하고 있다. 투자 유치가 미뤄질지, 실제로 얼마나 많은 고객이 옮길지에 대해 Fireworks는 답하지 않았으며, 이 부분은 현재 확인할 수 없다.
사용자에게는 Fireworks의 10월 공지에 담긴 권고가 이번에도 그대로 적용된다. Fireworks 안에서 저장된 키를 삭제해도 키 자체가 무효화되는 것은 아니다. 해당 서비스 제공업체에서 서드파티 자격 증명을 교체하고, 그 자격 증명의 접근 로그를 점검해야 한다.
참고 출처: 신랑재경(Sina Finance), Fireworks 보안 공지, CocoLoop, Wiz 보안 연구 보고서. 확인 대상은 두 사고의 유출 범위, 영향받은 플랫폼 수, 키 악용 호출 횟수이며, 매출과 기업 가치 수치는 보도 기준을 따른다.