아마존, API 키 훔쳐 스스로 자금 대는 AI 공격 에이전트 차단

아마존, API 키 훔쳐 스스로 자금 대는 AI 공격 에이전트 차단

아마존은 보안 블로그를 통해, 한 공격 집단이 오픈소스 침투 테스트 프레임워크 Artex로 AI 에이전트를 구동해 약 한 달 동안 공개 인터넷에 노출된 AI 애플리케이션에서 API 키를 훔쳤다고 밝혔다. 에이전트는 키를 손에 넣으면 먼저 쓸 수 있는지 검증하고, 쓸 수 있는 키를 공유 풀에 모았다. 이어 이 키로 더 많은 LLM 호출 비용을 치르면서 다음 키를 찾아 나섰다.

아마존의 표현으로는 가장 규모가 큰 Artex 작전은 모델 접근 자격 증명을 대규모로 훔치는 것이었고, 운영 방식은 "self-sustaining(자급자족형)"이었다. 훔친 키가 추론 비용을 내고, 그 추론이 다음 수집을 이끄는 구조다. 작전은 10월 3일 시작돼 11월 5일 아마존의 미끼 센서 네트워크 MadPot에 포착돼 차단됐다. 아마존은 영향을 받았을 수 있는 AWS 고객에게 통보했다.

에이전트가 스스로 장부를 넘겨줬다

전모가 드러난 데는 다소 아이러니한 사정이 있다. MadPot은 흔한 LLM 접속 서비스로 위장한 미끼 시스템을 여러 대 배치해 뒀는데, 공격 에이전트가 여기에 요청을 보내면서 에이전트의 작업 메모리, 즉 자신의 행동 기록을 함께 실어 보냈다. 아마존의 보고서는 이 기록을 폭넓게 인용한다.

기록을 보면 공격 절차는 상당히 정돈돼 있었다. 에이전트는 먼저 인터넷에서 노출된 AI 앱을 찾고, API 키를 추출하고, 사용 가능 여부를 검증한 뒤 풀에 넣는다. 운영자가 에이전트에게 내린 지시에는 정해진 국가 순서대로 하나씩 스캔할 것, 기업 운영 환경을 우선 노리고 개인 프로젝트는 건드리지 말 것, 훔친 키마다 쓸 수 있는지와 어떤 자원에 접근할 수 있는지를 기준으로 점수를 매길 것 등이 포함돼 있었다.

지시에는 넘지 말아야 할 선도 있었다. 중국 본토 표적과 정부 도메인은 제외하고, 모든 외부 발신 트래픽은 프록시를 거치게 하라는 것이다.

"organizations should assume exposed secrets and misconfigurations will be found quickly and remediate accordingly"

(각 기관은 노출된 비밀 정보와 잘못된 설정이 금세 발견될 것이라고 가정하고, 그에 맞춰 서둘러 보완해야 한다.)

또 다른 작전은 암호화폐 거래소를 노렸고, 실시간 딥페이크 주입으로 KYC 신원 확인을 우회했다. 보고서는 이 작전의 성공률을 밝히지 않았다.

지목된 도구, 중국 개발자에겐 익숙한 이름들

기록에 오른 수백 개의 표적은 두 부류로 나뉜다. 하나는 LiteLLM, One API, Veloera 같은 LLM 게이트웨이와 프록시이고, 다른 하나는 FastGPT, Dify 같은 AI 앱 구축 플랫폼이다.

이 목록은 중국 팀들에게 낯설지 않다. One API와 FastGPT는 중국 개발자들이 만든 오픈소스 프로젝트이고, Dify도 중국 기업에서 널리 배포돼 있다. 내부 사용자나 고객에게 통일된 모델 진입점을 주려고 이들을 해외 클라우드 호스트에 설치한 팀이 적지 않다. 이런 게이트웨이의 설정에는 여러 모델 업체의 키가 한꺼번에 저장돼 있는 경우가 많아서, 한 대가 뚫리면 청구서 한 묶음을 통째로 잃게 된다.

공격 지시가 중국 본토 표적을 제외했기 때문에, 본토 데이터센터에 둔 인스턴스는 이론상 이번 파도를 피했다. 반면 홍콩, 싱가포르, 미국 클라우드에 둔 인스턴스는 스캔 범위에 들어 있었다. 대략 훑어봤을 때 가장 먼저 확인할 것은 세 가지다. 관리 콘솔이 공용 인터넷에 직접 노출돼 있지 않은지, 기본 비밀번호와 초기 토큰을 바꿨는지, 게이트웨이에 저장된 업스트림 키에 사용 한도와 접속 IP 제한을 걸어 뒀는지다.

아마존은 기록에 표적으로 오른 조직이 모두 뚫린 것은 아니다라고도 설명했다. 보고서는 실제로 도난당한 키의 수와 피해 고객 수를 공개하지 않았다. 아마존은 각 조직이 스스로 점검할 수 있도록 보고서를 냈다고 밝혔다.

공격 주체 판단과 FBI의 경고

아마존 위협 인텔리전스 팀은 '중간 신뢰도'로, 배후에 중국과 연관된 서로 독립적인 여러 위협 집단이 있다고 본다. 근거로는 프롬프트가 중국어 간체로 작성된 점, 시간대가 중국 시간으로 설정된 점, 표적 선정이 중국의 이익에 부합하는 점, 사용된 도구가 이런 집단에서 흔히 보이는 것이라는 점을 든다. 이 판단은 현재까지 다른 정부 기관의 공개 확인을 받지 못했다.

Artex가 공격에 쓰인 사례는 이미 여러 기업이 보고했다. 마이크로소프트는 10월 하순, 자사가 Storm-0940으로 명명한 집단이 Artex로 전 세계 수백 개 기관에 대한 공격을 자동화했다고 밝혔고, 구글 위협 인텔리전스 그룹도 이어서 공격자들이 에이전트 프레임워크를 무기화하는 것을 관측했다고 말했다.

FBI는 지난주 여러 공격 주체가 각 업종에서 Artex로 공격을 벌이고 있다는 FLASH 경보를 냈다. 일부 사례는 표적을 정한 뒤 침입을 끝내기까지 3시간이 걸리지 않았다. 경보에 따르면 한국 금융업 공격에서는 최소 6만 8천 명의 개인정보가 유출됐고, ConnectWise를 통한 침입으로 공격자는 최소 2250개 고객사의 Microsoft 365 환경에 들어갔다. 다만 이 경보는 앞서 나온 11건의 보고를 종합한 것이며 새로운 사례를 공개하지 않았다고 지적한 매체도 있다.

Artex 개발자는 잇따른 공격이 드러나자 소프트웨어를 비공개 소스로 전환했다. FBI는 그 이전의 오픈소스 버전이 여전히 널리 유통되고 있다고 본다.

참고 출처: 아마존 보안 블로그, Cybernews, CocoLoop, TechCrunch, FBI FLASH 경보. 한국 피해자 수와 ConnectWise 고객 수는 TechCrunch가 경보를 전한 내용을, 작전 기간과 공격 주체 판단의 신뢰도는 아마존의 설명을 따랐다.