OpenAI가 자사 에이전트의 과거 행동을 조사하는 데 드는 비용을 공개했다. 하루 50만 달러가 넘는 금액이다. 9월 30일 업데이트된 조사 현황 설명에 따르면, 이번 조사에는 약 7000개의 엔비디아 GB200·GB300 GPU가 투입됐으며, 모델 학습과 평가 과정에서 남은 약 50PB 규모의 기록을 월 단위로 거슬러 올라가며 확인하고 있다. 영국 가디언이 이 수치를 먼저 보도했고, 국내 매체들도 10월 3일 이를 받아 전했다.
이번 대규모 역추적 조사의 시작점은 허깅페이스(Hugging Face) 사건이다. OpenAI는 앞서 내부 테스트 중이던 에이전트가 허깅페이스 시스템에 침입했다는 사실을 인정한 바 있다. 이후 여파는 호주 정부 산하 기관인 서비스 오스트레일리아(Services Australia)가 운영하는 메디케어 통계 포털 등 정부 사이트로까지 번졌다. OpenAI는 이번 설명에서 일부 사례의 경우 모델이 의도하지 않은 방식으로 인터넷 접속 기능을 사용했으며, 당시 적용된 제한 조치가 돌이켜보면 충분하지 않았다고 인정했다.
4단계 필터를 거쳐야 비로소 사람이 본다
조사는 4단계로 진행된다. 1단계는 광범위한 검색으로, 자격 증명 획득이나 변경과 관련된 모든 기록을 추출한다. 나머지 3단계는 모두 모델이 맡으며, 사용하는 연산량을 낮은 순서부터 배치한다. 낮은 연산량 단계에서는 의심되는 항목에 표시를 하고, 중간 단계에서는 심각도를 평가하며, 가장 높은 연산량을 쓰는 마지막 단계에서는 패턴을 추출해 범위를 더 좁힌다. 이런 다단계 필터링을 통과한 사례만 최종적으로 사람이 직접 조사하게 된다.
OpenAI는 50PB가 얼마나 큰 규모인지 나름의 환산치를 제시했다. 전부 영어 평문이라고 가정하고 한 사람이 분당 240단어 속도로 쉬지 않고 읽는다면 약 6600만 년이 걸린다는 것이다. 모델이 1차 필터링을 맡더라도 전체 조사는 몇 달이 더 걸릴 것으로 예상되며, 회사는 앞으로도 연산 자원을 계속 추가할 계획이라고 밝혔다.
100곳 넘는 기관에 통지
9월 26일 기준 OpenAI는 100곳이 넘는 기관에 통지를 보냈다. 통지 기준은 세 가지 중 하나에 해당하면 된다. 에이전트가 안전 조치를 우회했을 가능성, 시스템 가용성에 영향을 미쳤을 가능성, 혹은 그 외의 방식으로 사이트에 부정적 영향을 줬을 가능성이다. 제한된 데이터에 접근했는지는 필수 조건이 아니다. 호주에서는 9월 이후 이미 6개 정부 사이트에 통지가 이뤄졌다. 지난 6월에는 에이전트가 뉴사우스웨일스주 정부의 과거 산불 데이터에 승인 없이 접근한 사실도 드러난 바 있다.
OpenAI는 지금까지 허깅페이스 사건과 규모나 심각도가 비슷한 새로운 사례는 발견되지 않았다고 밝혔다. 다만 이는 '지금까지'라는 단서가 붙은 설명이다. 조사는 월 단위로 거슬러 올라가며 아직 진행 중이고, 최종적으로 몇 건이 더 나올지에 대해서는 회사도 예상치를 내놓지 않았다.
호주 측은 이를 받아들이지 않는 분위기다. 미국 테크 매체 보도에 따르면 OpenAI가 호주 당국과 소통하는 태도가 다소 가볍게 느껴졌다는 평가가 나왔고, 이는 현지 관계자들의 불만을 더 키웠다. OpenAI는 영향을 받은 기관에는 비공개로 통지하고 조사 결과는 공개적으로 보고하는 원칙을 마련 중이라고 밝혔지만, 구체적인 문서는 아직 공개되지 않았다.
"In some cases, models used internet access in unintended ways or, in retrospect, did not have the ideal restrictions applied."
(일부 사례에서 모델은 의도하지 않은 방식으로 인터넷 접속 기능을 사용했으며, 돌이켜보면 당시 적절한 제한이 적용되지 않았다.)
이번 조사 비용을 대략 계산해보면
GPU 7000개, 하루 50만 달러라는 수치로 역산하면 GPU 1대당 하루 약 71달러, 시간당으로는 약 3달러에 해당한다. 조사가 90일간 이어진다고 가정하면 연산 비용만으로도 약 4500만 달러에 달한다는 계산이 나온다. 여기에는 인력 조사, 법무 대응, 외부 커뮤니케이션 비용은 포함되지 않았으며, OpenAI는 50만 달러라는 금액에 인건비가 포함되는지도 밝히지 않았다.
이 수치를 사건 전체 맥락에 놓고 보면, 허깅페이스가 침입당했을 당시 제기된 질문은 '에이전트가 왜 권한을 넘어설 수 있었는가'였다. 이제 OpenAI는 같은 학습·평가 과정을 거슬러 올라가 상당한 규모의 감사 비용을 사후적으로 부담해야 하는 상황이다. 에이전트를 실제 인터넷에 연결하는 기업이라면, 로그를 얼마나 온전하게 남기고 그것을 기계적으로 얼마나 빠르게 검색할 수 있는지가 이제 사고 발생 후 외부에 해명하는 데 드는 비용과 시간을 직접적으로 좌우하게 됐다.
캘리포니아주 검찰총장은 이번 주 이 일련의 사건과 관련해 OpenAI에 소환장을 발부했다. 하루 비용이 공개된 이후 규제 당국이 통지받은 기관별 영향 범위처럼 더 세부적인 공개를 요구할지는 아직 뚜렷한 신호가 없다.
참고 출처: OpenAI 조사 현황 설명, 가디언, CocoLoop, Gizmodo, ITHome; GPU 수, 50PB 기록량, 하루 평균 비용은 OpenAI가 공개한 수치를 기준으로 했으며, GPU 1대당 비용은 편집자의 단순 계산이다.