모델 제공업체가 일반적으로 "지금까지 쌓아온 것을 버리라"고 요구하는 경우는 드물다. 하지만 OpenAI는 이번에 예외를 두었다.
4월 26일, OpenAI는 GPT-5.5의 공식 프롬프트 가이드를 업데이트하며 매우 직접적인 메시지를 전달했다. 5.2나 5.4용 프롬프트를 그대로 가져오지 마십시오. 도움이 되는 것이 아니라 5.5의 성능을 저해합니다.
이 조언이 이례적인 이유
이 분야에 정통한 사람이라면 '프롬프트 자산'이 기업이 대규모 언어 모델을 도입할 때 가장 큰 숨은 비용 중 하나라는 것을 알고 있다. GPT-4로 수백 개의 프롬프트를 작성하고 5.0, 5.2, 5.4로 마이그레이션하며 그럭저럭 사용해왔는데, 5.5로 옮기면서 갑자기 재작성을 요구받는 것은 기업 입장에서 실질적인 마이그레이션 비용이다.
OpenAI도 이를 모르는 것은 아니다. 이번 표현은 한 글자 한 글자 음미할 가치가 있다.
"GPT-5.5를 gpt-5.2나 gpt-5.4의 드롭인 대체품이 아닌 새로운 모델 제품군으로 취급하십시오. 업무를 수행할 수 있는 가장 작은 프롬프트부터 다시 시작하십시오."
이 말을 풀어쓰면, 편하게 넘어가지 말고 프롬프트 스택 전체를 재평가하라는 뜻이다.
기존 프롬프트의 문제점
OpenAI는 매우 구체적인 '안티 패턴' 특성 두 가지를 제시했다.
1. 프로세스 과잉 지정
기존 프롬프트는 "먼저 A를 수행하고, B를 판단한 다음, C를 호출하고, 마지막으로 D를 출력하라"와 같은 지시로 가득한 경우가 많다. 이전 모델의 추론 능력이 약해서 단계별 안내가 필요했기 때문이다. 하지만 5.5는 다르다. 결과만 주면 모델 스스로 경로를 선택하게 하면 된다.
OpenAI가 제시한 비교 예시는 다음과 같다.
| 작성 방식 | 효과 |
| "고객의 문제를 종단간(end-to-end)으로 해결하라" | 권장 |
| "먼저 문제를 명확히 하고, 두 번째로 지식 베이스를 검색하고, 세 번째로..." | 비권장 |
후자가 틀린 것은 아니지만, 모델의 판단 여지를 제한한다.
2. 출력 스키마 강제
이 점은 특히 개발자에게 중요하다. JSON 구조를 안정적으로 만들기 위해 프롬프트에 "필드 X, 필드 Y, 필드 Z를 반드시 포함해야 함"과 같은 지시를 넣는 경우가 많았다. GPT-5.5의 조언은 가능한 한 생략하고 모델이 스스로 구성하도록 하는 것이다. 제품 계약상 정말로 필요한 경우에만 하드코딩해야 한다.
예전 '역할 정의'의 귀환
흥미롭게도 지난 2년간 프롬프트 엔지니어링 커뮤니티에서는 "당신은 전문가입니다"와 같은 역할 정의를 노이즈로 간주하고 제거하는 것이 더 나은 결과를 가져온다는 경향이 있었다.
하지만 OpenAI의 새 가이드는 7부분 구조를 권장하며, 첫 번째 부분이 바로 역할(Role)이다.
- Role (역할)
- Personality (성격/어조)
- Goal (목표)
- Success criteria (성공 기준)
- Constraints (제약 조건)
- Output format (출력 형식)
- Stop rules (중단 규칙)
각 부분의 분량에 대해 OpenAI는 짧고 구체적으로 작성하라고 조언한다. 예를 들어 success criteria에는 "사용자가 만족한다"가 아니라 "문제가 해결되고 다음 실행 가능한 조치가 제공된다"라고 써야 한다.
세부 변경: 기본 reasoning effort 변경
GPT-5.5의 또 다른 암묵적 변경 사항은 기본 reasoning effort가 high에서 medium으로 변경된 것이다.
즉, 프롬프트를 그대로 마이그레이션하면 모델이 5.4보다 '생각하는' 정도가 줄어든다. OpenAI는 medium을 새로운 기준선으로 삼고, medium으로 충분하지 않다고 확인된 경우에만 high로 올릴 것을 권장한다. 그 배경에는 지연 시간과 비용에 대한 고려가 있다. 5.5의 medium은 이미 5.4의 high보다 뛰어나므로 기본값을 high로 설정할 필요가 없다는 판단이다.
검색 예산과 짧은 머리말
엔지니어링 관점에서 주목할 만한 두 가지 세부 사항도 기록해 둘 가치가 있다.
- Retrieval budget: 정보 검색이 필요한 작업의 경우 모델에 최대 검색 횟수를 명시적으로 지시한다. OpenAI가 제시하는 출발점은 "짧고 변별력 있는 키워드를 사용하여 한 번의 광범위한 검색을 수행하라"이다.
- Short preamble: 스트리밍 출력 시나리오에서 도구 호출 전에 한두 단어의 '확인' 응답을 출력하도록 하면 사용자가 응답을 더 빠르게 인식할 수 있다.
이 두 가지 모두 긴 작업을 더 매끄럽게 느끼게 하기 위한 것이다. 모델 자체가 빨라진 것이 아니라 사용자에게 피드백이 전달되는 리듬이 빨라진 것이다.
이 가이드가 이렇게 직설적인 이유
OpenAI가 지금까지 발표한 프롬프트 가이드는 대부분 '제안' 수준에 머물렀다. 이번 5.5 가이드는 훨씬 강한 어조를 띠고 있다. 그 배경에는 복잡하지 않은 이유가 있다.
5.5의 대외 가격은 5.4와 동일하지만 내부 비용 구조는 변경되었다. 5.5는 짧고 날카로운 프롬프트에 가장 잘 반응하며, 장황하게 쌓인 프롬프트에서는 효율성이 떨어진다. 개발자가 기존 방식을 계속 사용하면 OpenAI 자체의 수익도 줄어든다.
어떤 의미에서 이는 OpenAI가 '프롬프트는 제품의 일부'라고 공개적으로 밝힌 첫 번째 사례다. 모델은 진화하고 있으며, 프롬프트를 업데이트하지 않는 것은 구버전을 계속 사용하는 것과 같다. 이 사실은 수년간 모두가 알고 있었지만, 제품 측은 모호하게 넘어갔고 누구도 적극적으로 지적하지 않았다.
개발자들의 반발이 있을까? 아마도 그럴 것이다. 하지만 주요 고객들이 A/B 테스트를 통해 "프롬프트 재작성 후 정확도가 몇 포인트 상승하고 비용이 몇 % 절감되었다"는 비교 데이터를 확인하면 분위기는 안정될 것이다.
다음 모델 업그레이드 시에는 "GPT-5.5에서 5.6으로 마이그레이션할 때도 프롬프트를 다시 작성해야 하는가"라는 논쟁이 벌어질 것으로 예상된다.
출처: OpenAI says old prompts are holding GPT-5.5 back and developers need a fresh baseline (The Decoder); GPT-5.5 prompting guide (simonwillison.net); CocoLoop; Using GPT-5.5 (OpenAI 공식 문서)