Deep Agents v0.7, 턴당 토큰 65% 절감

Deep Agents v0.7은 턴당 기본 입력 토큰을 65% 줄입니다. 이는 호출할 때마다 고정되는 프롬프트 오버헤드가 감소하고 API 비용이 낮아지며, 중요한 작업 부분에 더 많은 컨텍스트 공간을 사용할 수 있다는 뜻입니다.

이번 업데이트의 핵심을 요약하면 다음과 같습니다.

• 기본 베이스 시스템 프롬프트가 제거되었습니다
• 내장 도구 설명이 더 짧아졌습니다
• 할 일 목록이 더 이상 기본으로 첨부되지 않습니다
• 미들웨어는 한꺼번에 포함되지 않고 목적에 따라 선택됩니다
• 절감 효과는 모델이 아니라 하네스에서 나옵니다

쉽게 말해 에이전트가 10번 호출하면 이전에는 동일한 고정 래퍼가 10번 전송되었습니다. v0.7에서는 이 래퍼가 기본적으로 훨씬 작아졌습니다. 따라서 특히 파일 읽기나 쓰기 같은 간단한 작업에서 각 턴의 요청이 더 간결해집니다.

몇 가지 핵심 사항이 눈에 띕니다.

• 비용은 llm_calls × input_tokens_per_call에 따라 증가합니다
• 이전 설정은 작업에 필요하지 않은 경우에도 계획, 파일 시스템, 하위 에이전트 관련 텍스트를 전송했습니다
• 새 설정에서는 제어권이 사용자에게 넘어가므로 작업에 맞는 프롬프트, 도구, 미들웨어를 직접 선택합니다
• 가장 큰 절감은 베이스 프롬프트를 제거하고 도구 텍스트를 줄인 데서 나옵니다
• 고정 오버헤드가 단계마다 반복되므로 장시간 멀티에이전트 워크플로가 가장 큰 이점을 얻습니다

간단한 전후 비교는 다음과 같습니다.

핵심 결론: v0.7은 모델 변경보다 프롬프트 규율에 더 초점을 둡니다. 하네스를 간결하게 유지하면 65% 절감 효과를 온전히 유지할 수 있습니다. 미들웨어와 도구를 다시 과도하게 추가하면 그 이점의 일부를 잃게 됩니다.

이것이 업데이트의 핵심이며, 이어지는 내용을 이해하는 출발점입니다.

구성 가능한 하네스에서 달라진 점

65% 토큰 절감은 더 스마트한 모델을 사용해서가 아니라 하네스가 각 턴에 주입하는 내용을 바꾼 결과입니다. 간단히 말해 v0.7은 이전에 모든 요청에 따라붙던 많은 기본 텍스트를 제거합니다.

베이스 시스템 프롬프트 제거와 간결해진 도구 설명

v0.7 이전에는 작업에 필요하지 않아도 하네스가 기본 시스템 프롬프트, 긴 도구 설명, 계획 미들웨어, 하위 에이전트 로직을 모든 요청에 포함했습니다. v0.7은 하네스를 구성 가능하게 만들어 이 설정을 바꾸었으며, 이제 개발자가 각 턴에 무엇을 주입할지 결정합니다.

가장 큰 오버헤드의 원인은 기본 베이스 시스템 프롬프트와 긴 내장 도구 설명이었습니다. 베이스 프롬프트에는 계획 도구, 파일 시스템 도구, 하위 에이전트에 대한 지침이 포함되었고 매 턴 전송되었습니다. v0.7에서는 이 프롬프트가 제거되었습니다. 이제 개발자는 작업에 맞는 프롬프트 텍스트를 제공할 수 있습니다.

ls, read_file, write_file 같은 유틸리티의 내장 도구 설명도 짧아졌습니다. 도구는 이전과 동일하게 작동합니다. 각 요청을 둘러싼 고정 텍스트만 줄었습니다. 두 변경 모두 기반 모델에는 영향을 주지 않습니다. 모든 턴이 이전에 부담해야 했던 토큰양을 단순히 줄이는 것입니다.

할 일 목록은 선택형이며 미들웨어를 명시적으로 선택

v0.7 이전에는 todoListMiddleware가 기본으로 첨부되어 매 턴 계획 텍스트가 전송되었습니다. v0.7에서 할 일 목록은 선택형입니다. 즉, 다단계 계획을 통해 작업이 개선되는 경우에만 추가합니다.

동일한 변화가 나머지 미들웨어 스택에도 적용됩니다. FilesystemMiddleware와 SubAgentMiddleware는 더 이상 기본으로 함께 제공되지 않습니다. 이제 개발자는 필요한 미들웨어만 구성할 수 있습니다. 파일 읽기 작업에서는 하위 에이전트 로직을 제외할 수 있습니다. 검증 워크플로에서는 도움이 될 때만 체크리스트 미들웨어를 추가할 수 있습니다.

오케스트레이션이 더 명시적으로 바뀌는 방식

실질적인 변화는 단순합니다. 설정이 암묵적 기본값에서 명시적 구성으로 이동합니다. 어떤 도구가 표시되고, 어떤 미들웨어가 실행되며, 시스템 프롬프트에 무엇을 쓸지 하네스가 결정하는 대신 개발자가 직접 선택합니다. 이제 작업별로 프롬프트 구성, 도구 표시 범위, 미들웨어를 제어합니다.

이러한 변경 사항은 아래 기본 에이전트 스택에서 확인할 수 있습니다. ^[2]

토큰 사용량 전후 비교

이러한 하네스 변경은 각 턴에 전송되는 페이로드에 즉시 나타납니다. 절감은 사용자 프롬프트나 모델을 바꿔서가 아니라 고정된 요청 외피를 줄인 결과입니다.

v0.7 이전 기본 에이전트 턴

v0.7 이전에는 계획, 파일 시스템, 하위 에이전트 스캐폴딩을 전혀 사용하지 않더라도 모든 턴에 포함했습니다. 할 일 목록 텍스트와 미들웨어 프롬프트도 기본으로 포함되었습니다. 이로 인해 큰 고정 페이로드가 매 턴 반복되었습니다.

v0.7 이후 기본 에이전트 턴

v0.7 이후 간단한 파일 읽기 작업은 필요한 도구와 미들웨어만 전송합니다. 따라서 추가 오버헤드가 턴마다 반복되지 않습니다. 베이스 시스템 프롬프트가 제거되고 도구 설명이 짧아졌으며, 파일 읽기 작업에 사용하지 않는 계획 또는 하위 에이전트 텍스트가 더 이상 포함되지 않습니다.

Aaron Jewitt가 설명했듯 에이전트 비용은 llm_calls × input_tokens_per_call에 따라 증가합니다.^[1]

토큰 절감이 발생하는 지점

65% 절감이 어디에서 나오는지 살펴보겠습니다.

가장 큰 절감은 베이스 프롬프트를 제거하고 도구 설명을 줄인 데서 나옵니다. 선택적 미들웨어와 제한된 도구 표시 범위가 일상적인 워크플로에서 뚜렷한 차이를 만드는 이유입니다.

다음 섹션에서는 작업에 필요한 하네스 구성 요소만 선택해 개발자가 이러한 절감 효과를 유지하는 방법을 설명합니다.

개발자를 위한 하네스 구성 패턴

토큰 절감 효과를 확보했다면 다음 단계는 각 작업에 맞는 간결한 하네스 프로필을 선택하는 것입니다. 절감 효과는 더 작은 프롬프트와 간소한 하네스 기본값에서 나옵니다. Deep Agents v0.7에서는 모델이 아니라 하네스가 턴당 토큰 오버헤드의 대부분을 차지합니다. 즉, Deep Agents v0.7 최적화는 모델 선택보다 하네스를 어떻게 구성하는지에 더 크게 좌우됩니다.

작업에 필요한 미들웨어만 선택

게이팅, 계획, 상태 관리가 필요한 작업에만 미들웨어를 사용하세요. 짧은 작업에서는 이러한 추가 계층이 오버헤드만 늘립니다.

원칙은 간단합니다. 작업에 필요한 최소한의 미들웨어 스택으로 시작하세요. 도구에도 같은 원칙이 적용됩니다. 현재 작업에 실제로 필요한 도구만 표시하세요.

도구 표시 범위를 제한하고 설명을 단축

모든 턴에 모든 도구를 보여 주는 것은 턴당 입력을 빠르게 비대하게 만드는 대표적인 원인입니다. 도구 표시 범위를 좁게 유지하면 프롬프트 크기를 줄이는 데 도움이 됩니다.

도구 설명을 짧게 작성하면 프롬프트 크기를 더 줄일 수 있습니다. 간결하고 정확한 설명은 프롬프트 크기를 줄이고, 불필요한 컨텍스트 없이 모델이 올바른 도구를 더 쉽게 선택하도록 돕습니다.

선택형 할 일 목록과 프로필 기반 기본값 사용

할 일 목록 처리는 에이전트가 여러 단계의 진행 상황을 추적해야 하는 장기 작업에 도움이 됩니다. 짧은 단일 단계 작업에서는 할 일 목록이 오버헤드만 추가하고 얻는 이점은 없습니다.

장기 작업에서 할 일 목록을 선택적으로 활성화하고, 에이전트 클래스별로 간결하거나 풍부한 기본값을 설정하세요. 간결한 에이전트 클래스 기본값은 단순한 에이전트에서 65% 절감 효과를 유지하고, 계획 비중이 큰 워크플로에는 더 풍부한 프로필을 사용합니다.

이러한 선택이 65% 절감 효과가 실제 일상 업무에서 비용 절감과 더 빠른 반복 작업으로 이어질지 결정합니다.

v0.7 업데이트가 비용, 속도, 확장성에 미치는 영향

더 낮은 추론 비용과 더 빠른 반복 주기

작아진 요청 외피의 효과는 장시간 워크플로의 모든 턴에서 누적됩니다. 토큰 비용은 멀티턴 실행 전반에 걸쳐 쌓이므로, 간결한 하네스는 첫 번째 턴에서만 비용을 절약하는 것이 아닙니다. 이후 모든 턴의 시작점을 더 작게 유지하며 대화가 길어질수록 격차도 커집니다.

이러한 절감이 실제로 나타나는 지점은 다음과 같습니다.

더 작은 페이로드는 반복 주기도 단축합니다. 프롬프트 변경을 테스트하거나 새로운 도구 설정을 시도할 때 가벼운 요청은 더 빠르게 반환됩니다. 이는 일상적인 개발 작업에서 많은 지연 요소를 제거합니다.

장시간 및 멀티에이전트 워크플로의 확장성 향상

여러 에이전트가 동일한 워크플로 예산을 공유할 때 이러한 토큰 절감은 더욱 중요해집니다. 고정 오버헤드는 멀티에이전트 시스템의 눈에 잘 띄지 않는 예산 소모 요인입니다. 각 에이전트가 과도하게 큰 하네스를 사용하면 이 오버헤드가 조정된 모든 턴에 걸쳐 증가합니다.

더 간결한 하네스 패키지는 각 에이전트의 사용량을 줄입니다. 그 결과 처리량이 향상되고 워크플로 중간에 컨텍스트 한도나 속도 제한에 도달할 가능성이 낮아집니다.

컨텍스트 윈도가 채워지면 성능이 저하될 수 있습니다. 간결한 하네스는 각 에이전트가 실제 작업 데이터에 사용할 수 있는 컨텍스트 공간을 더 많이 제공합니다. 쉽게 말해 장시간 워크플로가 더 오랫동안 정확성을 유지할 수 있으며, 압축이나 요약 로직이 지나치게 일찍 개입할 필요가 없습니다.

호출당 오버헤드 감소는 턴이 많거나 에이전트가 많거나 둘 다인 워크플로에서 가장 중요합니다. 65% 토큰 절감은 호출당 비용을 낮춥니다. 하지만 더 큰 확장성 이점은 v0.7의 명시적 오케스트레이션 모델에서 나옵니다. 끝이 정해지지 않은 루프 대신 명확한 중단 기준을 사용하면 에이전트가 작업을 완료하는 데 필요한 총 호출 횟수가 줄어듭니다.

Deep Agents v0.7 릴리스의 핵심 요점

Deep Agents v0.7은 하네스를 구성 가능하게 만들어 비용과 품질을 개선합니다. 미들웨어 선택, 도구 표시 범위, 프로필 기반 기본값에 따라 워크플로가 전체 절감 효과를 유지할지, 추가 오버헤드로 인해 상당 부분을 잃을지가 결정됩니다.

구성이 핵심 최적화 수단입니다. 그리고 턴이 많거나 에이전트가 많거나 둘 다인 워크플로에서 가장 중요합니다.

자주 묻는 질문

실제 워크플로에서 65% 토큰 절감 효과를 온전히 유지하려면 어떻게 해야 하나요?

하네스 구성을 한 번 설정하고 잊는 작업이 아니라 계속 관리하는 시스템으로 다루세요. 먼저 토큰 사용량과 LLM 호출 횟수를 측정하세요. 그런 다음 하네스를 사용해 엄격한 동작 규칙을 유지합니다.

중복 추론 루프를 중단하려면 **PreCompletionChecklistMiddleware**를 사용하세요. LocalContextMiddleware를 사용해 모델에 필요한 컨텍스트와 도구만 전달하세요. 시스템 지침이 실행마다 안정적으로 유지되도록 프롬프트 캐싱을 추가하세요.

토큰 사용량이 급증하면 동작이 흐트러지는지 살펴보고 하네스 규칙을 더 엄격하게 조정하세요.

어떤 작업에서 할 일 목록이나 추가 미들웨어를 계속 사용해야 하나요?

에이전트가 복잡한 다중 문제를 해결할 때는 **todoListMiddleware**를 사용하세요. 작업이 진행되는 동안 무엇이 완료되었고 어떤 항목에 여전히 주의가 필요한지 에이전트가 추적하는 데 도움이 됩니다.

write_todos 도구 사용을 프롬프트로 지시하면 새로운 세부 정보가 들어올 때 에이전트가 진행 상황을 업데이트할 수 있습니다. 이를 통해 길고 어려운 워크플로를 더 쉽게 파악하고 에이전트가 작업 흐름을 유지하도록 도울 수 있습니다.

더 작은 하네스가 에이전트 품질이나 신뢰성에 영향을 주나요?

기본적으로는 그렇지 않습니다. 더 작고 조정된 하네스는 향상된 컨텍스트 처리, 도구 오프로딩, 구조화된 프롬프트 패키징을 통해 턴당 토큰을 줄이면서 신뢰성을 동일하게 유지하거나 오히려 개선할 수 있습니다.

이러한 절감 효과에 검증 루프와 완료 전 체크리스트 같은 결정론적 가드레일을 함께 적용하면 품질을 유지할 수 있습니다. 이는 에이전트가 중요한 작업 데이터에 집중하고 응답하기 전에 작업을 다시 확인하도록 돕습니다.