Section 1오케스트레이션의 자율성 스펙트럼
패턴은 복잡성을 다스리는 구조를 제공하고, 이미 잘 이해된 문제에 같은 답을 거듭 재발명하는 수고를 덜어 준다. 다중 에이전트 시스템도 다르지 않다.
"순차 패턴", "수퍼바이저 패턴", "계층적 패턴", "스웜 패턴" — 표현은 제각각이지만, 그 밑바탕의 패턴들은 하나의 본질적 스펙트럼을 따라 정리된다. 오케스트레이션을 결정하는 데 에이전트에 부여된 자율성의 정도.
한쪽 끝에는 워크플로우 패턴 — 개발자가 실행 경로를 명시적으로 정의한다. 반대쪽 끝에는 자율 패턴 — 에이전트가 런타임 추론과 통신을 통해 스스로 오케스트레이션을 결정한다.
다중 에이전트 조율은 수십 년의 분산 시스템 연구 위에 선다. Airflow·Temporal·Prefect 같은 워크플로우 엔진은 DAG 기반 의존성 관리의 토대다. 그러나 AI 에이전트는 새로운 차원을 가져온다 — 자연어를 통한 의미론적 추론, 중간 결과에 따라 흐름을 바꾸는 동적 계획, 새로운 오류 탐지가 필요한 확률적 출력, 그리고 대화 길이에 비례하는 토큰 기반 경제 구조.
Section 2워크플로우 패턴 — 명시적 제어
워크플로우 패턴은 다중 에이전트 오케스트레이션을 계산 그래프로 모델링한다. 노드는 계산 단위(함수·에이전트·팀)를, 엣지는 노드 간 제어 흐름을 정의한다.
그래프 안의 계산 단위. 정해진 입력을 받아 처리하고 정의된 구조의 출력을 만든다. 자체 내부 상태를 유지할 수 있고, 공유 상태를 읽거나 수정할 수 있다.
두 노드 사이의 제어 흐름·전이. A→B 엣지는 A의 출력이 B의 입력이 됨을 함의한다. 조건부일 수 있다 — 이전 노드 출력, 공유 상태, 외부 신호, 임의 로직, 사람 입력에 근거하여.
세 가지 워크플로우 패턴
| 패턴 | 구조 | 적합한 과업 |
|---|---|---|
| 순차 | 선형 실행 A→B→C, 출력이 다음 입력으로 | 자연스러운 순차 의존성 — 뉴스 요약 파이프라인 |
| 조건부 | 로직 기반 엣지로 다음 노드 결정, 분기·동적 라우팅 | 코드 테스트 통과→배포, 실패→재작성. 수퍼바이저 워크플로우로 확장 |
| 병렬 | DAG 위 동시 실행, 팬-아웃·팬-인 단계 | 부수 효과 없이 병렬화 가능한 독립 과업 — 다중 데이터 소스 처리 |
수퍼바이저 워크플로우는 조건부의 변형이다 — 중앙 제어 노드가 요청을 평가한 뒤 과업 특성에 따라 전문화된 에이전트에게 일을 분배한다. 각 노드 자체가 또 다른 워크플로우를 품으면 계층적 패턴이 된다.
workflow.add_edge(
"validate",
"process",
condition={
"type": "output_based",
"field": "is_valid",
"value": True
})
워크플로우 패턴의 으뜸 장점은 신뢰성이다. 그러나 이는 세 전제 위에 선다 — 해법이 이미 알려져 올바른 과업 분해가 가능할 것, 행동 순서를 설계할 자원이 갖춰질 것, 과업이 정적이고 예측 가능할 것. 동적이고 실세계적인 상황에서는 이 전제가 들어맞지 않는 경우가 많다. 이때 자율 패턴이 통제권을 개발자에게서 에이전트 자신에게로 옮기는 대안을 제시한다.
Section 3자율 패턴 — 창발적 제어
자율 패턴에서는 제어 흐름이 AI 모델에 의해 주도되며 런타임에 동적으로 정해진다. 사전에 처방된 경로 대신, 에이전트들이 상호 통신과 공유된 이해를 통해 스스로 오케스트레이션을 만들어 간다.
어떤 "에이전트"도 내부적으로는 그 자체가 다중 에이전트 시스템일 수 있다. 계획 기반 오케스트레이션 속 "코더 에이전트"가 내부에서 순차 워크플로우를 굴리고, 핸드오프 속 "리서치 팀"이 AI 주도 대화로 전문가를 조율할 수 있다. 이러한 계층적 접근은 명확한 경계를 제공하고 통신 소음을 줄이며, 각 층의 조율 요구에 가장 알맞은 패턴을 골라 쓰게 해 준다.
3.1 계획 기반 오케스트레이션
단일 오케스트레이터 에이전트가 명시적 계획 수립, 동적 과업 배정, 중앙 집중적 진행 모니터링으로 전체 실행을 관리한다. "프로젝트 매니저"처럼 행동한다.
- 계획 관리 — 오케스트레이터가 배정·의존성을 포함한 명시적 과업 계획을 유지한다.
- 가시성 — 오케스트레이터는 모든 맥락을 보지만, 다른 에이전트는 관련 정보만 받는다.
- 과업 배정 — 현재 계획에 근거해 오케스트레이터가 명시적으로 분배한다.
- 상태 관리 — 계획·진행·평가가 오케스트레이터에 중앙 집중된다.
HuggingFace·Meta의 GAIA 벤치마크(2023)에 맞서, 저자와 동료 Adam Fourney는 AutoGen으로 Magentic-One을 설계해 리더보드 1위를 차지했다 — 오케스트레이터가 명시적 Task Ledger와 Progress Ledger로 네 에이전트를 지휘하는 아키텍처. Anthropic의 Research 시스템도 오케스트레이터–워커 패턴으로, 리드 에이전트가 질의 복잡도에 따라 1~10개 이상의 서브에이전트를 동적으로 생성해 단일 에이전트 대비 90.2% 성능 향상을 끌어냈다.
3.2 핸드오프 패턴
에이전트가 제한된 지역적 지식만으로 동작하면서도 동료 간(peer-to-peer) 위임을 통해 조율된 행동을 달성한다. 에이전트는 과업 이해와 알고 있는 다른 에이전트 정보를 바탕으로, 언제 누구에게 통제권을 넘길지를 지역적으로 결정한다. 구현은 비교적 단순하다 — 에이전트들을 툴처럼 표현하면 핸드오프가 곧 툴 호출이 된다.
3.3 대화 주도 패턴 — 그룹 채팅
모든 에이전트가 하나의 공유 대화에 참여하며, 오케스트레이션은 명시적 계획이나 구조화된 핸드오프가 아니라 대화의 일부로서 일어나는 턴 교환을 통해 떠오른다.
- 가시성 — 브로드캐스트, 모든 에이전트가 모든 메시지를 관찰한다.
- 턴 교환 — 라운드 로빈, 무작위, 혹은 AI 주도 선택 메커니즘.
- 의사결정 — 다음 발화자는 사전 계획이 아니라 대화 맥락에 근거해 선택된다.
라운드 로빈 대화는 미리 정해진 순서를 반복한다. AI 주도 대화는 LLM 셀렉터가 대화 이력을 평가해 다음 발화자를 동적으로 결정한다 — "조사가 끝났으니 Writer가, 초안에 개선이 필요하니 Critic이."
대화 주도 패턴은 ReAct(사고-행동-관찰 루프)나 Reflexion(실패를 언어적 피드백으로 저장)을 자연스럽게 가능케 한다. 전문화된 Thinker·Actor·Observer가 차례를 주고받으며 사이클을 구현하고, 대화 이력 자체가 일화 기억이 되어 추론 루프와 실패로부터의 학습을 동시에 가능케 한다.
토큰 사용량이 대화 길이에 비례해 선형 증가하므로 긴 작업에서 비용 부담이 크다. 컨텍스트 윈도우가 넘쳐 초반 컨텍스트를 잃기도 한다. Cognition의 연구(Yan 2025)가 지적하듯, 같은 대화를 토대로 일하는 에이전트라도 서로의 추론에 대한 이해가 불완전한 탓에 "상충하는 결정"을 내려 결과가 파편화될 수 있다.
Section 4패턴 선택과 비교
네 가지 핵심 차원에서 패턴을 비교한다 — 제어 흐름, 자율성, 제어, 복잡성. 제어와 자율성은 서로 반비례로 움직인다.
| 작업 특성 / 시스템 요건 | 권장 패턴 |
|---|---|
| 잘 정의되고 반복 가능한 프로세스 | 워크플로우 (순차·조건·병렬) |
| 동적이고 탐색적인 작업 | 자율 패턴 (대화 주도) |
| 복잡한 계획 수립이 필요 | 계획 기반 오케스트레이션 |
| 도메인 전문성이 필요 | 핸드오프 패턴 |
| 높은 예측 가능성 | 워크플로우 패턴 |
| 최대 자율성 | AI 주도 대화 |
| 자원 제약 / 최소 조율 오버헤드 | 핸드오프 패턴 |
| 신속한 프로토타이핑 | 대화 주도 패턴 |
대부분의 프로덕션 시스템은 작업 분해에 기반해 여러 패턴을 결합한다. 예측 가능한 구성 요소에는 워크플로우를, 유연성이 필수인 곳에는 자율 패턴을, 모든 곳에 일관된 작업 관리를. 핵심 원칙은 패턴과 작업의 정렬(pattern-to-task alignment) — 모든 오케스트레이션을 단 하나의 패턴 유형으로 밀어 넣지 마라.
Section 5작업 관리 패턴
오케스트레이션 패턴을 넘어, 성공적인 다중 에이전트 시스템은 생산적 결과를 보장하고 통제 불능 실행을 방지하기 위해 명시적 작업 관리 전략을 요구한다. 이는 워크플로우와 자율 패턴 모두에 적용되는 횡단적 관심사다.
종료 패턴
- 예산 기반 종료 — 시간·비용·반복 횟수에 한도 설정.
- 의미 기반 종료 — LLM 추론으로 작업 완료 여부 감지.
- 외부 신호 — 사람의 개입이나 API 호출로 촉발되는 정지.
휴먼 위임 패턴
- LLM 기반 위임 — 에이전트의 추론으로 에스컬레이션 필요 여부 판단. 위험성·복잡성·신뢰도를 평가한다.
- 규칙 기반 위임 — 코드에 명시된 트리거. 결정론적이고 감사 가능하다. 만 달러 초과 거래, 의료·법률 도메인, 세 번 연속 실패 등.