Section 1인터페이스와 소프트웨어의 진화
다중 에이전트 시스템은 인터페이스 설계에서 위임 설계(delegation design)로의 근본적 전환을 표상한다 — 사용자가 특정 컨트롤을 직접 조작하는 대신, 자율 시스템에 개방형 과업 지시를 전달하는 UX 패러다임이다.
전통적 애플리케이션은 직접 조작을 제공한다 — "이메일 보내기"를 클릭하면 프로그래머가 정의한 예측 가능한 루틴이 실행된다. 다중 에이전트 시스템은 세 가지 핵심 속성을 통해 사뭇 다르게 작동한다.
- 자율성 — AI 모델이 광대한 행동 공간에서 액션을 결정한다.
- 결과의 무게 — AI의 추론에 기반해 실세계에 영향을 미친다.
- 지속성 — 시스템을 가로지르는 복잡하고 장시간에 걸친 조율.
| 세대 | 이메일 상호작용 |
|---|---|
| 명령줄 (CLI) | mail -s "Subject" recipient@example.com — 구문 암기 필요 |
| GUI 클라이언트 | 시각적 작성, 드래그 앤 드롭 정리 |
| 지능형 인터페이스 | "팀에게 월요일 회의 이메일을 보내고 의제를 첨부해 줘" — 의도 해석, 파일 검색, 내용 생성 |
소프트웨어 1.0 → 3.0+
소프트웨어 1.0 — 고정된 규칙과 논리의 명시적 코드(키워드 사전 스팸 필터). 소프트웨어 2.0 — 데이터로부터 패턴을 학습하는 기계 학습. 소프트웨어 3.0+ — 추론하고 소통하며 적응적으로 행동하는 생성형 모델과 자율 에이전트. 각 패러다임은 이전을 완전히 대체하지 않는다 — 개발자의 과제는 명시적 코드 작성에서 에이전트 역량 정의와 지능형 시스템 오케스트레이션으로 옮겨 간다.
명확히 정의된 버튼과 역량을 지닌 GUI와 달리, 지능형 인터페이스는 방대한 범위의 과업을 다양한 신뢰성 수준으로 다룬다. 이는 역량 발견 문제(capability discovery problem)를 낳는다 — 사용자는 시스템이 어떤 일을 효과적으로 해내고 어디에서 실패할지를 가늠하기 어렵다.
Section 2신뢰성 도전 — 들쭉날쭉한 경계
다중 에이전트 시스템은 개별 AI 모델의 신뢰성 역설을 물려받으면서, 예측 불가능성을 한층 증폭시키는 새로운 조율 도전을 도입한다. GPT-4는 복잡한 JSON 스키마에서 엔티티를 추출하면서도 "9.11과 9.9 중 어느 숫자가 더 큰가?"에서 좌절한다.
(Dell'Acqua et al. 2023) AI의 역량은 극히 불균등하다 — 어려워 보이는 과업은 잘 수행하면서도 쉬워 보이는 과업에서 뜻밖에 실패한다. 다중 에이전트 시스템에서 이 불균등은 개별 모델의 한계뿐 아니라 조율의 단절로 인해 증폭된다. 외관상 비슷한 복잡도의 과업이, 조율이 암묵적 가정과 컨텍스트 공유를 얼마나 잘 처리하느냐에 따라 성공할 수도 실패할 수도 있다.
UX 함의 — 사용자는 시스템의 역량과 한계에 대한 정확한 멘탈 모델을 형성하기 어렵다. 예측 가능한 실패 양상을 지닌 전통적 소프트웨어와 달리, 에이전트 조율의 역동적 본성은 정교한 행동과 처참한 실패를 겉보기엔 유사한 시나리오에서 동시에 만들어 낸다.
Section 3두 페르소나 — 제인과 마이크
효과적인 인터페이스를 설계하려면 도전을 두 페르소나의 관점에서 이해해야 한다 — 투명성과 통제에 근본적으로 다른 요구를 지닌 두 사용자 유형.
항공편·호텔·렌터카 예약을 아우르는 복잡한 출장을 예약하려는 최종 사용자. 그녀의 요청은 여행·캘린더·경비·예약 에이전트에 의해 처리된다. 제인의 핵심 요구 — 무엇이 일어나는지 이해하기, 왜 그런 결정이 내려졌는지 알기, 간단한 통제 메커니즘, 점진적 공개, 명료함을 통한 신뢰. 기술적 복잡성에 압도당하지 않으면서 결과를 이해하고 단순한 통제 수단을 가지는 것.
여행 시스템을 구축하는 개발자. 그의 도전 — 조율 패턴 선택(대화 주도 vs 핸드오프), 오류 귀속(조율 실패와 개별 에이전트 오류 구분), 멘탈 모델 설계, 프로파일링과 최적화. 내부 동작에 대한 상세한 기술적 통찰이 필요하다.
동일한 다중 에이전트 시스템이 근본적으로 다른 투명성·통제 요구를 함께 충족해야 한다. 제인은 결과에 대한 명료하고 단순한 소통을, 마이크는 내부 동작에 대한 상세한 기술적 통찰을 필요로 한다. 모든 UX 원칙은 두 페르소나 각각을 위한 전략을 제공해야 한다.
Section 4네 가지 UX 설계 원칙
4.1 역량 발견
사용자가 에이전트의 능력을 이해하도록 돕기. UX는 신뢰성이 높은 과업의 사례로 사용자를 능동적으로 안내해야 한다. 전략 — 역량 프리셋("호텔 포함 국내 출장 예약"), 가이드된 과업 제안, 점진적 공개, 성공 가능성 지표. 개발자에게는 다중 에이전트 아키텍처 투명성, 조율 패턴별 신뢰성, 툴·역량 매핑을.
4.2 비용 인식 액션 위임
에이전트 액션의 비용을 전달하고 위임 메커니즘을 허용하기. 액션마다 결과의 무게가 천차만별이다 — 이메일 요약은 저비용, 정기 회의 취소는 중간 비용, 기밀 문서를 외부에 발송하는 일은 고비용.
저비용은 자동 실행, 중간 비용은 사후 통지, 고비용은 사전 허가. 사용자는 위임 설정을 통해 각 비용 수준의 처리 방식을 지정할 수 있어야 한다 — 실행 전 승인 요청, 묻지 않고 실행, 또는 절대 실행하지 않음. 영향 미리보기도 핵심이다 — "이 항공편을 예약하면 이번 달 출장 예산을 200달러 초과합니다."
4.3 관측 가능성과 출처
에이전트가 무엇을, 왜 했는지 사용자가 관찰할 수 있도록 보장하기. 자율 에이전트는 비결정론적이고 런타임에서야 드러나는 궤적을 탐험한다 — 같은 입력에도 매 실행마다 다른 궤적이 나타난다. 전략 — 실시간 활동 스트리밍, 단순화된 진행 내러티브, 결과의 귀속 설명, 신뢰·확신 지표. 개발자에게는 상세 조율 시각화, 귀속 디버깅, 충돌 해결 로그, 다중 에이전트 활동 트레이스.
4.4 중단 가능성
사용자가 에이전트의 행동을 일시 정지·재개·취소할 수 있게 하기. 자율 시스템은 장시간 실행되며 실세계 자원에 영향을 미친다. 사용자는 값비싼 궤적을 발견하고 시스템을 멈춰 피드백을 주거나 방향을 바로잡거나 작업을 취소해야 할 때가 있다. 전략 — 단순한 정지/시작 컨트롤, 스마트 재개, 부드러운 끼어들기(전체 과정을 멈추지 않고 요구 사항 추가), 진행 상황 보존.
제인이 캘린더 에이전트의 잘못된 가정을 바로잡고 싶지만 할 수 있는 일이라곤 워크플로우 전체를 멈추는 것뿐이라면 — 다시 시작 시 에이전트들은 쌓인 조율 컨텍스트를 모두 잃은 채 처음부터 시작해야 한다. 좋은 중단은 공유 컨텍스트와 에이전트 간 대화 이력을 보존하며, 대기 중이던 에이전트가 수정된 정보로 자동으로 작업을 이어 간다.
Section 5상호작용형 vs 오프라인 시나리오
다중 에이전트 과업은 기대되는 사람의 개입 수준에 따라 두 부류로 나뉜다.
| 차원 | 상호작용형 | 오프라인 |
|---|---|---|
| 사용자 참여 | 실시간으로 에이전트와 호흡을 맞춤 | 차례별 입력 없이 자율적으로 완수 |
| 예시 | 여행 예약 — 선호 표현, 진행 확인, 피드백 | 비정형 이메일에서 데이터 추출, CRM 갱신 |
| 지연 시간 | 낮은 지연이 중요 — 답답함 방지 | 덜 중요 — 완료/예외 시 알림 |
| 인터페이스 요건 | 행동 타임라인, 이전 행동 검토, 현재 활동 표시 | 자동 검토·검증 툴로 품질 향상 |