Google의 오픈 에이전트 오케스트레이터

• AX는 에이전트 작업을 선언하면 격리된 실행 환경을 구성하고 대규모 실행을 관리하는 오픈소스 선언형 컨트롤 플레인

  • 에이전트 하나를 하나의 Task로 실행하거나, 필요에 따라 여러 Task를 조합할 수 있음

  • 작업을 샌드박스에 격리하고, 워크스페이스와 네트워크 정책을 설정해 실행 환경을 준비함

• 에이전트에는 상태 유지와 잦은 대기에 맞는 실행 모델이 필요

  • 실행 과정에서 상태가 누적되고, 강한 격리가 필요하며, 모델 API와 외부 도구를 호출함

  • 실행을 감시·제어하지 않으면 반복 호출로 비용이 계속 발생할 수 있음

  • AX는 실행 환경을 네 가지 선언형 리소스로 구성함

    • Task: 격리된 실행의 최소 단위.

      • 신뢰할 수 없는 에이전트 코드를 CPU·메모리 제한이 있는 샌드박스에서 실행

      • 생성·일시 중단·삭제의 부담을 줄이도록 설계됨

    • Workspace: Git 저장소, MCP 서버, 스킬 등 작업 환경을 설정

      • 여러 Task에서 재사용할 수 있으며, 각 Task의 명령이 실행되기 전에 해당 샌드박스에 환경을 준비

      • 연결 설정에 자연어 목표인 goal을 추가할 수도 있음

    • Gateway: 샌드박스가 외부로 연결할 수 있는 호스트·포트를 허용 목록으로 제한하고, 외부에 노출할 리스너를 정의함

    • Model: 모델 제공자, 모델 ID, 생성 파라미터, API 키가 저장된 Kubernetes Secret 참조를 관리

• AX는 고밀도 실행과 빠른 상태 저장·복원을 위해 설계된 Agent Substrate 위에서 동작

  • 각 Task를 경량 액터로 실행하고, 많은 액터를 상대적으로 적은 수의 워커에 배치해 자원을 공유

  • Agent Substrate는 Kubernetes를 워커 관리에 활용하면서, 액터의 배치와 일시 중단·재개를 별도로 제어

  • 대기 중인 에이전트의 상태를 체크포인트로 저장해 일시 중단하고 필요할 때 복원

    • 처음부터 다시 시작하지 않고 1초 미만에 재개

  • 대기 중인 작업이 점유하던 연산 자원을 다른 작업에 할당해 자원 낭비와 실행 비용을 줄이는 구조

• 생성형 AI를 활용해 자연어로 설명한 목표에 맞춰 워크스페이스를 준비할 수 있음

  • 최초 실행 시 에이전트가 목표를 받아 개발 도구를 설치하고 의존성을 준비·확인함

  • 환경 준비가 끝난 뒤 Task의 명령을 실행함

  • 다음은 task.yaml에서 필요한 환경을 설명하는 예시임. 전체 배포 설정은 생략돼 있으며, 참조할 Workspace와 환경 준비에 필요한 인증 정보 등은 별도로 준비해야 함

apiVersion: ax.io/v1alpha1
kind: Task
metadata:
  name: data-analysis
spec:
  workspaces:
    - name: python-env
      goal: "Set up a Python 3 development environment"

• 다양한 에이전트 실행 환경과 연구용 작업을 활용 대상으로 제시함

  • 대화형 코딩 에이전트, 장기 실행 에이전트 서버, Jupyter Notebook, 헤드리스 브라우저 테스트, 사용자 정의 도구 런타임 등을 실행 대상으로 삼음

  • 재현 가능한 샌드박스를 대규모로 생성해 에이전트 실행 이력(trajectory)을 수집하고, 강화학습 루프와 에이전트 평가에 활용할 수 있음

• 개발자와 연구자가 인프라 관리보다 에이전트 개발·평가·확장에 집중하도록 하는 것이 목표

  • 런타임을 작고 가볍게 유지하면서, 애플리케이션 개발과 AI 연구에 필요한 핵심 기능을 제공하는 방향으로 설계됨

  • 사용 편의성과 빠른 개발·실험을 중시함

• Google의 에이전트 런타임 연구와 대규모 컴퓨팅 운영 경험을 바탕으로 개발 중인 프로젝트임

  • 짧은 시간 집중적으로 연산한 뒤 모델·도구 응답이나 사람의 승인을 기다리며, 실행 상태를 장기간 유지하는 에이전트를 주요 대상으로 삼음

  • 기존 오케스트레이터에서 유휴 샌드박스를 계속 유지할 때 생기는 비용과, 잦은 일시 중단·재개를 처리하는 부담을 줄이려는 접근임

  • Google DeepMind의 에이전트 런타임 연구와 대규모 격리·재개·스케줄링 경험을 바탕으로 설계됨

  • Agent Substrate를 실행 기반으로 삼고, 그 위에 에이전트 작업 관리와 생성형 AI 기반 환경 준비 기능을 제공

• 아직 안정화 단계

  • AX는 핵심 개념·프로토콜·명세의 큰 변경 가능성을 경고하며, Agent Substrate는 현재 프로덕션 사용 준비가 되지 않았다고 명시함.

^{source https://agentexecutor.io, https://github.com/google/ax}

HN에서는 기존 VM이나 도구로도 충분한데 왜 새 오케스트레이터가 필요한지를 두고 의견이 나뉘었다. 개인 환경이라면 Proxmox VM이나 tmux 세션만으로도 에이전트를 원활히 운영할 수 있다는 지적이다. 반면 기업 환경에서는 단순한 실행 공간보다 외부 네트워크 제어, 시크릿 관리, 자원 제한, 안전한 격리 정책을 일관되게 적용하는 일이 더 핵심적인 과제라는 반론도 만만치 않았다.

AX를 긍정적으로 평가한 의견에는 프로세스 중단과 상태 복원 구조에 주목했다. 에이전트가 모델 응답이나 승인, CI 완료를 기다릴 때 실행을 일시 정지하고, 작업 상태를 유지한 채 빠르게 복원하는 방식이다. 작업마다 저장소를 다시 복제하고 개발 환경을 새로 꾸리면 시간과 자원 낭비가 심하다. 대기와 실행이 빈번한 대규모 환경에서는 격리된 작업 공간과 상태 관리가 편의 기능을 넘어 필수 인프라가 될 수 있다는 뜻이다.

반면 쿠버네티스, YAML, 별도 런타임과 제어 계층까지 도입해야 하는 점은 큰 부담이다. 기존 도구와 유연하게 결합하기보다 플랫폼 전체를 일괄 채택하도록 강제한다는 비판이 따른다. 또한 모든 과정을 에이전트에 일임하면 실행 결과의 일관성이 떨어지고 토큰 소모도 커진다. 에이전트에는 개별 작업 지침만 맡기고, 상태 관리와 반복 절차는 명확한 스크립트로 통제해야 한다는 조언이 나오는 이유다.