대부분의 사람들이 처음 경험한 AI는 생성형이었습니다. 질문을 하면 답이 돌아오는 방식이었죠. 에이전틱 AI는 그다음 단계입니다. 요청을 기다리지 않고 목표를 추구하며, 여러 단계에 걸쳐 계획을 세우고, 주어진 도구로 실제 행동을 취하는 AI입니다. 엔지니어링 및 운영 팀에게 생성형에서 에이전틱으로의 전환은 점진적인 개선이 아니라 AI와 함께 일하는 방식 자체가 근본적으로 달라지는 것입니다.
이 글에서는 에이전틱 AI란 무엇인지, 생성형 AI와 어떻게 다른지, 실제로 어떻게 작동하는지, 이미 어디에 도입되고 있는지, 그리고 오늘날 싱가포르에서 사업을 운영하는 조직들에게 어떤 의미가 있는지 다룹니다.
에이전틱 AI란 무엇인가?
에이전틱 AI는 정의된 목표를 달성하기 위해 자율적으로 추론하고, 계획하고, 일련의 행동을 실행할 수 있는 AI 시스템을 말합니다. 이 용어는 독립적이고 목적을 가지고 행동하는 능력을 뜻하는 _에이전시(agency)_에서 유래했습니다. 시스템을 '에이전틱'하게 만드는 것은 그 아래에 있는 모델이 아니라 그 주변의 설계입니다. 추구할 목표, 사용할 도구, 여러 단계에 걸쳐 맥락을 유지하는 메모리, 그리고 사람이 다음 행동을 반드시 검토해야 하는 경계선이 그것입니다. 프롬프트에 응답하고 멈추는 모델과 달리, 에이전틱 시스템은 환경을 관찰하고, 다음에 할 일을 결정하고, 행동하고, 결과를 되짚어보는 루프를 반복합니다.
책임감 있는 에이전틱 AI 도입의 핵심은 휴먼인더루프(human-in-the-loop) 개념입니다. 워크플로우의 정해진 지점에서 사람이 에이전트의 조사 결과를 검토하고, 시스템이 다음 행동으로 넘어가기 전에 이를 승인합니다. 에이전트는 조사와 추론을 담당하고, 사람은 판단을 담당합니다. 진단을 확정하거나, 복구 조치를 승인하거나, 권고 사항을 재검토하는 식입니다.
에이전틱 AI의 주요 특징:
- 목표 지향적. 단일 프롬프트가 아니라 여러 단계에 걸쳐 하나의 목표를 향해 작동합니다.
- 다단계 추론. 상황 변화에 맞춰 계획을 세우고, 순서를 정하고, 조정합니다.
- 도구 사용. API, 데이터베이스, 외부 서비스와 상호작용해 정보를 수집하고 행동을 취합니다.
- 메모리와 상태 유지. 워크플로우 초반의 맥락을 유지해 이후 의사결정에 반영합니다.
- 제한된 자율성. 정의된 권한 범위 내에서 작동하며, 위험도가 높은 행동에는 사람의 승인이 필요합니다.
에이전틱 AI vs 생성형 AI
생성형 AI와 에이전틱 AI는 관련이 있지만 서로 다릅니다. 생성형 AI는 프롬프트에 대한 응답으로 텍스트, 코드, 이미지 등의 콘텐츠를 만들어냅니다. 초안 작성, 요약, 종합에는 강력하지만 세상에서 실제로 행동하지는 않습니다. 각 상호작용은 대체로 독립적으로 완결됩니다.
에이전틱 AI는 생성 능력을 추론 엔진으로 활용하면서 그 위에 계획, 도구 사용, 피드백 루프를 더합니다. 그 결과 상위 수준의 목표에서 시작해 실행 가능한 일련의 단계로 옮겨가고, 정해진 지점에서 사람의 감독을 받으며 이를 완료할 수 있는 시스템이 만들어집니다.
에이전틱 AI와 생성형 AI의 주요 차이점:
| 구분 | 생성형 AI | 에이전틱 AI |
|---|---|---|
| 주요 결과물 | 콘텐츠(텍스트, 코드, 이미지) | 행동과 의사결정 |
| 도구 사용 | 제한적이거나 없음 | 운영의 핵심 요소 |
| 사람의 개입 | 매 단계마다 필요 | 정해진 승인 지점에서 개입 |
| 범위 | 응답 및 생성 | 조사, 결정, 실행 |
에이전틱 AI는 어떻게 작동하는가?
핵심 운영 루프
에이전틱 AI 시스템은 다섯 단계로 이루어진 반복 가능한 운영 루프를 따릅니다.
- 관찰. 에이전트가 환경의 현재 상태를 인식합니다. 알림, 데이터 변화, 사용자 지시, 또는 시스템 신호입니다.
- 맥락 추가. 관찰한 내용을 해석하는 데 필요한 정보를 수집합니다. 서비스 소유권, 최근 변경 사항, 알려진 의존성, 적용 가능한 정책 등입니다.
- 결정. 에이전트는 가장 가능성 높은 원인이나 최선의 다음 행동을 추론하고, 그 행동이 정의된 경계 안에 있는지 확인합니다.
- 행동. 부여받은 권한 범위 내에서 에이전트는 데이터를 읽고, 권고안을 준비하고, 레코드를 업데이트하거나, 사람의 승인을 기다리는 조치를 트리거합니다.
- 되짚어보기. 에이전트는 무엇을 관찰했는지, 어떤 증거를 수집했는지, 무엇을 결정했는지, 어떤 일이 일어났는지를 기록해 사람이 검토할 수 있는 감사 추적을 만듭니다.
이 루프는 목표가 달성되거나, 워크플로우가 사람에게 에스컬레이션되거나, 정의된 한도에 도달할 때까지 반복됩니다.
스킬(Skills)
스킬은 특정 작업 유형을 위해 패키징된, 반복 사용 가능한 워크플로우입니다. 스킬은 단순한 프롬프트가 아니라 어떤 데이터를 가져올지, 어떤 검사를 실행할지, 무엇을 준비할지를 아는 구조화된 시퀀스입니다. 잘 만들어진 스킬은 팀이 이미 가진 지식을 재사용 가능하고 감사 가능한 형태로 담아냅니다.
거버넌스가 적용된 도구 연결
거버넌스가 적용된 도구 연결은 흔히 모델 컨텍스트 프로토콜(MCP, Model Context Protocol)을 통해 구현되며, 에이전틱 시스템이 외부 도구와 상호작용할 수 있는 표준화되고 권한을 인식하는 방식을 제공합니다. 각 통합이 저마다 다르게 동작하는 대신, MCP는 입력, 출력, 감사 로깅에 대한 일관된 패턴을 만듭니다.
컨텍스트(Contexts)
특히 클라우드 운영 영역에서 에이전틱 AI는 접근할 수 있는 컨텍스트만큼만 유용합니다. 메트릭, 로그, 트레이스를 포함한 원시 텔레메트리는 무언가가 바뀌었다는 것만 알려줍니다. 유용한 에이전틱 시스템은 네 가지 운영 컨텍스트로 텔레메트리를 보강합니다.
- 소유권. 영향을 받은 서비스와 관련 런북은 어느 팀이 담당하는가?
- 토폴로지. 요청 경로에 어떤 서비스, 큐, 데이터베이스가 놓여 있는가?
- 변경 이력. 최근에 무엇이 배포되었거나, 재구성되었거나, 스케일링되었는가?
- 정책 경계. 어떤 행동을 자동으로 제안, 준비, 실행해도 안전한가?
이러한 보강이 없으면 에이전트는 빠르게 움직이면서도 팀을 잘못된 방향으로 이끌 수 있습니다. 컨텍스트가 있으면 에이전틱 AI는 진정한 의사결정 지원 시스템이 됩니다.
에이전틱 AI 시대에 옵저버빌리티가 어떻게 적응하고 있는지와 엔지니어링 팀이 무엇을 준비해야 하는지 알아보세요.
에이전틱 AI의 사례는 무엇인가?
에이전틱 AI는 이미 여러 산업에서 운영되고 있습니다. 대표적인 활용 사례 몇 가지를 소개합니다.
고객 서비스
AI 에이전트는 매 단계마다 사람이 개입하지 않고도 전체 서비스 워크플로우를 처음부터 끝까지 처리합니다. 정의된 범위를 벗어나는 상황에서만 사람에게 에스컬레이션하므로, 상담원은 진짜로 복잡한 사례에 더 많은 시간을 쓰고 정형화된 처리에는 시간을 덜 씁니다.
소프트웨어 개발
코딩 에이전트는 상위 수준의 스펙을 바탕으로 코드를 작성, 테스트, 디버그, 커밋합니다. CI/CD 파이프라인을 모니터링하고 빌드 실패를 감지해 수정안을 담은 풀 리퀘스트를 열 수 있어, 코드를 작성하는 시점과 그것이 작동하는지 아는 시점 사이의 피드백 루프를 줄여줍니다.
금융 서비스
에이전틱 시스템은 거래 스트림에서 이상 패턴을 지속적으로 모니터링하고, 애널리스트 검토를 위해 근거 자료와 함께 플래그된 사례를 준비하며, 일정에 따라 혹은 트리거 방식으로 컴플라이언스 보고서를 생성합니다. 예전에는 수 시간의 수작업 데이터 수집이 필요했던 일이 사람의 판단을 기다리는 구조화된 브리핑으로 압축될 수 있습니다.
헬스케어
임상 AI 에이전트는 진료 전에 환자 기록을 종합하고, 잠재적인 약물 상호작용을 드러내며, 이상 검사 결과를 임상의 검토용으로 플래그합니다. 이들은 임상적 판단을 대체하는 것이 아니라 구조화된 1차 검토자 역할을 하며, 원시 데이터가 아니라 미리 정리된 관련 근거에 판단이 적용되도록 합니다.
IT 운영 및 옵저버빌리티
에이전틱 옵저버빌리티는 에이전틱 AI의 가장 매력적인 활용 사례 중 하나입니다. 엔지니어가 대시보드를 열고 수작업으로 인시던트 타임라인을 재구성할 때까지 기다리는 대신, 에이전틱 시스템은 다음을 수행합니다.
- 신호가 임계값을 넘는 즉시 이상 징후 감지
- 영향을 받은 의존성을 추적하고 파급 범위(blast radius) 매핑
- 상관관계를 확인하기 위해 최근 배포 및 구성 변경 사항 점검
- 현재 동작을 기존 기준선과 비교
- 권장 다음 조치가 담긴 구조화된 조사 요약 준비
에이전틱 옵저버빌리티를 위한 운영 인프라를 구축한 팀은 대응 속도가 더 빠르고 인시던트 처리 방식이 더 일관됩니다.
TrueWatch는 정적 대시보드를 넘어 운영 컨텍스트에 기반한 자율적이고 거버넌스가 적용된 행동으로 나아가며 에이전틱 AI 옵저버빌리티로의 전환을 이끌고 있습니다. TrueWatch는 원시 텔레메트리를 AI 기반 조사가 의미를 가지도록 만드는 운영 컨텍스트와 연결합니다. 에이전트 아키텍처는 거버넌스가 적용되고 감사 가능한 행동을 중심으로 설계되었습니다.
에이전틱 옵저버빌리티란 무엇인지와 팀들이 운영 컨텍스트를 통해 에이전틱 옵저버빌리티를 어떻게 활용하는지 알아보세요.
에이전틱 AI에 대해 자주 묻는 질문(FAQ)
Q: AI 에이전트와 에이전틱 AI의 차이는 무엇인가요?
A: AI 에이전트는 목표를 향해 자율적으로 행동하도록 설계된 특정 시스템입니다. 에이전틱 AI는 더 넓은 패러다임으로, AI 에이전트를 가능하게 하는 설계 접근 방식과 지원 역량을 의미합니다.
Q: 에이전틱 AI도 실수를 할 수 있나요?
A: 네. AI 에이전트는 근본 원인을 잘못 파악하거나 불완전한 정보를 바탕으로 행동할 수 있습니다. 바로 이 때문에 에이전틱 AI 도입에는 휴먼인더루프가 필수적입니다. 의미 있는 감독과 명확한 감사 추적이야말로 에이전틱 AI를 프로덕션 환경에서 신뢰할 수 있게 만드는 요소입니다.
Q: 에이전틱 AI는 챗봇과 어떻게 다른가요?
A: 챗봇은 대화 안에서 응답합니다. 에이전틱 AI 시스템은 여러 단계에 걸쳐 목표를 추구하고, 외부 시스템과 상호작용하기 위해 도구를 사용하며, 텍스트를 생성하는 데 그치지 않고 실제 세계에서 행동을 취할 수 있습니다.
Q: 에이전틱 AI는 복구 조치를 직접 실행할 수 있나요, 아니면 권고만 하나요?
A: 두 가지 모드 모두 가능하며, 대부분의 팀은 보수적으로 시작합니다. 읽기 전용 모드에서는 에이전틱 시스템이 증거를 수집하고 가장 안전한 다음 단계를 권고합니다. 거버넌스 모드에서는 실행 전에 사람의 승인을 기다립니다. 핵심은 모든 행동이 감사 가능하다는 점입니다. Toby AI Agents는 바로 이 승인 우선 아키텍처를 중심으로 설계되었습니다. Toby AI Agents 대기자 명단에 참여하기 →
실전 에이전틱 AI: TrueWatch로 시작하세요
TrueWatch는 텔레메트리를 에이전틱 AI가 프로덕션 환경에서 신뢰할 수 있게 만드는 운영 컨텍스트와 연결해, 자율적인 추론이 추측이 아니라 근거에 기반하도록 합니다. 반응형 대시보드에서 거버넌스가 적용된 AI 기반 인시던트 대응으로 전환할 준비가 되었다면, TrueWatch에서 시작하세요.
신호에서 거버넌스가 적용된 행동으로 나아갈 준비가 되셨나요? 오늘 Toby AI Copilot으로 시작하거나, 자율적인 인시던트 대응이 출시될 때 가장 먼저 이용할 수 있도록 Toby AI Agents 대기자 명단에 참여하세요.
