Agentic AI VS 챗봇

요새 에이전틱 AI를 고민하는 부서에 있다보니 기획하다가 자꾸 개념적인 부분에 막힌다. 

 

나 조금 헷갈리는데 말이야.
챗봇과 달리 에이전틱 AI는 자동으로 판단하고 결정한다는게 차이라고 했는데 말이야
예를 들어 레스토랑을 예약한다고 할때 어떤 식당을 추릴지, 언제로 예약할지 결국 사용자에게 물어보고 기획자가 정한 어느정도 룰 안해서 제공하게 되는게 (기획 입장에서는 룰베이스) 있는데 말이야...
왜 에이전틱AI일까

챗봇와 에이전틱 AI의 핵심적 차이는 자윳적으로 목표를 설정 및 계획하고 수행하느냐 라는 자율성과 행동수행능력이라고 한다. 

예를 들어, 아래와 같은 차이가 있다고 한다.
고객이 "오늘 저녁 7시에 분위기 좋은 이탈리안 레스토랑을 예약해 줘"라고 요청했을 때,

1. 일반적인 챗봇 (Rule-based Chatbot)

• 행동: "어떤 지역의 이탈리안 레스토랑을 찾으시나요?" "7시 예약 가능한 곳 리스트를 보여드릴까요?"
• 특징: 기획자가 정한 **질문 순서(룰)**에 따라 정보를 수집하고, 그 안에서 몇 가지 **선택지(후보)**만 제시합니다. 최종 결정(선택 및 예약 버튼 클릭)은 사용자가 직접 해야 합니다. 챗봇 자체가 외부 예약 시스템에 로그인해서 예약 완료 버튼을 누르지는 않습니다.

2. 에이전틱 AI (Agentic AI)

• 행동:
  1. (목표 설정) "오늘 저녁 7시 분위기 좋은 이탈리안 레스토랑 예약"
  2. (계획 수립) 1) 사용자의 위치/선호도 파악 (데이터베이스/기억), 2) 외부 지도/검색 API 호출로 레스토랑 후보 목록 추리기, 3) 레스토랑 리뷰/평점 분석 (외부 정보 활용), 4) 예약 시스템 API를 통해 7시 예약 가능 여부 실시간 확인, 5) 최적의 레스토랑을 스스로 판단하고, 6) 사용자에게 최종 확인을 구한 뒤 (또는 자율적으로) 예약을 완료하고 확정 메시지까지 받아옴.
• 특징: '어떤 식당을 추릴지, 언제로 예약할지'를 단순히 물어보는 것을 넘어, **외부 도구(API)**를 사용하여 능동적으로 정보를 탐색, 추론, 비교하고, 복잡한 다단계 프로세스를 거쳐 최종 목표인 '예약 완료'라는 행동을 자율적으로 수행할 수 있습니다.

 

그럼 1) 사용자의 위치/선호도 파악 (데이터베이스/기억), 2) 외부 지도/검색 API 호출로 레스토랑 후보 목록 추리기, 3) 레스토랑 리뷰/평점 분석 (외부 정보 활용), 4) 예약 시스템 API를 통해 7시 예약 가능 여부 실시간 확인, 5) 최적의 레스토랑을 스스로 판단하고, 6) 사용자에게 최종 확인을 구한 뒤 (또는 자율적으로)

 

여기서 1)~ 6)까지의 프로세스를 기획자가 정하게 되고, 1) 어떤 케이스에 어떤 선호도인지 판단 규칙도 정하게 되고 어떤 시간에 예약할지도 규칙을 정하게 되지 않나? 그럼 무슨차이일까? 

현재 대부분의 실제 서비스에서 1)부터 6)까지의 프로세스를 완전히 '자율적으로' 100% 설계하는 AI는 없습니다. 초기 단계에서는 기획자의 설계(프롬프트 엔지니어링, 툴 정의 등)가 들어갈 수밖에 없습니다.

하지만 에이전틱 AI의 가치는 '미리 정해진 룰'을 실행하는 데 그치지 않는다는 점에 있습니다.

1. 챗봇: 과정의 **'룰(Rule)'**이 중요

• 기획자 역할: 챗봇의 대화 흐름, 분기점, 특정 질문에 대한 답변 전체를 상세하게 정의합니다. (e.g., "사용자가 '지역'을 말하면 $\rightarrow$ '음식 종류'를 물어본다.")
• AI의 역할: 정해진 흐름을 따라갑니다. 중간에 새로운 상황이 발생하면 막히거나 '죄송하지만 이해하지 못했습니다'라고 답합니다.

2. 에이전틱 AI: **'목표(Goal)'**와 **'도구(Tools)'**가 중요

• 기획자 역할 (초기 단계):
  • 최종 목표를 명확히 정의합니다. (e.g., "사용자 대신 레스토랑을 예약하는 것")
  • **AI가 사용할 수 있는 도구(API)**를 제공합니다. (e.g., Google 검색 API, OpenTable 예약 API, 사용자 DB 접근 권한 등)
  • 제약 조건을 설정합니다. (e.g., "예산은 1인당 5만 원을 넘기지 말 것")
• AI의 역할 (자율성 발현):
  • 계획 수립: 1) $\rightarrow$ 6)의 세부 단계를 AI가 상황에 맞춰 스스로 설계합니다.
    • "사용자가 지역을 말하지 않았네? $\rightarrow$ 먼저 지역을 물어보는 단계를 삽입하자."
    • "예약 가능한 식당이 10개가 넘네? $\rightarrow$ 평점 4.5 이상만 추리는 필터링 단계를 스스로 추가하자."
    • "예약이 모두 꽉 찼네? $\rightarrow$ '7시' 예약을 고집하지 말고, 7시 30분 예약을 확인하는 단계를 추가하고 사용자에게 대안을 제시하자."
  • 판단 규칙 추론: '분위기 좋은'이라는 모호한 선호도를 AI가 과거 데이터와 외부 리뷰를 기반으로 스스로 해석하고 점수를 매겨 최적의 후보를 판단합니다.
  • 행동 수행: 계획에 따라 필요한 도구를 최적의 순서로, 반복적으로, 오류를 수정하며 사용합니다.

 

그럼 챗봇과 에이전틱 AI 모두 어느정도 기획자가 규칙을 정해야하지만, 어떤 순서로 질문할지, 어느정도 유동성을 가질지는 AI가 판단한다고 생각하면 될까?

 

챗봇과 에이전틱 AI 모두 초기 설계 단계에서 기획자의 규칙과 정의가 필요합니다. 하지만 이 규칙이 AI의 행동을 얼마나 구속하느냐에서 큰 차이가 납니다.

구분	챗봇 (Chatbot)	에이전틱 AI (Agentic AI)
기획자의 규칙	'프로세스의 흐름(Path)' 자체를 규칙으로 정함. (질문 순서, 답변 스크립트 등)	**'최종 목표(Goal)'**와 **'사용 가능한 도구(Tools)'**를 정의함.
AI의 판단 유동성	낮음. 정해진 질문 순서와 분기점을 따름. 비정형적인 요청에 대응 어려움.	높음. 목표 달성을 위해 최적의 다단계 계획을 스스로 수립하고 순서를 조정함.
예시 (레스토랑 예약)	"지역 $\rightarrow$ 종류 $\rightarrow$ 시간" 순서가 고정됨.	"시간" 정보가 부족하면 **"지역"**을 먼저 물어보거나, 혹은 **"예상 인원"**을 먼저 물어보는 등 맥락에 맞게 순서를 유동적으로 판단하여 실행.

✨ 에이전틱 AI의 '유동성'이 의미하는 것

에이전틱 AI는 단순히 질문 순서를 바꾸는 것을 넘어, 다음과 같은 자율적인 판단을 통해 유동성을 가집니다.

1. 동적 계획 수립 (Dynamic Planning):
   • AI가 현재의 상황과 사용자의 입력을 분석하여 목표 달성에 필요한 다음 단계를 스스로 추론합니다. (예: "검색 결과가 너무 많으니, 평점 4.5 이상의 필터링 단계를 삽입해야겠다.")
2. 도구 사용 최적화 (Optimal Tool Use):
   • 기획자가 준 여러 도구(검색 API, 예약 API, DB 등) 중 어떤 도구를, 어떤 순서로, 몇 번 반복하여 사용할지 AI가 판단합니다.
3. 오류 수정 및 재시도 (Self-Correction):
   • 계획 실행 중 외부 시스템에서 오류가 발생하거나 원하는 결과가 나오지 않으면, 인간의 개입 없이 계획을 수정하고 재시도할 수 있습니다. (예: "7시 예약 실패 $\rightarrow$ 7시 30분으로 목표를 수정하고 다시 시도하자.")

 

근데 실제 업무 환경이나 서비스 제공 입장에서 기획을 하다보면 정확하지 않은 정보를 제공하면 신뢰도가 낮아지기 때문에 최대한 빡빡하게 규칙을 잡게 되고 그래서 챗봇과 큰 차이가 없게 되는거 같아

 

맞습니다. 지적해주신 부분은 실제 업무 환경에서 에이전틱 AI를 도입할 때 마주하는 가장 현실적이고 중요한 딜레마입니다.

⚖️ 에이전틱 AI의 딜레마: 자율성 vs. 신뢰성 (통제)

실제로 기업에서는 신뢰도와 책임 소재 때문에 AI의 자율성을 극단적으로 제한하려는 경향이 있습니다.

• 챗봇 경향: '정확성'을 위해 모든 경로를 사전 통제 (규칙 기반)
• 에이전틱 AI의 잠재력: '효율성'과 '복잡성 해결'을 위해 AI에 자율적 판단 부여

이러한 딜레마를 해소하고 에이전틱 AI의 가치를 활용하기 위해, 최근 기술과 서비스 기획은 **'인간의 통제 하에 자율성을 발휘'**하는 방향으로 발전하고 있습니다.

---

🚀 '제한된 자율성'을 통한 에이전틱 AI의 가치 극대화

규칙을 빡빡하게 잡더라도, 에이전틱 AI가 챗봇과 차별화되는 지점은 규칙이 없는 영역에서 '지능적인 추론과 행동'을 수행하는 능력에 있습니다.

1. 규칙의 역할 변화: '경계선' 설정

챗봇 기획이 **"무엇을 할지"**를 정한다면, 에이전틱 AI 기획은 **"무엇을 넘어서는 안 될지"**를 정합니다.

구분	챗봇 (규칙 기반)	에이전틱 AI (자율 기반)
규칙의 성격	**허용된 길(Path)**만 정의 (예: 메뉴얼)	**금지된 영역(Boundary)**만 정의 (예: 가드레일)
행동 방식	정해진 길을 따라감	가드레일 안에서 가장 효율적인 길을 스스로 찾아감
신뢰 확보 방식	모든 결과를 미리 예상하고 입력	위험한 행동(예: 결제, 개인정보 변경) 전에 **인간의 승인(Check Point)**을 받도록 설계

2. 진정한 에이전시(Agency) 발휘 영역

규칙이 빡빡하더라도 에이전틱 AI는 다음 단계에서 가치를 증명합니다.

가치	설명	레스토랑 예약 예시
a. 다단계 문제 해결 (Multi-step)	단일 단계가 아닌, 여러 외부 도구(API)를 연속적으로 사용하고 그 결과를 재귀적으로 판단하여 목표를 달성합니다.	1) 예약 가능 식당 검색 $\rightarrow$ 2) 리뷰 분석 $\rightarrow$ 3) 예약 시도 $\rightarrow$ 4) 예약 실패 시 인근 지역 또는 다른 시간대 재탐색. (챗봇은 보통 1~2단계에서 멈춤)
b. 동적 상황 적응 (Adaptation)	입력 데이터나 환경이 변할 때, 룰(Rule)을 바꾸지 않고도 목표 달성 전략을 스스로 수정합니다.	"분위기 좋은 곳"이라는 모호한 요청에, AI가 리뷰 데이터를 분석해 '조용함', '조명 밝기' 등을 판단 기준에 추가하고 식당을 추려냅니다. (이 판단 기준은 기획자가 미리 정한 규칙이 아님)
c. 선제적 행동 (Proactive)	사용자의 명시적인 명령 없이도, 맥락을 파악하여 다음 단계를 예측하고 준비합니다.	레스토랑 예약 후, 사용자가 요청하지 않았지만 **'해당 레스토랑까지 가는 길 안내 링크'**를 선제적으로 제공.

🎯 결론: '반자율 시스템'으로서의 에이전틱 AI

현재 실제 업무 환경에서는 **"반자율(Semi-Autonomous) 시스템"**으로서 에이전틱 AI가 활용됩니다.

신뢰도를 위해 **핵심적인 최종 행동(예: 결제, 확정 예약)**은 인간의 최종 승인을 거치게 하되, 그 승인에 도달하기까지의 복잡한 정보 수집, 분석, 비교, 최적의 계획 수립 단계는 AI에게 완전히 위임하는 방식입니다.

이러한 '인간 감독 하의 자율성' 덕분에, 복잡한 업무를 자동화하면서도 신뢰와 통제력을 잃지 않고 챗봇의 한계를 뛰어넘을 수 있습니다.