AI 에이전트, 중소기업 업무에 어디까지 들어왔나

"챗GPT는 써봤는데, AI 에이전트는 또 뭔가요?"

요즘 IT 뉴스에서 ‘AI 에이전트'라는 말이 빠지지 않습니다.

 

2026년 한 조사에서는 중소기업 10곳 중 6곳이 이미 AI를 쓰고 있다고 답했지만, 대부분 문서 작성이나 검색처럼 개인 단위 활용에 머물러 있었습니다. AI를 쓰고 있는 회사에서도 에이전트가 무엇이 다른지, 우리 회사에 필요한지는 감이 잘 오지 않는 경우가 많습니다.

 

한 문장으로 정리하면, 챗봇이 '답하는 AI'라면 에이전트는 '일하는 AI'입니다.

---

답하는 AI와 일하는 AI

챗GPT 같은 대화형 AI는 질문하면 답을 줍니다. 그 답을 복사해 엑셀에 붙이고, 메일을 보내는 것은 여전히 사람의 몫입니다.

AI 에이전트는 목표를 받으면 필요한 작업을 스스로 나눠서 처리합니다.

 

"이번 달 미수금 거래처를 정리해서 안내 메일 초안을 만들어줘"라고 하면, 회계 프로그램에서 자료를 찾고, 거래처별로 정리하고, 메일 초안까지 작성하는 식입니다. 사람은 중간 과정을 일일이 지시하지 않고, 마지막 결과만 확인하면 됩니다.

 

여러 프로그램을 오가며 복사하고 붙여넣던 시간이 줄어드는 것이 가장 큰 차이입니다.

---

어디까지 들어왔을까요?

시장조사기관 가트너는 2028년까지 기업용 소프트웨어의 33%에 AI 에이전트 기능이 들어가고,

일상 업무 결정의 15%를 AI 에이전트가 스스로 내릴 것으로 내다봤습니다.

2024년에는 둘 다 거의 0%에 가까웠던 수치입니다.

 

국내에서도 변화가 빠릅니다. 카카오는 카카오톡 대화에서 시작해 주문, 예약, 결제까지 끝내는 AI 에이전트를 준비하고 있습니다. 매일 쓰는 메신저 안에서 AI가 직접 일을 처리하는 시대가 가까워진 것입니다.

2026.10.08 - [분류 전체보기] - 카톡에 들어온 AI '카나나', 우리 회사는 어떻게 활용할까?

카톡에 들어온 AI '카나나', 우리 회사는 어떻게 활용할까?

 

중소기업에서도 이미 쓰이기 시작한 곳이 있습니다. 메일함의 문의를 분류해 담당자에게 넘기거나,

회의 녹음을 정리해 할 일 목록으로 등록하거나, 재고가 기준 아래로 떨어지면 발주 초안을 만드는 일들입니다.

 

공통점은 매일 반복되고, 처리 규칙이 어느 정도 정해진 업무라는 점입니다. 반대로 거래처와의 협상이나 새로운 기획처럼 매번 판단이 달라지는 업무는 아직 사람이 하는 편이 낫습니다.

---

하지만 절반 가까이는 실패합니다

기대만큼 주의할 점도 큽니다. 가트너는 지금 진행 중인 AI 에이전트 프로젝트의 40% 이상이

2027년 말까지 중단될 것이라고 전망했습니다. 늘어나는 비용, 불분명한 효과, 부족한 위험 관리가 주된 이유로 꼽혔습니다.

 

실패하는 경우는 대개 비슷합니다. “AI 에이전트를 도입하자”가 먼저 정해지고,

어떤 업무를 맡길지는 나중에 고민하는 경우입니다. 또는 처음부터 너무 많은 권한을 주는 바람에,

AI가 잘못 처리한 결과가 그대로 거래처나 고객에게 전달되는 경우도 있습니다.

 

비용도 따져봐야 합니다. AI 에이전트는 작업을 처리할 때마다 사용료가 쌓이는 구조가 많아, 업무량이 많아지면 예상보다 비용이 커질 수 있습니다. 줄어든 업무 시간과 늘어난 비용을 함께 비교해야 합니다.

 

AI 에이전트는 도입 자체가 목표가 아니라, 특정 업무를 줄이는 수단이어야 합니다.

---

작게 시작하는 것이 가장 빠릅니다

• 매일 반복되고 규칙이 정해진 업무인가요?
• AI가 처리한 결과를 사람이 쉽게 확인할 수 있나요?
• 메일 발송, 결제처럼 되돌리기 어려운 일은 사람이 최종 승인하나요?
• AI가 접근할 수 있는 자료와 권한을 꼭 필요한 만큼만 열어뒀나요?
• 도입 전후로 줄어든 시간을 측정할 수 있나요?

이 다섯 가지에 답할 수 있는 업무 하나를 골라 먼저 시작해보세요.

처음에는 AI가 초안만 만들고 사람이 확인해 보내는 방식으로 운영하면, 실수가 있어도 바깥으로 나가기 전에 바로잡을 수 있습니다. 효과가 확인되면 같은 방식으로 다른 업무에 넓혀가면 됩니다.

---

‘AI 에이전트'보다 '어떤 업무'가 먼저입니다

AI 에이전트는 분명 업무 방식을 바꾸고 있습니다. 하지만 모든 회사가 지금 당장 도입해야 하는 기술은 아닙니다.

중요한 것은 우리 회사에서 가장 많은 시간을 잡아먹는 반복 업무가 무엇인지 아는 것입니다.

그 업무가 분명하다면 에이전트는 좋은 도구가 되고, 분명하지 않다면 비싼 실험으로 끝날 수 있습니다.

 

지금 할 수 있는 가장 좋은 준비는, 매일 반복하는 업무 목록을 한 번 적어보는 것입니다.