
솔직히 말해서, 요즘 AI 뉴스 보면 피로감부터 몰려오지 않나요? 하루가 멀다 하고 새로운 모델이 쏟아집니다. "GPT-4o가 나왔네", "클로드(Claude) 3.5가 코딩을 기가 막히게 하네" 등등. 저도 처음엔 신기해서 이것저것 써봤습니다. 근데 막상 실무에 적용하려니 딱 막히더군요.
왜냐고요? 결국 우리가 하는 일의 90%는 '대화'가 아니라 '실행'이니까요. 채팅창에 "보고서 써줘"라고 해서 나온 텍스트를 다시 워드에 복붙하고, 포매팅하고, 이메일에 첨부해서 보내는 건 결국 제 손가락이 해야 했습니다.
이게 바로 지금 우리가 '에이전트(Agent)'에 주목해야 하는 이유입니다. 단순히 말을 잘하는 챗봇이 아니라, 내 명령을 듣고 실제로 도구를 집어 들어 일을 처리하는 녀석들 말입니다. 오늘은 교과서적인 정의 말고, 20년 차 PM이 현장에서 굴러보며 느낀 '에이전트가 찐인 이유'와 이걸로 어떻게 퇴근 시간을 당길 수 있는지 이야기해보려 합니다.
1. LLM은 '뇌', 에이전트는 '손발'이다
주니어 개발자 친구들이 신기술만 나오면 눈이 반짝거려서 달려옵니다. "PM님, 이번 모델은 추론 능력이 미쳤어요!" 그럼 저는 되묻죠. "그래서 그게 지라(Jira) 티켓 상태를 바꿀 수 있니?"
대부분 꿀 먹은 벙어리가 됩니다. 여기서 LLM(거대 언어 모델)과 에이전트의 결정적인 차이가 드러납니다.
- LLM (Chatgpt, Claude 등): 엄청나게 똑똑한 뇌입니다. 기획안 초안 잡거나, 코드 리뷰 코멘트 달아주는 건 기가 막힙니다. 하지만 뇌만 둥둥 떠다니는 격이라, 현실 세계의 시스템을 직접 건드리진 못합니다.
- AI 에이전트: 그 똑똑한 뇌에 '손발(Tools)'을 달아준 겁니다. API를 호출하고, 웹을 브라우징하고, 파일 시스템에 접근합니다.
예를 들어볼까요?
- LLM에게: "경쟁사 A의 최신 기능을 조사해줘." -> 결과: 2023년 데이터 기반으로 헛소리를 하거나, 검색 결과를 텍스트로 요약만 해줌.
- 에이전트에게: "경쟁사 A 홈페이지 들어가서 업데이트 로그 긁어오고, 우리 기능이랑 비교표 만들어서 슬랙 채널에 쏴줘." -> 결과: 실제로 웹을 크롤링하고, 엑셀을 만들고, 슬랙 API를 통해 메시지까지 전송 완료.
이게 바로 비즈니스 임팩트의 차이입니다.

2. 에이전트 워크플로우: '딸깍' 한 번으로 끝내는 법
"그래서 어떻게 하라는 건데요?"라고 묻고 싶으시죠? 당장 거창한 오토GPT(AutoGPT) 같은 걸 돌릴 필요는 없습니다. 우리가 쓰는 도구들부터 에이전트화 시키는 게 핵심입니다. 저는 최근에 팀 회고록 정리 업무를 이렇게 바꿨습니다.
[기존 방식 - 3시간 소요]
- 줌(Zoom) 녹화본 다운로드
- 클로바노트 같은 툴로 텍스트 변환
- 텍스트 읽으면서 요약 정리
- 컨플루언스(Confluence) 페이지 생성 및 업로드
- 팀 슬랙방에 링크 공유
[에이전트 워크플로우 - 5분 소요 (세팅 후)]
Zapier나 Make 같은 노코드 툴, 혹은 랭체인(LangChain)을 조금만 만질 줄 알면 됩니다.
- Trigger: 줌 녹화가 클라우드에 저장됨.
- Agent Action 1: 오디오 파일을 텍스트로 변환 (Whisper API 호출)
- Agent Action 2: LLM에게 "이 회의록을 'Action Item', '결정 사항', '리스크'로 분류해서 요약해"라고 프롬프트 전송.
- Agent Action 3: 요약된 내용을 포맷에 맞춰 컨플루언스 API로 문서 생성.
- Agent Action 4: 생성된 문서 링크를 슬랙 봇이 전송.
저는 이제 회의 끝나고 담배 한 대 피우고 오면 슬랙에 알림이 와 있습니다. "회고록 정리 완료했습니다." 이게 진짜 자동화죠.
3. 주니어들이여, '코딩'보다 '설계'에 집중해라
제가 팀원들에게 항상 하는 말이 있습니다. "코드는 AI가 더 잘 짠다. 너희는 AI한테 일을 시키는 '매니저'가 되어야 한다."
에이전트 시대에는 코딩 실력보다 '워크플로우 설계 능력'이 깡패가 됩니다. 어떤 도구를 쥐여주고, 어떤 순서로 일을 시켜야 에러 없이 돌아갈지 판을 짜는 능력 말입니다.
에이전트는 만능이 아닙니다. 무한 루프에 빠지기도 하고, 엉뚱한 API를 호출해서 DB를 날려 먹을 수도 있습니다(실제 경험담입니다... 식은땀 났죠). 그래서 에이전트에게 권한을 어디까지 줄 것인지, 중간에 사람이 승인(Human-in-the-loop)하는 과정을 어디에 넣을 것인지 설계하는 게 핵심 역량이 됩니다.
살아남으려면 '도구'를 쥐여주세요
과거 폭포수 모델 시절엔 문서 잘 만드는 놈이 최고였고, 애자일 때는 빠릿빠릿하게 소통하는 놈이 최고였습니다. AI 시대에는? AI를 내 손발처럼 부리는 놈이 살아남습니다.
단순히 챗GPT랑 노닥거리지 마세요. 그건 20대 인턴들이 더 잘합니다. 우리 같은 '고인물'들은 비즈니스 로직을 꿰뚫고 있잖아요? 그 로직에 AI 에이전트를 붙이세요.
지금 당장 여러분이 반복적으로 하는 업무 리스트를 적어보세요. 그리고 그 옆에 "이걸 수행하려면 어떤 도구(API)가 필요한가?"를 적어보세요. 그게 여러분만의 '생존 매뉴얼' 첫 페이지가 될 겁니다.
AI가 내 자리를 뺏을까 봐 두렵나요? AI를 못 다루는 내가 두려운 겁니다. 에이전트라는 무기를 들고, 내일 출근해서는 좀 더 영리하게 일해봅시다. 그래야 우리도 칼퇴하고 아이들이랑 놀아주죠.


