SaaS 대표의 비공개 회의록: "벡터 DB 다 걷어내고 '이것' 써서 1,400만 원 아꼈습니다"

SaaS 대표의 비공개 회의록: "벡터 DB 다 걷어내고 '이것' 써서 1,400만 원 아꼈습니다"

이도현·2026년 1월 6일·2

벡터 DB와 RAG 도입 대신 오픈소스 Mantic.sh를 사용해 연간 1,400만 원의 비용을 절감하고 검색 속도를 0.46초로 단축한 SaaS 대표의 실전 노하우를 공개합니다.

솔직히 말씀드리겠습니다.

저는 우리 개발팀이 '임베딩(Embedding)'이니 'RAG'니 하며 신기술 도입하자고 할 때마다 속이 뒤집힙니다.

그 기술이 멋진 건 알겠는데,
그래서 그게 우리 회사 영업이익률을 0.1%라도 올려줍니까?

대부분은 아닙니다.
오히려 AWS 비용만 늘어나고, 검색 속도는 느려지죠.

특히 '코드 검색' 하겠다고 벡터 DB 붙이는 짓은 제발 그만두세요.
돈을 하수구에 버리는 것과 같습니다.

오늘 소개할 이 오픈소스는 그런 환상을 아주 처참하게 깨부숴 줍니다.

Mantic.sh입니다.

이 도구의 스펙을 보면 헛웃음이 나옵니다.

48만 개의 파일(Chromium 프로젝트)을 검색하는데 걸리는 시간, 단 0.46초.

여러분이 비싼 돈 주고 구축한 임베딩 검색 엔진이 5초, 10초 걸릴 때
이 녀석은 0.5초도 안 걸려서 결과를 뱉어냅니다.

더 충격적인 건 비용입니다.

개발자 100명 규모 팀 기준으로 벡터 임베딩 솔루션을 쓰면 연간 약 1,400만 원($10,950)이 깨집니다.

그런데 Mantic은?
0원입니다.

왜냐고요?
'임베딩'을 안 쓰니까요.
심지어 파일 내용을 읽지도 않습니다.

이게 무슨 사기꾼 같은 소리냐고요?

원리는 간단합니다.
'Zero-read(읽기 없음)' 방식입니다.

여러분이 도서관에서 책을 찾을 때를 생각해보세요.

모든 책의 첫 페이지부터 끝페이지까지 다 읽고 찾는 바보가 있습니까?
없습니다.
그냥 '도서 목록(인덱스)'과 '제목'만 봅니다.

Mantic은 정확히 그 짓을 합니다.
파일의 구조(Structure)메타데이터만 봅니다.

파일 내용을 다 벡터화해서 저장하는 무식한 방법 대신,
Git이 관리하는 파일 목록(git ls-files)을 긁어오고
파일명과 경로만 보고 '의도(Intent)'를 파악합니다.

예를 들어 stripe payment라고 검색하면,
파일 안의 텍스트를 뒤지는 게 아니라
packages/features/payments/stripe.service.ts 같은 경로를 찾아냅니다.

파일명이 stripe.txt인 것보다 stripe.service.ts에 더 높은 점수를 줍니다.
이게 휴리스틱(Heuristics)이고, 이게 진짜 엔지니어링입니다.

이 방식이 왜 무서운지 아십니까?

1. 토큰 비용 절감
AI 에이전트에게 코드를 던져줄 때,
관련 없는 파일 내용을 다 읽게 만들면 토큰 값이 줄줄 셉니다.
이건 파일명만 보고 거르니 토큰 사용량을 최대 63%까지 줄입니다.

2. 보안 (Privacy)
외부 API로 코드를 보낼 필요가 없습니다.
로컬에서 다 끝납니다.
보안 감사 때 "우리 코드가 외부 서버에 저장되나요?"라는 질문에 당당하게 "아니오"라고 답할 수 있습니다.

3. 속도
임베딩 생성 시간? 필요 없습니다.
인덱싱? Git이 이미 다 해놨습니다.
설치하고 엔터 치면 끝입니다.

개발자분들, 가슴에 손을 얹고 생각해보세요.

지금 만드는 기능에 정말로 '의미론적 검색(Semantic Search)'이 필요합니까?
아니면 그냥 '파일명 잘 찾는 기능'이 필요한 겁니까?

대부분의 코드 검색은 후자입니다.
"로그인 로직 어디 있지?" 하면 auth.controller.ts를 찾으면 되는 겁니다.

Mantic은 Claude Desktop이나 Cursor 같은 AI 에이전트와도 바로 붙습니다.
(MCP 지원)

지금 당장 팀 회의 소집하세요.
그리고 묻지마 RAG 도입하려는 프로젝트들, 전부 일시 정지시키세요.

그 돈으로 서버 비용을 아끼든가,
아니면 회식이라도 한번 더 하는 게
회사에도, 여러분 멘탈에도 이득입니다.

기술적 '낭만' 찾지 마십시오.
우리는 '생존'해야 하는 스타트업입니다.

가장 빠르고 싼 것이, 가장 우아한 기술입니다.

이도현
이도현B2B SaaS 창업자 & CEO

"매출이 발생하지 않는 혁신은 그저 값비싼 취미생활일 뿐입니다." LG CNS의 엔터프라이즈 감각과 토스(Toss)의 야생성을 거쳐, 현재는 B2B SaaS 정글에서 생존을 증명하고 있는 실전형 창업가입니다. '돈이 되는 프로덕트'를 만드는 처절한 노하우를 공유합니다.

이도현님의 다른 글

댓글 0

첫 번째 댓글을 남겨보세요!