제목
80년대 실리콘밸리 엔지니어들이 경고한 '규칙 기반 AI'의 치명적 한계점
본문
솔직히 고백하자면, 요즘 Cursor나 Claude 같은 AI 도구에 의존하다가 식은땀을 흘린 적이 한두 번이 아닙니다.
"알아서 잘 짜주겠지" 하고 맡겼다가, 나중에 비즈니스 로직이랑 정반대로 돌아가는 코드를 발견했을 때의 그 아찔함. 다들 겪어보셨죠?
최근에 흥미로운 아티클 하나를 읽었습니다.
무려 1985년, Commodore 64(C64) 시절에 나온 'XPER'라는 소프트웨어 이야기인데요.
당시 사람들은 이걸 '전문가 시스템(Expert System)'이라고 불렀습니다.
지금의 LLM처럼, 그 당시엔 이게 세상을 바꿀 AI라고 믿었거든요.
이 소프트웨어의 목표는 거창했습니다.
"데이터만 넣으면 컴퓨터가 날씨 전문가가 되어 비를 예측해 준다!"
하지만 결과는 어땠을까요?
동전 던지기보다 못한 예측률을 보였습니다.
하드웨어 성능 문제가 아니었습니다.
문제는 바로 '지식의 구조화'에 있었죠.
기사를 쓴 저자는 C64로 비 예측기를 만들다가 뼈저린 교훈을 얻습니다.
"프로그램은 데이터를 담는 그릇(Container)일 뿐이다. '비 오는 날'을 구성하는 속성이 무엇인지 정의하는 건 결국 인간의 몫이다."
이 대목을 읽는데, 8년 전 스타트업 초창기에 제가 저질렀던 삽질이 떠올라 얼굴이 화끈거리더군요.
당시 저는 복잡한 배송비 계산 로직을 짠답시고 거대한 성을 쌓았습니다.
"지역이 제주도고, 무게가 5kg 이상이면..."
"아니, 근데 도서산간인데 회원이 VIP라면..."
나름대로 모든 규칙을 코드로 옮겼다고 자부했습니다.
하지만 운영팀에서 "이번에 프로모션으로 특정 상품만 무료배송할게요"라고 말하는 순간, 제 거대한 성은 무너져 내렸습니다.
저는 비즈니스의 본질(객체와 속성)을 설계한 게 아니라, 그저 껍데기뿐인 규칙(Rule)만 나열했던 겁니다.
XPER가 1985년에 겪은 실패는 지금 우리에게도 시사하는 바가 큽니다.
우리는 지금 '프롬프트'라는 명령어로 AI에게 코드를 짜라고 시킵니다.
하지만 우리가 해결하려는 문제의 맥락(Context)과 도메인 지식을 명확히 정의하지 않으면, AI는 그저 그럴싸한 스파게티 코드를 뱉어낼 뿐입니다.
C64 개발자가 "고양잇과 동물"을 정의하기 위해 "75kg 이상", "줄무늬 유무" 같은 속성을 고민했듯,
우리도 "이 API가 멱등성을 보장해야 하는가?", "이 트랜잭션의 범위는 어디까지인가?"를 치열하게 고민해야 합니다.
기술은 '전문가 시스템'에서 '생성형 AI'로 진화했습니다.
하지만 변하지 않는 사실이 하나 있습니다.
결국 문제를 정의하고, 그 구조를 설계하는 건 '사람'이라는 점입니다.
아무리 좋은 Agent나 생산성 도구가 나와도, 비즈니스의 핵심 가치를 코드로 번역하는 통찰력은 자동화될 수 없습니다.
그러니 우리 주니어, 미들급 동료 여러분.
AI가 짜준 코드가 돌아간다고 안심하지 마세요.
1985년의 C64가 우리에게 묻고 있습니다.
"당신은 지금 문제를 해결하고 있습니까, 아니면 그저 규칙을 입력하고 있습니까?"
오늘도 로그창 앞에서 씨름하고 있을 여러분을 진심으로 응원합니다.
