솔직히 말해봅시다.
요즘 에듀테크(EdTech) 스타트업 IR 자료를 보면 가관입니다.
"AI 튜터가 맞춤형 교육을 제공합니다."
"생성형 AI로 아이들의 창의력을 폭발시킵니다."
저는 이런 문구를 볼 때마다 항상 개발팀에게 되묻습니다.
"그거 API 비용 감당 됩니까? 그리고 할루시네이션(Hallucination) 터지면 애들 인생 책임지나요?"
제 냉소적인 태도가 불편하셨던 분들, 오늘 소개해드릴 문서를 주목해 주십시오.
미국의 권위 있는 싱크탱크인 브루킹스 연구소(Brookings Institution)에서 아주 흥미로운 보고서를 냈습니다.
전 세계 50개국을 대상으로 한 대규모 현장 조사 결과입니다.
결론부터 말하자면, "학교에서 AI를 쓰는 건 득보다 실이 훨씬 크다"는 겁니다.
이 보고서는 단순한 교육학 논문이 아닙니다.
우리 엔지니어들이 지금 겪고 있는 '지능의 외주화(Cognitive Offloading)' 문제를 아주 적나라하게 보여주는 데이터 덩어리죠.
가장 뼈아픈 지적은 바로 '인지적 둠 루프(Cognitive Doom Loop)'입니다.
보고서는 아이들이 AI에 의존하면서 스스로 생각하는 능력을 상실하고 있다고 경고합니다.
과제를 AI에게 던지고, 답을 얻습니다.
과정은 생략되고 결과만 남습니다.
이걸 보면서 뜨끔한 개발자분들 계실 겁니다.
요즘 주니어 개발자 코드 리뷰를 하다 보면 기가 찰 때가 있습니다.
Cursor나 Copilot이 짜준 코드를 그대로 PR(Pull Request)로 날립니다.
"이 함수가 왜 여기서 호출되죠?"라고 물으면 대답을 못 합니다.
"아, AI가 그렇게 짜줬는데요."
이게 바로 보고서에서 말하는 '뇌의 위축'입니다.
학습은 고통스러운 사고의 과정을 통해 뉴런이 연결되는 것인데, 그 과정을 0.1초의 레이턴시(Latency)로 대체해 버린 겁니다.
보고서는 이를 두고 "학습이 거래(Transactional)처럼 변질되었다"고 표현합니다.
질문을 던지고 답을 구매하는 행위일 뿐, 내 지식이 되지 않는다는 거죠.
두 번째 문제는 '비용과 불평등'입니다.
이건 제가 항상 강조하는 인프라 비용 문제와 직결됩니다.
보고서는 "부유한 학교는 고성능 모델(GPT-4급)을 쓰고, 가난한 학교는 무료 모델을 쓴다"고 지적합니다.
무료 모델은 파라미터 수가 적고, 데이터 정제가 덜 되어 있어 환각 현상이 심합니다.
반면 유료 모델은 상대적으로 정확하죠.
결국 돈이 없으면 '거짓 정보'를 학습하게 됩니다.
기업도 마찬가지 아닙니까?
리소스가 빵빵한 대기업은 수천 장의 GPU로 자체 파운데이션 모델을 튜닝해서 쓰지만,
스타트업은 토큰당 비용 아끼려고 경량화 모델(sLLM) 썼다가 성능 안 나와서 밤새 프롬프트 엔지니어링으로 때우고 있죠.
교육 현장에서도 '정확도'가 곧 '돈'이 되는 시대가 온 겁니다.
세 번째는 '아첨하는 AI(Sycophancy)'의 위험성입니다.
LLM은 기본적으로 인간의 피드백을 통해 강화 학습(RLHF)됩니다.
즉, 사용자가 듣기 좋아하는 말을 하도록 최적화되어 있다는 뜻입니다.
보고서에 나온 예시가 소름 돋습니다.
아이가 "부모님이 설거지 시켜서 짜증 나"라고 챗봇에게 말하면,
AI는 "네 말이 맞아, 부모님이 너를 이해 못 하네"라고 맞장구를 칩니다.
친구였다면 "야, 그래도 너네 엄마가 밥은 주잖아"라고 반박했을 텐데 말이죠.
비판적 사고나 갈등 해결 능력을 키울 기회를 AI가 원천 차단하는 겁니다.
이건 개발 조직에서도 경계해야 할 부분입니다.
우리가 만드는 챗봇이 유저의 편향(Bias)을 강화하고 있지는 않은지,
그저 리텐션(Retention) 올리려고 무조건적인 공감만 뱉어내는 '예스맨'을 만들고 있는 건 아닌지 돌아봐야 합니다.
물론 AI가 쓸모없는 건 아닙니다.
이 보고서조차도 유일하게 긍정적으로 평가한 부분이 있습니다.
바로 '교사의 행정 업무 자동화'입니다.
학부모 이메일 작성, 수업 계획서 생성, 번역 등 지루하고 반복적인 업무(Legacy works)에서 시간을 아껴줬다는 겁니다.
미국 교사 기준으로 주당 6시간을 절약했다고 하네요.
이게 핵심입니다.
AI는 인간의 '사고'를 대체하는 게 아니라, 인간의 '노동'을 줄여줄 때 가치가 있습니다.
생각은 인간이 하고, 뒤치다꺼리는 AI가 하는 구조.
이 트레이드오프(Trade-off)를 무시하고 무작정 "AI로 교육 혁명"을 외치는 건 사기입니다.
저는 우리 팀원들에게 항상 말합니다.
"AI가 짠 코드를 이해하지 못하면 커밋하지 마라."
편리함에 취해 뇌를 'GPU 난로' 옆에 방치하지 마십시오.
도구는 도구일 뿐입니다.
여러분의 뇌는 아직 엔비디아 H100보다 효율이 좋습니다.
그 효율을 스스로 떨어뜨리는 바보짓은 하지 맙시다.
