왜 환각이 아닌가 — 규칙이 주인, AI는 윤활유

결정하는 머리와 말하는 입을 분리한다는 것

경영 AI가 "실행하세요"라고 했을 때, 우리는 이렇게 물어봅니다. "정말로?"

의심은 정상입니다. 세상의 대부분의 AI는 그럴듯하게 거짓말합니다. 확률 게임이니까요. 다음 단어가 그럴듯할 확률을 계산하는 머신일 뿐, 정말 그 판정이 맞는지는 아무도 보증하지 않습니다. 여름날 신기루처럼.

우리 경영 AI가 다른 이유는 하나입니다. 결정을 내리는 머리와 그것을 말로 옮기는 입을 분리했기 때문입니다.

사장님이 "신규 사업 진출할까?"라고 물으면, 먼저 LLM(대형 언어 모델)이 그 자연어를 정규화합니다. "이게 투자 판정인가, 시장 조사인가, 전략 수립인가?" LLM은 여기서 역할을 멉니다. 통역자처럼, 윤활유처럼. LLM이 결정을 내리지는 않습니다.

그 다음, 규칙엔진(셀코어)이 앞장을 섭니다. 규칙엔진은 의사결정의 주인입니다. 이 엔진은 회사의 실제 데이터를 갖고 있습니다: 현금 흐름, 마진율, 공급망, 경쟁 환경. 그리고 물어봅니다.

"우리 현금이 이 투자를 견딜 수 있나?" "기존 유통망이 이 상품을 소화할 수 있나?" "시장 포화도는?"

각 질문에 검증된 규칙이 작동합니다. 환각이 아닙니다. 데이터와 과거 사례를 바탕으로 만들어진, 수백 번 테스트된 규칙이 실행됩니다.

셀코어 15모듈: 규칙이 쌓이는 곳

경영 AI의 가슴 깊숙이 있는 것은 셀코어라는 규칙엔진입니다. 이 엔진은 15개의 모듈로 이루어져 있습니다.

투자 판정 모듈, 위기 관리 모듈, 자산 배분 모듈, 전략 수립 모듈… 각 모듈은 수백 개의 규칙을 품고 있습니다. 이 규칙들은 어디서 왔을까요?

경영학 교과서에서 온 것도, 유명한 투자가의 명언에서 온 것도 아닙니다. 실제로 일어난 경영 사례들에서 온 것입니다. 그리고 각 규칙은 이렇게 검증됩니다:

"이 규칙을 과거에 적용했다면, 우리가 실제로 한 판정과 같은 답이 나왔나?"

규칙이 과거 사례와 부합하지 않으면, 그 규칙은 버려지거나 다시 다듬어집니다. 부합하면, 그 규칙은 미래의 판정에 쓰입니다. 이 선택과 집중의 과정이 반복되면서 셀코어는 점점 정직해집니다.

LLM을 곁가지로 가두면 생기는 신뢰

경영 AI의 아름다운 점은 여기입니다. LLM이 곁가지로 갇혀있다는 것.

사장님이 입력한 자연어 → LLM이 정규화 → 규칙엔진이 판정 → 규칙엔진이 판정 근거를 명시 → LLM이 그것을 사람이 읽을 수 있는 말로 다시 옮김.

각 단계에서 LLM은 "좀 더 그럴듯하게" 만들 유혹이 있습니다. 불확실한 부분을 확신처럼 말할 수도 있죠. 하지만 그럴 수 없습니다. 왜냐하면 규칙엔진이 이미 결정을 내렸기 때문입니다.

LLM이 할 수 있는 것은 그 결정을 예쁘게 포장하는 것뿐입니다. "78% 신뢰도"라는 신뢰도는 규칙엔진이 계산했습니다. LLM이 "80% 신뢰도"라고 말할 수는 없습니다. 없는 데이터를 지어낼 수 없습니다.

미분류된 영역, 규칙엔진이 답하지 못하는 부분은 어떨까요? 거기서도 AI는 환각하지 않습니다. 대신 음(∼)이라고 말합니다. "이건 저 범위 밖입니다. 다른 전문가에게 물어보세요." 정직하고 결정론적입니다.

규칙은 검증되고 재사용된다

경영 AI를 만들 때 우리가 가장 많은 시간을 들인 일은 무엇이었을까요?

테스트입니다. 수백 개의 실제 경영 상황을 시뮬레이션해서 "이 규칙이 정말 먹히는가"를 확인했습니다. 특히 과거에 실제로 일어났던 의사결정들을 AI에 물어보고, AI의 판정이 현실과 부합했는지 검증했습니다.

"이 투자 판정이 정말 이익을 남겼나?" "이 중단 판정이 손실을 막았나?" "이 자산 배분이 리스크를 줄였나?"

회귀 테스트를 통과하지 못한 규칙은 버려집니다. 통과한 규칙만 살아남아, 다음 판정에서 다시 쓰입니다. 이 과정이 반복되면서 경영 AI는 한 번의 눈속임도 할 수 없게 됩니다. 검증된 패턴만 입 밖으로 낼 수 있기 때문입니다.

환각할 틈이 없습니다. 규칙엔진이 주인이고, 규칙은 검증되고, LLM은 윤활유일 뿐이기 때문입니다.

그래서 사장님은 무엇으로 풀려나는가

이 분리(규칙이 주인, LLM이 윤활유)는 단순한 기술 이야기가 아닙니다. 이것은 신뢰의 구조 자체입니다.

오늘 경영 AI가 "실행하세요"라고 했을 때, 사장님은 이제 "진짜?"라는 의심 대신 "왜?"라고 물을 수 있습니다. 근거가 있으니까요. 규칙이 있으니까요.

그리고 그 근거에 동의 못 하면, "아, 그 부분은 빠뜨렸는데?"라고 말할 수 있습니다. 투명하니까요.

이 신뢰가 쌓이면, 사장님은 점점 더 많은 의사결정을 이 AI에 맡길 수 있습니다. 투자 판정, 위기 관리, 자산 배분, 전략 수립. 한 회사 한 곳을 통째로.

그렇게 되는 순간, 사장님은 무엇으로 풀려나는가? 숫자에서입니다.

매일 어떤 판정을 내려야 할지 고민하고, 그 판정이 맞을지 밤새 뒹굴 필요가 없습니다. 규칙이 합니다. 사장님은 그 판정의 근거를 보고 "그래, 그렇게 하자" 또는 "잠깐, 이건 다시 생각해 봐야겠다"고 말할 수 있습니다.

결국 사장님이 할 일은 하나입니다: 조직에 감동을 주고, 도전을 일깨우고, 한 사람 한 사람의 인생을 바꾸는 리더가 되는 것.

그런 리더는 결정 기계가 아닙니다. 결정 기계를 가진 리더입니다.

규칙이 주인이 되면서, 사장님은 비로소 그 자리에 갈 수 있습니다. 다음의 질문으로 나아갑니다: 그렇다면 그 규칙은 무엇을 기준으로 "예스"와 "노"를 가르는 걸까요?