왜 환각이 아닌가 — 규칙이 주인, AI는 윤활유

LLM의 위험은 단순하지 않다. 환각(hallucination)은 겉으로 사장님을 속이는 위협이지만, 더 깊은 위험은 의사결정의 주체가 모호해지는 것이다. AI가 "제 의견으로는..." 하고 권고할 때, 그것을 근거 있는 판단인지 확률적 텍스트 생성인지 구분하기 어렵다. 크라우니 엔터프라이즈는 이 문제를 건축 수준에서 풀었다. 규칙엔진이 의사결정의 주인이고, LLM은 그 주인의 말을 자연어로 번역해주는 윤활유일 뿐이다. 이 분리가 신뢰의 기반이다.

주체와 윤활유의 아키텍처 — 결정은 규칙이, 해석은 LLM이

크라우니 엔터프라이즈의 결정 구조는 두 층이다.

상층(결정 주체): 셀코어 규칙엔진. 경영의 모든 순간 — 투자 판정, 위기 관리, 자산 배분, 전략 수립 — 은 사실 반복 가능한 판단의 집합이다. 이들은 규칙으로 환원된다. "A 기업의 채무율이 40% 이상이고 현금흐름이 음수면 기각한다" 같은 규칙은 경험에서 비롯되지만, 한번 정식화되면 재현 가능하고 검증 가능하다. 셀코어는 이런 규칙 15모듈을 누적하는 규칙저장소다. 각 모듈(투자, 위기, 자산, 전략, 인사 등)은 도메인 전문가가 기여한 규칙들의 집합이고, 매 의사결정마다 이들이 자동으로 평가되어 "예스"인지 "노"인지 "모름(연구 필요)"인지 "이관"인지 네 가지 답을 낸다. 이 네 상(티·옴·타·음)의 분별이 환각을 막는다.

하층(해석 계층): LLM. 사장님은 자연어로 의도를 말한다. "이 기업에 투자할까?" LLM은 그 문장을 파싱해 셀코어가 이해하는 구조로 변환한다. 기업명, 채무율, 현금흐름, 산업군 등을 추출하는 것이다. 규칙엔진이 결정을 내리고 나면, LLM이 그 결정의 근거와 함의를 자연어로 다시 설명한다. "셀코어 투자모듈이 다섯 규칙을 평가했고, 그중 셋이 '예스', 둘이 '모름'으로 답했습니다. 따라서 조건부 긍정입니다" 같은 설명이다. LLM은 윤활유다. 결정이 미끄러워 보이고 자연스러워야 조직이 따른다. 하지만 결정 자체는 규칙이 했다.

셀코어 — 규칙이 쌓이는 곳

크라우니 엔터프라이즈의 핵심 신뢰는 셀코어 규칙엔진의 투명성에 있다. 현재 운영 중인 *크라우니인베스트*(11역량 투자사)와 *크라우니경영AI*(aimed, v1 :9913)는 모두 셀코어 규칙으로만 판정한다. 코드를 열면 "왜 이 기업을 추천했는가"가 규칙 단계별로 보인다.

예를 들어 aimed 경영AI는 경영 의사결정을 네 영역(자산, 인사, 전략, 위기)으로 나누고, 각 영역마다 수십 개의 규칙을 적용한다:

• 자산: 현금성자산 > 월 고정비 3개월분? → 예스/노/모름
• 인사: 핵심인력 이직률이 연간 15% 이상? → 기각 신호
• 전략: 시장점유율이 업계 평균의 70% 이상? → 강세 신호
• 위기: 고객 이탈률 전월 대비 20% 이상 증가? → 즉각 대응

이 규칙들은 한 자리 수의 "마스터룰"이 아니라, 도메인마다 누적되는 수백 개의 세부 규칙이다. 한번 등록되면 매 판정마다 재사용되고, 새로운 사건이 일어날 때마다 검증된다. 환각이 끼어들 틈이 없는 이유는, 규칙이 사실(fact)에 대해 매번 점검되기 때문이다.

LLM을 곁가지로 가두면 생기는 신뢰 — 미분류는 결정론적으로

"어떻게 LLM의 환각을 완전히 없애나?" 이 질문에 대한 답은 단순하다: LLM을 곁가지로 제한한다.

크라우니 엔터프라이즈에서 LLM이 할 수 있는 일은 정해져 있다:

1. 자연어 의도 → 구조화된 입력 변환
2. 규칙엔진의 판정 결과 → 자연어 설명 변환
3. 미분류 사항 → "이건 규칙에 없습니다" 명확한 전달

이게 전부다. LLM은 새로운 판정을 만들지 않는다. 사장님이 "이 업계 트렌드는 뭘까?"라고 물으면, LLM은 "그건 규칙 밖이라 저는 답할 수 없고, 다음 주 전략회의에서 논의하시겠습니까?"라고 결정론적으로 대답한다. 미분류인 사항은 인간이 결정하거나, 새로운 규칙을 만들어 셀코어에 추가한다.

이 제약이 역설적으로 신뢰를 만든다. 사장님은 AI의 범위를 정확히 알고 있다. "이건 AI가 정한 게 아니라 규칙이 정한 거고, 그 규칙은 내가 만들거나 승인한 것"이라고 확신할 수 있다.

규칙은 검증되고 재사용된다 — 환각은 끼어들 틈이 없다

규칙기반 시스템의 강점은 재현성(reproducibility)이다. 같은 입력이 들어오면 같은 결과가 나온다. LLM은 매번 다르게 답할 수 있지만, 규칙은 그렇지 않다.

또한 규칙은 검증된다. 세 개월마다 셀코어의 모든 판정을 사후평가한다: "우리가 '긍정'했던 투자들 중 실제로 성공한 비율은?" "우리가 '기각'했던 기업 중 이후 급성장한 케이스가 있나?" 이런 피드백이 규칙을 진화시킨다. 정확도가 낮은 규칙은 재점검되거나 제거되고, 새로운 통찰은 새로운 규칙으로 추가된다.

환각은 이 재현성과 검증 사이에 끼어들 수 없다. AI가 "아, 지난번과 다르게 한번 생각해봤는데..."라고 새로 생각하는 순간, 그건 시스템 밖이다. 크라우니 엔터프라이즈는 그런 즉흥성을 건축 수준에서 차단했다.

---

이렇게 보면 규칙엔진과 LLM의 관계는 자동차와 운전자의 관계가 아니라, 사령관과 통역관의 관계에 가깝다. 사령관(규칙엔진)이 "진격!"을 결정하면, 통역관(LLM)이 그 명령을 부대가 이해할 말로 바꾼다. 통역관이 임의로 명령을 바꿀 수는 없다. 만약 바꾼다면, 그건 체계의 붕괴다.

그렇다면 이 규칙들은 무엇을 기준으로 "예스"와 "노"를 가르는가? 그 기준은 어디서 비롯되는가? 다음 장에서 우리는 크라우니 엔터프라이즈의 가장 깊은 철학 — 네 가지 답(티·옴·타·음)을 다룬다.