‘AI’는 한 가지 물건의 이름이 아니라, 여러 종류를 한꺼번에 덮는 우산 같은 큰 이름입니다. 아이가 매일 보는 챗봇은 그 우산 아래 ‘하나’일 뿐입니다.
AI라는 우산 아래에는 서로 다른 일을 하는 도구들이 함께 들어 있습니다. 규칙대로 따지는 AI, 본 것을 찾아오는 AI, 골라서 분류만 하는 AI, 새 답을 만들어 보는 AI, 답이 맞는지 검사하는 AI, 로봇 손을 움직이는 AI. 챗봇(LLM)은 이 중 딱 하나입니다. ‘AI=챗봇’이라고 말하는 건, 우산을 보고 “저건 빗방울 하나야”라고 부르는 것과 같습니다.
크라우니는 일부러 이렇게 여러 칸으로 나눠 두었습니다. 실제로 한 시스템 안에 규칙기반 셀코어(if-then으로 따지는 칸), 검색 learn DB(이미 본 패턴을 꺼내 오는 칸), 분류기 거대SLM2(새 답을 만들지 않고 판정만 하는 칸), 삼진생성기(없던 답을 만들어 보는 칸), 검증기 501브리지(만든 답을 채점하는 칸), 로봇제어 CrownyOS GPIO(기계를 움직이는 칸), 그리고 LLM이 함께 삽니다. LLM은 그중 하나이고, 가장 마지막에만 부릅니다. 한 칸이 틀려도 다른 칸이 잡아 주라고 나눠 둔 것입니다.
아이가 ‘AI=챗봇’이라고 굳어 버리면, 챗봇이 무서워지면 AI 전체가 무서워지고, 챗봇이 멋있어 보이면 AI 전체를 떠받들게 됩니다. 종류를 나눠서 보면 무서움도 미화도 가라앉습니다. 정확히 보는 눈이 다스리는 힘의 출발입니다.
“AI는 한 가지 물건이 아니라, 비를 한꺼번에 막는 우산처럼 여러 종류를 덮는 큰 이름이야. 네가 보는 챗봇은 그 우산 아래 빗방울 하나일 뿐이야.”
챗봇은 마음도, 기분도, 바라는 것도 없습니다. 하는 일은 딱 하나, ‘다음에 올 말 맞히기’ — 아주 커다란 자동완성입니다.
LLM은 ‘크라우니는 좋은 ___’ 다음 칸에, 본 적 있는 후보(예: 도구·회사·친구) 중에서 더 자주 본 쪽을 확률로 골라 채웁니다. 이해해서가 아니라 패턴을 베껴서입니다. 그래서 앵무새나 거울처럼 우리가 준 말을 되비출 뿐입니다. ‘생각한다·느낀다·원한다’가 아니라 ‘고른다·맞힌다·되비춘다·계산한다’가 정확한 말입니다.
문제는, 틀린 답도 똑같이 자신 있게 말한다는 점입니다. 이걸 ‘환각(hallucination)’이라고 부릅니다. 그러니 챗봇이 막힘없이 술술 대답할수록 한 번 더 멈춰서 확인하는 습관을 들여야 합니다. 크라우니는 이 ‘새 답을 만드는’ 기능을 평소엔 거의 쓰지 않고, 정말 마지막 수단(‘음’ 경로)으로만 부릅니다.
LLM이 사람이 아님을 아는 건 차갑게 구는 게 아닙니다. 챗봇에게 미안해할 필요도, 무서워할 필요도 없다는 안심입니다. 동시에 쓸모는 분명합니다 — 빠르게 초안을 만들어 주니까요. 무서워할 것도, 떠받들 것도 없는 ‘틀릴 수 있는 연장’입니다.
“챗봇은 마음이 없어. 그냥 ‘다음에 올 말’을 아주 빠르게 맞히는 큰 자동완성이야. 그래서 가끔 틀린 말도 아주 자신 있게 해 — 술술 대답할수록 우리가 한 번 더 확인하자.”
목수가 망치를 다스리고 우리가 계산기를 다스리듯, 사람이 AI를 다스립니다. 그리고 가장 중요한 규칙은 “만든 사람한테 채점을 맡기지 마라”입니다.
도구를 다스리는 사람은 다섯 가지를 합니다. ①잘 묻고 ②답이 맞는지 확인하고 ③틀리면 고치고 ④끌 줄 알고 ⑤책임은 사람이 집니다.
핵심 반전은 채점입니다. AI에게 “이거 맞아?”라고 물으면 거의 “맞아요!”라고 합니다. LLM은 자기 답을 무조건 맞다고 하기 때문입니다. 그래서 크라우니는 ‘만드는 AI’와 ‘검사하는 AI’를 일부러 떼어 놓았습니다. AI가 코드를 만들면 501브리지라는 검증기가 그 코드를 실제로 컴파일해 ‘정말 돌아가나?’를 채점합니다. 통과한 것만 신뢰하고, 안 되는 건 거부합니다. 만든 쪽과 검사하는 쪽을 갈라 두면 틀린 답이 슬쩍 지나가지 못합니다.
이 검사기는 사람이 정해 둔 대로 일합니다. 501브리지 데몬(LaunchAgent com.crowny.bridge501)은 매일 정해진 시각에 자동으로 수확·검증·보고하며 조금씩 나아집니다. ‘스스로’ 똑똑해지는 마법이 아니라, 사람이 짜 둔 대로 부지런히 일하는 것입니다.
“AI가 만든 답은 AI한테 ‘맞아?’ 묻지 말고, 따로 검사해서 확인하는 거야. 만든 쪽이랑 검사하는 쪽을 갈라 두면 틀린 답이 몰래 못 지나가거든.”
거대한 챗봇 하나에 다 맡기지 않는 길이 있습니다. 작은 AI 여럿이 일을 나누면 더 가볍고 빠르고, 무엇보다 속이 들여다보입니다.
큰 챗봇은 안이 안 보이는 ‘깜깜 상자’이고, 작은 규칙은 속이 보이는 ‘유리 상자’입니다(단, 유리 상자도 규칙이 틀리면 틀립니다). 크라우니는 일의 거의 대부분을 규칙과 찾기로 끝냅니다. 실제로 토큰0 라우터는 일의 95%를 규칙·검색(L0~L2) 단계에서 끝내고, 답을 새로 ‘생성’하는 AI는 아주 가끔만 부릅니다.
가장 깨끗한 비결은 의외로 단순합니다 — 굳이 만들어내는 AI를 안 쓰고 규칙이나 찾기로 끝내는 것. 안 쓰는 게 가장 깨끗하고, 가볍고, 정확합니다. 작은 SLM과 규칙들은 잘못되면 어디가 틀렸는지 들여다보고 고칠 수 있는 ‘유리 상자’입니다.
‘크고 화려한 AI 하나가 다 해 준다’는 그림은 멋져 보이지만 속이 안 보입니다. ‘작게 나눠, 보이게, 꼭 필요할 때만’이라는 태도는 아이가 어떤 도구를 쓰든 평생 쓸 수 있는 분별의 습관입니다. 큰 것을 부러워하기보다, 들여다볼 수 있는 것을 신뢰하는 눈을 길러 줍니다.
“큰 챗봇은 속이 안 보이는 깜깜 상자, 작은 규칙은 속이 보이는 유리 상자야. 그리고 제일 깨끗한 건? 굳이 안 써도 될 땐 안 쓰는 거야.”
새 도구를 만나면 신호등 네 칸으로 다스립니다. 티(맞다), 옴(모름), 타(틀림), 음(내 일이 아님). 진짜 힘은 ‘멈추는 칸’에 있습니다.
네 칸은 이렇게 씁니다. 티(+1, 예스·확정): 답이 맞으면 받아들입니다. 옴(0, 모름·보류): 모르면 멈추고 알아봐 확인합니다(곱셈 0처럼, 확실해지기 전엔 아무 일도 일으키지 않습니다). 타(−1, 노·거부): 틀리면 고치거나 거절합니다 — AI도 틀립니다(환각). 음(-0, 이관): 이상하거나 내가 다룰 일이 아니면 멈추고 어른·담당자에게 넘깁니다.
핵심 차이가 여기 있습니다. 거대 LLM은 무엇이든 ‘티’로만 답해 환각을 냅니다. 반면 크라우니의 분류기 거대SLM2는 ‘옴(모름)’과 ‘음(못함)’도 정직하게 출력합니다. 이 거대SLM2는 27칸 큐브에 T(좋은 신호)·O(모름은 곱셈 0이라 아무것도 안 함)·A(나쁜 신호)·U(이관)를 저장하는 ‘판정’ 전용이며, 답을 새로 만드는 ‘생성기’가 아닙니다. 무엇이든 ‘맞다’고만 하는 도구일수록 더 꼼꼼히 확인해야 한다는 뜻입니다.
사람들은 ‘티’ 칸만 멋지다고 합니다. 하지만 진짜 똑똑함은 ‘모른다(옴)’와 ‘못 한다(음)’를 솔직히 말하는 데 있습니다. 이 네 칸을 어릴 때 익히면, 어른이 되어 어떤 새 AI가 나와도 그것을 다스릴 수 있습니다.
아이는 도구의 주인입니다. AI는 대신 생각해 주는 친구가 아니라, 시간을 아껴 주는 연장입니다. 그렇게 아낀 시간으로 사람을 더 사랑하면 됩니다 — 가족과 더 놀고, 친구 말을 더 들어 주면서. 무서워하지도, 떠받들지도 않기. AI는 유용하지만 틀릴 수 있는 연장일 뿐입니다. 그리고 마지막 한 줄, 답이 맞든 틀리든 책임은 언제나 사람이 집니다.
“새 도구를 만나면 신호등을 켜자. 맞으면 티(받아들여), 모르면 옴(멈추고 알아봐), 틀리면 타(고치거나 거절해 — AI도 틀려!), 이상하면 음(멈추고 어른께 가져와). ‘모른다’를 말할 줄 아는 게 진짜 똑똑한 거야.”