이 책은 딱 세 가지만 또렷하게 말한다.
첫째, AI는 한 종류가 아니다. 둘째, 네가 매일 쓰는 챗봇은 사람이 아니라 연장이다. 셋째, 연장의 주인은 언제나 사람이다.
요즘 어디서나 AI 이야기가 들린다. 어떤 사람은 'AI가 곧 사람을 다 이긴다'며 무서워하고, 어떤 사람은 'AI가 뭐든 다 해 준다'며 떠받든다. 이 책은 그 둘 다 아니다. 무섭게 겁주는 이야기도, 신처럼 떠받드는 이야기도 아니야. AI는 아주 쓸모 있지만, 그래도 '틀릴 수 있는 연장'일 뿐이라는 — 그 정직한 자리에 AI를 다시 놓아 두려는 책이다.
그런데 시작은 조금 다른 데서 할게. 우리는 보통 '어떻게 하면 AI를 더 잘 쓸까'부터 묻는다. 하지만 진짜 도구를 아는 사람은 그 앞에 한 가지 질문을 더 둔다.
"이건 AI를 안 써도 되는 일 아닐까?"
연필 한 자루로 풀릴 셈에 굳이 거대한 계산기를 부르지 않는 것. 친구에게 직접 물으면 될 일을 굳이 챗봇에 떠넘기지 않는 것. 그게 도구를 아는 사람의 첫걸음이다. 가장 깨끗하게 도구를 쓰는 법은, 안 써도 될 때는 안 쓰는 것이니까.
앞으로 우리는 여섯 걸음을 함께 걷는다. AI라는 이름이 사실은 '우산처럼 여러 종류를 한꺼번에 덮는 큰 이름'이라는 것, 챗봇이 어떻게 '다음에 올 말을 맞히는' 방식으로 작동하는지, 그래서 왜 가끔 틀린 답도 자신 있게 말하는지, 그리고 그 연장을 사람이 어떻게 다스리는지를 차근차근 본다.
마지막에는 네 칸짜리 신호등 하나를 손에 쥐게 될 거야. 티·옴·타·음 — 맞다·모름·틀림·이관. 이 네 칸만 익히면, 앞으로 세상에 어떤 새로운 AI가 나와도 당황하지 않고 다스릴 수 있다.
무서워할 것도, 미안해할 것도 없다. 천천히, 그러나 분명하게 시작하자.
많은 사람이 'AI'라고 하면 곧장 챗봇을 떠올린다. 화면에 말을 걸면 대답이 줄줄 나오는 그것. 하지만 AI는 한 가지 물건의 이름이 아니다. AI는 비를 한꺼번에 막아 주는 우산처럼, 서로 다른 여러 종류를 한꺼번에 덮는 큰 이름이다.
그 우산 아래에는 성격이 아주 다른 식구들이 함께 산다.
규칙을 따지는 AI가 있다. '이러면 이렇게 하라'는 정해진 규칙(if-then)을 그대로 따른다. 정해진 일에는 가장 정확하다. 규칙대로만 움직이니 거짓말을 지어낼 틈이 없다.
찾아오는 AI가 있다. 새로 답을 만들지 않고, 예전에 본 것 중에서 맞는 것을 빠르게 찾아온다. 도서관 사서가 책을 새로 쓰지 않고 서가에서 꺼내 오듯이.
골라 분류만 하는 AI가 있다. 답을 새로 만들지는 않고, '이건 맞다·모르겠다·틀리다·내 일이 아니다' 같은 판정만 한다. 일종의 심판이다.
새 답을 만들어 보는 AI가 있다. 없던 문장이나 코드를 새로 지어 본다. 가장 창의적이지만, 가장 틀리기도 쉽다.
답이 맞는지 검사하는 AI가 있다. 누군가 만든 답을 실제로 돌려 보고 통과인지 실패인지 채점한다. 시험 감독관 같은 역할이다.
로봇 손을 움직이는 AI가 있다. 신호를 받아 실제 기계와 로봇 팔을 움직인다.
챗봇(LLM)은 이 식구들 중 딱 하나, '새 답을 만들어 보는 쪽'에 가깝다. 그러니 'AI는 곧 챗봇'이라고 말하면, 우산을 가리키며 "저건 빗방울 하나야"라고 부르는 것과 같다.
이 책의 바탕이 되는 크라우니라는 시스템 안에는, 실제로 이렇게 여러 종류의 AI가 함께 산다. 규칙기반 셀코어(정해진 규칙을 따지는 모듈들), 검색 learn DB(이미 본 패턴을 찾아오는 창고), 분류기 거대SLM2(판정만 하는 심판), 삼진생성기(새 답을 만드는 쪽), 검증기 501브리지(답을 채점하는 감독관), 로봇제어 CrownyOS GPIO(기계를 움직이는 손), 그리고 챗봇인 LLM.
중요한 건 이걸 일부러 나눠 두었다는 점이다. 한 칸이 틀려도 다른 칸이 잡아 주라고. 만드는 칸과 검사하는 칸을 갈라 두면, 틀린 답이 슬쩍 지나가기 어렵다. 그리고 LLM은 이 식구들 가운데 가장 마지막에만 쓴다. 왜 그런지는 다음 장에서 보자.
챗봇과 이야기하다 보면 가끔 착각이 든다. 이 친구가 나를 이해하는 것 같고, 기분이 있는 것 같고, 뭔가를 바라는 것 같다. 하지만 정확히 알아 두자. 챗봇한테는 마음도, 기분도, 바람도 없다.
LLM(대형 언어 모델)이라 부르는 챗봇이 하는 일은 딱 하나다. '다음에 올 말 맞히기.' 아주 커다란 자동완성이라고 보면 된다.
예를 들어 '크라우니는 좋은 ___'이라는 문장 다음 칸을 채운다고 하자. 챗봇은 자기가 본 적 있는 수많은 글에서, 이 자리에 어떤 단어가 더 자주 왔는지를 따져 후보를 고른다. '도구'가 가장 잦았다면 도구, 그다음이 '회사', 그다음이 '친구' 하는 식으로 확률에 따라 한 칸을 채운다. 이해해서가 아니라, 본 패턴을 베껴서.
그래서 챗봇은 앵무새나 거울에 가깝다. 우리가 준 말을 그럴듯하게 되비출 뿐, 무엇을 '안다'고 말하기는 어렵다. 글을 잘 쓰는 것처럼 보여도, 그건 '맞히기'를 아주 잘하는 것이지 '이해'가 아니다.
여기서 가장 조심할 점이 나온다. 챗봇은 맞는 답도, 틀린 답도 똑같이 자신 있게 말한다. 패턴을 베껴 그럴듯한 문장을 만드는 데는 능하지만, 그 내용이 진짜인지 아닌지는 따로 확인하지 않기 때문이다. 그래서 있지도 않은 사실이나 책, 숫자를 천연덕스럽게 지어내기도 한다. 이걸 '환각(hallucination)'이라고 부른다.
역설적이게도, 챗봇이 막힘없이 술술 대답할수록 우리는 더 믿고 싶어진다. 그러니 거꾸로 하자. 대답이 매끈할수록 한 번 더 멈춰서 '정말 그런가' 확인하는 거다.
그렇다고 챗봇을 미워하거나 무서워할 필요는 없다. 사람이 아니니 미안해할 일도 없다. 쓸모는 분명하다. 초안을 빠르게 만들어 주고, 막막한 첫 문장을 대신 떼어 주고, 생각을 정리하는 실마리를 던져 준다.
그래서 크라우니는 이 '새 답을 만드는' 기능을 평소엔 거의 쓰지 않고, 정말 다른 방법이 없을 때 마지막 수단으로만 부른다. 챗봇이 사람이 아니라는 것 — 이 한 가지만 정확히 알아도, 우리는 챗봇을 훨씬 똑똑하게 쓸 수 있다.
목수는 망치를 다스린다. 우리는 계산기를 다스린다. 도구는 우리를 부리는 게 아니라, 우리가 부리는 것이다. AI도 마찬가지다. 아무리 똑똑해 보여도, 다스리는 쪽은 언제나 사람이다.
도구를 다스리는 사람은 다섯 가지를 한다.
첫째, 잘 묻는다. 무엇을 원하는지 또렷하게 말해야 쓸 만한 답이 나온다. 둘째, 답이 맞는지 확인한다. 그냥 받아 적지 않는다. 셋째, 틀리면 고친다. 넷째, 끌 줄 안다. 필요 없을 때 멈출 수 있어야 진짜 주인이다. 다섯째, 책임은 사람이 진다. 답이 맞든 틀리든, 그걸 쓴 결과는 도구가 아니라 사람의 몫이다.
여기 이 장에서 꼭 기억할 한 가지가 있다.
"만든 사람한테 채점을 맡기지 마라."
챗봇에게 '이거 맞아?'라고 물으면, 챗봇은 거의 언제나 '네, 맞아요!'라고 한다. 자기 답을 의심하도록 만들어진 도구가 아니기 때문이다. 시험을 본 학생이 자기 답안을 스스로 채점하면서 다 동그라미를 치는 것과 같다.
그래서 크라우니는 '만드는 AI'와 '검사하는 AI'를 일부러 떼어 놓았다. AI가 코드를 하나 만들면, 501브리지라는 검사기가 그걸 진짜로 컴퓨터에서 돌려 본다. 실제로 컴파일해서 통과하면 믿고, 안 되면 거절한다. '정말 작동하나?'를 말이 아니라 실행으로 확인하는 것이다. 통과한 것만 신뢰하고, 실패한 것은 버린다.
이 검사기는 사람이 정해 둔 시각에 자동으로 점검하고 기록을 남긴다. 크라우니에서는 501브리지 데몬(com.crowny.bridge501)이 매일 정해진 시각에 그날 만들어진 것들을 모아 검증하고 보고하며, 조금씩 다듬어 간다.
오해하지 말자. 이건 AI가 '스스로' 똑똑해지는 마법이 아니다. 사람이 짜 둔 절차대로 부지런히 일하는 것이다. 검사하고, 통과만 남기고, 기록한다. 그 단순하고 정직한 반복이 쌓여서, 시스템은 어제보다 조금 나아진다. 다스린다는 건 바로 이런 거다. 멋지게 만드는 것보다, 만든 것을 꼬박꼬박 검사하는 일.
거대한 챗봇 하나에 모든 일을 다 맡기는 길이 있다. 그리고 작은 AI 여럿이 일을 나눠 맡는 길이 있다. 크라우니는 두 번째 길을 택했다.
작은 AI 여럿이 나눠 일하면 더 가볍고 빠르다. 그리고 무엇보다, 속이 들여다보인다.
거대한 챗봇은 안이 보이지 않는 '깜깜 상자'다. 왜 그런 답을 냈는지 사람이 따라가기 어렵다. 반대로 작은 규칙은 속이 보이는 '유리 상자'다. '이 조건이면 이렇게 한다'는 규칙이 또렷이 보이니, 틀렸을 때 어디가 틀렸는지 짚을 수 있다. (물론 유리 상자도 만능은 아니다. 규칙 자체가 틀려 있으면 그 규칙대로 틀린 답을 낸다. 그래서 검사기가 필요하다.)
크라우니의 토큰0 라우터는 일의 대부분을 규칙과 찾기 단계에서 끝낸다. 정해진 규칙으로 풀 수 있으면 규칙으로, 예전에 본 패턴이면 찾아와서. 새로 답을 만들어 내는 AI는 그래도 안 될 때만 아주 가끔 부른다. 앞에서 말했듯, 안 쓰는 게 가장 깨끗하니까.
그럼 이 모든 걸 무엇으로 다스릴까. 신호등 네 칸이다. 새로운 도구나 새로운 답을 만나면, 이 네 칸 중 하나에 놓는다.
티(맞다, +1) — 답이 맞으면 받아들인다. 초록불처럼 나아간다.
옴(모름, 0) — 모르면 멈추고 알아본다. 곱셈에서 0을 곱하면 아무것도 안 일어나듯, 확실해지기 전에는 함부로 일을 벌이지 않는다.
타(틀림, −1) — 틀리면 고치거나 거절한다. AI도 틀린다. 환각을 기억하자.
음(이관) — 이상하거나 내가 다룰 일이 아니면, 멈추고 어른이나 담당자에게 넘긴다.
사람들은 보통 '티' 칸만 멋지다고 한다. 척척 맞히고 나아가는 모습이 보기 좋으니까. 하지만 진짜 힘은 멈추는 칸, 옴과 음에 있다.
거대한 챗봇은 무엇을 물어도 일단 '티'로 답하려 든다. 모르는 것도 아는 척, 못 하는 것도 되는 척. 그래서 환각이 나온다. 반대로 크라우니의 분류기 거대SLM2는 '옴(모름)'과 '음(못함)'도 정직하게 출력한다. 이 분류기는 27칸짜리 큐브에 신호를 저장하는데, 좋은 신호는 T, 모름은 O(곱셈 0처럼 아무 일도 일으키지 않음), 나쁜 신호는 A, 넘길 일은 U로 둔다. 새 답을 '만드는' 게 아니라, 오직 판정만 하는 심판이다.
무엇이든 '맞다'고만 하는 도구일수록, 우리는 더 꼼꼼히 확인해야 한다. '모른다'와 '못 한다'를 솔직히 말할 줄 아는 도구가 더 똑똑한 도구다.
이제 처음의 세 가지 약속으로 돌아가자. AI는 한 종류가 아니다. 챗봇은 사람이 아니라 연장이다. 연장의 주인은 언제나 사람이다.
그 세 가지를 한 문장으로 줄이면 이렇다. 너는 도구의 주인이다.
AI는 너 대신 생각해 주는 친구가 아니다. 마음도 기분도 없고, 너를 이해하지도 않는다. AI는 네 시간을 아껴 주는 연장이다. 막막한 일의 첫걸음을 빠르게 떼어 주고, 반복되는 수고를 대신 덜어 준다. 거기까지가 연장의 자리다.
그렇게 아낀 시간으로 무엇을 할까. 그건 도구가 정해 줄 수 없다. 그 시간으로 너는 사람을 더 사랑하면 된다. 가족과 더 놀고, 친구의 말을 더 들어 주고, 네가 진짜 하고 싶은 일에 손을 대면서. 도구가 일을 덜어 주는 까닭은, 결국 사람이 사람에게 쓸 시간을 벌기 위해서다.
AI를 무서워하지도, 떠받들지도 말자. AI는 유용하지만 틀릴 수 있는 연장일 뿐이다. 이 한 줄을 잊지 않으면, 어떤 새로운 AI가 나와도 휘둘리지 않는다.
네가 손에 쥔 신호등을 기억하자. 맞으면 티로 받고, 모르면 옴으로 멈춰 알아보고, 틀리면 타로 고치거나 거절하고, 내 일이 아니면 음으로 어른께 넘긴다. 잘 묻고, 꼭 확인하고, 끌 줄 알고, 멈출 줄 아는 사람 — 다정하지만 분명하게 도구를 다스리는 사람. 그게 바로 너다.
그리고 마지막 한 줄. 답이 맞든 틀리든, 책임은 언제나 사람이 진다. 도구는 책임지지 않는다. 다스리는 사람이 책임진다. 그 책임을 기꺼이 질 줄 아는 사람이, 비로소 도구의 진짜 주인이다.