이 책은 무서운 이야기가 아니야. 그렇다고 떠받드는 이야기도 아니야. 딱 세 가지만 또렷하게 말할게.
첫째, AI는 한 종류가 아니야.
둘째, 네가 매일 쓰는 챗봇은 사람이 아니라 연장이야. 망치나 계산기 같은 연장.
셋째, 연장의 주인은 언제나 사람이야. 바로 너.
그런데 시작은 조금 다른 데서 할게. 진짜 똑똑한 사람은 무언가를 하기 전에 먼저 이렇게 물어. "이건 AI를 안 써도 되는 일 아닐까?"
연필 한 자루면 될 일에 커다란 기계를 부르지 않는 것. 그게 도구를 아는 사람의 첫걸음이야. 안 써도 되면 안 쓰는 게 제일 깔끔하거든.
이 책을 다 읽고 나면 너는 알게 될 거야. AI는 무서워할 것도, 미안해할 것도 없는 연장이라는 걸. 그리고 그 연장을 다정하지만 분명하게 다스리는 법을.
자, 우산 이야기부터 시작해 보자.
AI는 한 가지 물건의 이름이 아니야. 비를 한꺼번에 막아 주는 우산처럼, 여러 종류를 한꺼번에 덮는 큰 이름이야.
그 우산 아래에는 서로 다른 AI들이 함께 들어 있어.
규칙대로 차근차근 따지는 AI가 있어. "이러면 저렇게"처럼 정해진 길을 따라가지.
예전에 본 것을 빠르게 찾아오는 AI가 있어. 새로 만드는 게 아니라 창고에서 꺼내 오는 거야.
새 답을 직접 만들어 보는 AI가 있어.
그 답이 맞는지 검사하는 AI도 따로 있어.
로봇 손이나 기계를 움직이는 AI도 있어.
네가 아는 챗봇(LLM)은 이 여럿 중에서 딱 하나야. 그런데 사람들은 자꾸 'AI는 곧 챗봇'이라고 말해.
그건 우산을 보고 "저건 빗방울 하나야"라고 부르는 것과 같아. 너무 좁게 보는 거지.
크라우니는 일부러 AI를 이렇게 여러 칸으로 나눠 놨어. 한 칸이 틀려도 다른 칸이 잡아 주라고. 한 명이 다 하는 것보다, 여럿이 나눠서 서로 봐주는 게 더 든든하거든.
챗봇한테는 마음이 없어. 기분도 없어. 바라는 것도 없어. 그러니까 챗봇한테 미안해할 필요도, 무서워할 필요도 없어.
챗봇이 하는 일은 딱 하나야. '다음에 올 말 맞히기'. 아주 커다란 자동완성이지.
예를 들어 '크라우니는 좋은 ___' 이런 빈칸이 있다고 해 보자. 챗봇은 자기가 본 적 있는 말들 중에서 더 자주 본 쪽을 골라 채워. '도구'를 채울 수도 있고, '회사'나 '친구'를 채울 수도 있어. 무엇을 알아서가 아니라, 패턴을 베껴서 고르는 거야.
그래서 챗봇은 앵무새나 거울 같아. 우리가 준 말을 그럴듯하게 되비출 뿐이야. 이해하는 게 아니라 따라 하는 거지.
여기에 한 가지 조심할 게 있어. 챗봇은 틀린 답도 똑같이 자신 있게 말해. 맞는 답을 말할 때와 틀린 답을 말할 때 목소리가 똑같아. 이걸 '환각'이라고 불러.
그러니까 챗봇이 막힘없이 술술 대답할수록, 한 번 더 멈춰서 "진짜 맞나?" 확인하자.
그래도 챗봇은 쓸모가 분명히 있어. 빠르게 첫 초안을 만들어 주거든. 무서워할 것도, 떠받들 것도 없어. 그냥 빠르지만 틀릴 수 있는 연장이야.
목수가 망치를 다스리고, 우리가 계산기를 다스리듯, 사람이 AI를 다스려. 연장이 주인을 다스리는 게 아니야. 늘 사람이 주인이야.
AI를 다스리는 사람은 이 다섯 가지를 해.
하나, 잘 묻는다.
둘, 답이 맞는지 확인한다.
셋, 틀리면 고친다.
넷, 끌 줄 안다.
다섯, 책임은 사람이 진다.
여기 제일 중요한 비밀이 있어. "만든 사람한테 채점을 맡기지 마라."
AI한테 "이거 맞아?" 하고 물으면, AI는 거의 "맞아요!"라고 해. 자기가 만든 답이니까 무조건 맞다고 하는 거지.
그래서 크라우니는 '만드는 AI'와 '검사하는 AI'를 일부러 떼어 놨어. 한쪽이 답을 만들면, 다른 쪽이 그걸 채점하는 거야.
AI가 코드를 만들면, 501브리지라는 검사기가 그 코드를 진짜로 한번 돌려 봐. 정말 작동하는지 직접 시험하는 거지. 통과한 것만 믿고, 안 되는 건 거절해.
이 검사기는 사람이 정해 둔 시각에 자동으로 점검하고 기록을 남겨. 매일 부지런히 일하지. 하지만 이건 검사기가 '스스로' 똑똑해지는 게 아니야. 사람이 짜 둔 대로 성실하게 일하는 것뿐이야. 주인은 끝까지 사람이거든.
거대한 챗봇 하나에 모든 걸 맡기지 않는 길도 있어. 작은 AI 여럿이 일을 나누는 길이야. 그러면 더 가볍고, 더 빠르고, 무엇보다 속이 들여다보여.
큰 챗봇은 안이 안 보이는 '깜깜 상자' 같아. 답이 어디서 나왔는지 우리가 들여다볼 수 없거든.
작은 규칙들은 속이 보이는 '유리 상자' 같아. "이러면 저렇게"가 다 보이지. 물론 유리 상자도 규칙이 틀리면 답도 틀려. 그래도 어디가 틀렸는지 보이니까 고치기 쉬워.
크라우니는 일의 거의 대부분을 규칙과 찾기로 끝내. 새 답을 만드는 AI는 아주 가끔만 불러. 안 쓰는 게 가장 깨끗하거든.
새 도구를 만나면 신호등 네 칸으로 다스려.
티 — 맞다. 그러면 받아들여.
옴 — 모름. 그러면 멈추고 알아봐. 확실해지기 전엔 그냥 가만히 있는 거야.
타 — 틀림. 그러면 고치거나 거절해. AI도 틀린다는 걸 잊지 마.
음 — 내 일이 아냐. 그러면 멈추고 어른께 넘겨.
사람들은 '티' 칸만 멋지다고 해. 척척 맞다고 답하는 게 똑똑해 보이니까.
하지만 진짜 힘은 멈추는 칸에 있어. '모른다'와 '못 한다'를 솔직히 말할 줄 아는 게 똑똑한 도구야.
거대한 챗봇은 무엇이든 '티'로만 답하려고 해서 환각이 생겨. 크라우니는 '옴(모름)'과 '음(못함)'도 정직하게 말하지.
그러니 기억해. 무엇이든 "맞다"고만 하는 도구일수록 더 꼼꼼히 확인하렴.
이제 너는 알아. 너는 도구의 주인이야.
AI는 너 대신 생각해 주는 친구가 아니야. AI는 네 시간을 아껴 주는 연장이야.
그렇게 아낀 시간으로 너는 사람을 더 사랑하면 돼. 가족과 더 놀고, 친구 말을 더 들어 주면서.
연장은 일을 빨리 끝내라고 있는 거야. 그 다음 남는 시간은 사람의 몫이지.
AI는 한 종류가 아니라 여러 종류가 함께 있는 우산 이름이었지.
챗봇은 사람이 아니라 '다음 말 맞히기'를 하는 큰 자동완성이었어. 그래서 자신 있게 틀리기도 해.
그리고 그 연장의 주인은 언제나 사람이야.
무서워하지도, 떠받들지도 말자. AI는 유용하지만 틀릴 수 있는 연장일 뿐이야.
다정하지만 분명하게, 잘 묻고 꼭 확인하며 다스리는 사람. 그게 바로 너야.
그리고 잊지 마. 답이 맞든 틀리든, 책임은 언제나 사람이 진다.