AI가 똑똑하다고 해도, 한 가지 무서운 일이 있어. 바로 '거짓말'을 하는 거야. 우리는 이걸 '환각(hallucination)'이라고 부르는데, AI가 존재하지 않는 숫자를 지어내거나 모르는 걸 마치 아는 척하는 거야.
그럼 크라우니 엔터프라이즈는 어떻게 거짓말을 안 할까? 비결은 아주 단순해.
결정은 규칙이 하고, AI는 그냥 도와주는 기름일 뿐이야.
〔그림: 한쪽에는 기계 톱니바퀴가 톡톡 돌아가고, 다른 쪽에는 그 바퀴에 기름을 흘려주는 손〕
사장님이 "이번 투자, 할까 말까?" 하고 물어보면, AI가 대답하는 게 아니야. 대신 '규칙'이라는 작은 판사들이 일어나.
예를 들어볼까?
이 규칙들이 직무를 하듯이 차곡차곡 확인하는 거야. AI는 그 규칙들이 '예스' '노' '모름' '다른 사람에게 물어봐' 중 어디를 가리키는지 읽어주는 역할만 해. 마치 신문 기자처럼.
〔그림: 책상 위에 여러 개의 작은 투표함이 있고, 각각 "돈 규칙" "시장 규칙" "팀 규칙" 같은 이름이 붙어 있다〕
규칙들이 어디에 사는지 궁금할까? 셀코어(셀+코어)라는 곳이야. 마치 학교 도서관처럼.
크라우니의 셀코어에는 15개 방이 있어:
... (계속 15가지)
여기 매일 새로운 규칙이 들어와. 언제? 사장님의 경험이 쌓일 때마다야. "아, 작년에 이런 상황에서는 이렇게 해야 했다"는 걸 배우면, 그게 규칙으로 저장돼. 영원히.
〔그림: 도서관처럼 생긴 건물. 문을 열면 15개의 방이 보이고, 손으로 규칙 카드를 하나씩 방에 넣고 있다〕
지금까지 많은 회사들이 AI에게 결정을 맡겼어. "AI님, 판단해 주세요" 하면서.
그런데 문제가 생겨. AI는 거짓말을 할 수 있거든. 모르는데 마치 아는 척.
하지만 크라우니는 달라.
규칙이 명확한 답을 주면, AI는 그 답에 동의해야만 해. 규칙이 "노"라고 했는데 AI가 "예스"라고 할 수 없어. 마치 신호등이 빨간불인데 자동차가 가려고 할 수 없는 것처럼.
미처 규칙이 판단하지 못한 경우만 AI가 나서. "이건 잘 모르겠으니, 사장님이 생각을 더 해 봐요" 이렇게 정직하게.
〔그림: 신호등 앞에 서 있는 AI. 빨간불일 때는 손을 들고 있고, 회색 신호등(규칙이 아직 판단 못 함)일 때만 "음, 모르겠어요" 라고 말하는 모습〕
여기가 핵심이야.
규칙은 한 번만 쓰고 버려지지 않아. 매번 쓸 때마다 "이 규칙이 정말 맞았나?" 확인해. 의사 선생님이 처방약을 자꾸 점검하듯이.
맞으면 더 강해지고, 틀리면 수정돼. 그런 식으로 규칙은 점점 똑똑해져. 몇 년이 지나면? 그 규칙은 거짓말할 틈이 없이 정확해져 있어.
환각이 끼어들 틈? 없어. 왜냐하면 결정은 AI가 아니라 검증된 규칙이 하니까.
〔그림: 규칙이 써질 때마다 색칠되는 체크박스들. 처음엔 연하지만, 자꾸자꾸 쓰이면서 검은색으로 진해진다〕
---
자, 이제 알았지? 규칙이 주인이고 AI는 기름이다. 그럼 다음 질문이 생겨. 그 규칙들은 뭘 보고 "예스"와 "노"를 가르는 걸까? 혹시 틀릴 수도 있지 않을까? 다음 장에서는 크라우니만의 네 가지 답——티, 옴, 타, 음——을 만나 볼 거야.
생각해 볼까? 너라면 중요한 결정을 할 때, 누구(또는 뭐)를 믿고 싶을까?
공유로 세 챕터를 즐기셨네요. 무료 회원가입하면 이어서 모두 읽고, 맘을 보내고, 게시판에 함께할 수 있어요.