이제 1부에서 드렸던 약속으로 돌아옵니다. 환각 없는 AI입니다.
환각의 대가
일반적인 AI가 가끔 그럴듯한 거짓을 지어내는 것은, 대개 정보의 신뢰성 문제로 끝납니다. 다시 물어보거나, 사람이 한 번 더 확인하면 됩니다. 그러나 병원의 운영을 돕는 AI가 똑같이 지어낸다면, 결과가 다릅니다.
사용 중인 장비를 비어 있다고 표시하면, 두 환자가 같은 자원에 배정됩니다. 없는 재고를 있다고 하면, 수술 당일에 소모품이 비는 것을 그제야 알게 됩니다. 잘못된 일정을 사실인 양 내놓으면, 그 어긋남이 하루 전체로 번집니다. 사람의 일이라면 한 번 더 확인했을 자리에서, 추측하는 AI는 그대로 밀고 나갑니다. 그 끝은 사고이거나 손실입니다. 병원은 단 한 번의 환각도 감당하기 어려운 곳입니다. “대체로 맞다”는 다른 산업에서는 충분할지 몰라도, 병원에서는 충분하지 않습니다.
잘못된 답 — 더 똑똑한 모델
업계의 흔한 해법은 모델을 더 크고 더 똑똑하게 만드는 것입니다. 더 많은 데이터, 더 큰 모델, 더 두꺼운 안전장치. 의미가 없지는 않습니다.
그러나 한계가 분명합니다. 아무리 똑똑해져도, 모르는 자리에서는 결국 추측한다는 사실 자체는 바뀌지 않습니다. 모델을 키우는 일은 추측이 틀릴 확률을 줄일 뿐, 추측 자체를 없애지는 못합니다. 그리고 병원에서 문제가 되는 것은 평균이 아니라, 가장 위험한 한 번입니다. 백 번 중 아흔아홉 번을 맞혀도, 한 번의 환각이 사고가 되면 그 병원은 AI를 신뢰할 수 없게 됩니다. 병원에 필요한 것은 ‘대체로 맞는’ AI가 아니라, ‘모르면 지어내지 않는’ AI입니다.
우리의 답 — 빈자리를 없앤다
키노티의 답은 다릅니다. 우리는 모델을 더 똑똑하게 만들기보다, AI가 추측할 빈자리 자체를 없앱니다.
여기까지 읽으신 분이라면, 그 방법을 이미 아십니다. 1장에서 모든 것을 정확히 나누었습니다. 2장에서 데이터를 기록에서 지식까지 끊김 없이 이었습니다. 3장에서 같은 사실에 여러 관점을 어긋남 없이 겹쳤습니다. 4장에서 여러 측면으로 분류해 처음 보는 것까지 알아채게 했습니다. 5장에서 모든 것을 관계로 이었습니다.
이렇게 나뉘고 연결된 병원에는, AI가 지어내야 할 공백이 없습니다. AI는 추측하는 대신, 이미 정확히 놓여 있는 것을 꺼내 올 뿐입니다. 똑똑한 모델이 추측을 잘하게 만드는 길과, 추측할 일이 없는 환경을 만드는 길. 우리는 두 번째 길을 택했습니다. 그래서 우리는 늘 모델보다 구조를 먼저 만듭니다. 온톨로지가 정확하면, 그 위의 AI는 똑똑하지 않아도 안전합니다. 온톨로지가 부실하면, 아무리 똑똑한 AI도 위험합니다.
사람을 대신하는 것이 아닙니다
한 가지 오해를 짚고 싶습니다. 추측하지 않는 AI가 사람을 밀어내는 것이 아니냐는 것입니다. 정반대입니다.
온톨로지가 병원의 반복되는 일 — 확인하고, 맞추고, 챙기고, 빠진 것을 메우는 일 — 을 떠맡으면, 사람은 사람만이 할 수 있는 일로 돌아갑니다. 의사는 환자를 보고, 상담사는 사람의 마음을 읽고, 운영자는 더 나은 판단에 집중합니다. 중요한 결정의 자리에는 언제나 사람이 있습니다. AI는 그 사람이 더 정확한 바탕 위에서 판단하도록 돕습니다. 우리가 없애려는 것은 사람의 자리가 아니라, 사람이 추측에 의존해야 했던 빈자리입니다.
책상이 아니라 현장에서 만든 온톨로지
그리고 한 가지가 더 있습니다. 이 온톨로지는 책상 위에서 설계된 것이 아닙니다.
우리는 지난 8년간 직접 병원 운영을 책임지며 이 구조를 만들어 왔습니다. 우리가 만든 운영체제로, 우리가 운영을 지원하는 병원을 매일 돌립니다. 현장에서 어긋나는 분류는 그날 바로 드러나고, 빠진 연결은 곧장 문제가 되어 돌아옵니다. 그렇게 매일의 운영 결과로 온톨로지를 두드려 보고, 다시 다듬습니다.
이론으로 시작한 분류가 현장에서 검증되고, 현장의 문제가 다시 분류를 정교하게 만듭니다. 이 순환을 8년간 멈추지 않았기 때문에, 우리의 온톨로지는 논문 속 그림이 아니라 실제로 병원을 굴리는 살아 있는 구조가 되었습니다. 그리고 이렇게 다듬은 구조를, 이제 국내의 여러 병원으로, 그리고 국경 너머로 옮기고 있습니다. 병원이 바뀌어도 토대는 같습니다. 정확히 나눈 위에 정확히 잇는다는 원리는, 어느 병원에서나 동일하게 작동하기 때문입니다.
온톨로지는 끝이 아니라 시작입니다
정확히 나뉘고 연결된 병원은, 그 자체로 끝이 아닙니다. 그 위에서 비로소 더 큰 것이 가능해집니다.
추측할 빈자리가 없는 환경이 갖춰지면, AI는 안심하고 더 많은 일을 맡을 수 있습니다. 반복되는 운영이 하나씩 자동으로 돌아가고, 사람은 점점 더 중요한 자리로 옮겨갑니다. 1부에서 말씀드린 ‘병원 운영의 자율주행’은 바로 이 토대 위에서만 가능합니다. 자율주행 자동차가 정확한 지도와 센서 없이는 한 발짝도 못 나가듯, 자율 운영 병원도 정확한 온톨로지 없이는 시작되지 않습니다.
그래서 우리에게 온톨로지는 하나의 기능이 아니라 모든 것의 출발점입니다. 우리가 만드는 모든 화면, 모든 자동화, 모든 AI는 이 토대 위에 올라섭니다. 토대가 정확하면 그 위의 모든 것이 정확해지고, 토대가 흔들리면 그 위의 모든 것이 흔들립니다. 우리가 8년을 들여 가장 깊은 곳부터 쌓아 온 이유입니다.
안다는 것은 나눈다는 것입니다
키노티는 AI 회사이기도 하고, CRM 회사이기도 하며, 솔루션 회사이기도 합니다. 우리는 그 일을 모두 합니다. 그러나 그중 어느 하나로 우리를 다 설명할 수는 없습니다.
우리를 한 문장으로 말하면 이렇습니다. 키노티는 온톨로지로 병원의 데이터를 정리해, AI와 사람이 함께 안전하게 일하게 만드는 회사입니다. 그리고 우리는 오직 의료에만 집중합니다. 다른 산업으로 넓히지 않고, 병원이라는 한 세계에 우리의 모든 시간을 쏟습니다.
안다는 것은 나눈다는 것입니다. 우리는 이 한 문장 위에, 병원의 다음 시대를 짓습니다.