의료에서 인공지능이 환각(hallucination)을 일으키면, 결과는 단순히 부정확한 답변에 그치지 않습니다. 사람이 다칩니다.

일반적인 AI 챗봇이 가끔 사실이 아닌 문장을 그럴듯하게 만들어내는 것은 정보의 신뢰성 문제입니다. 그러나 병원의 운영을 자동화하겠다고 약속하는 AI가 똑같이 환각을 일으킨다면 — 잘못된 환자를 잘못된 병상으로 이동시키고, 사용 중인 장비를 가동 가능 상태로 표시하고, 존재하지 않는 재고를 발주에서 누락시키는 — 그 환각의 결과는 의료 사고입니다.

이것이 우리가 첫 줄부터 다음 질문을 던진 이유입니다.

“어떻게 AI가 추측할 필요가 없는 환경을 만들 수 있는가?”

잘못된 답: 더 똑똑한 모델

업계의 일반적인 접근은 모델을 더 크고 더 정교하게 만드는 것입니다. 더 많은 데이터, 더 큰 파라미터, 더 강한 RLHF, 더 두꺼운 안전 가이드레일. 이 방향에는 분명한 가치가 있지만, 한 가지 근본적인 한계가 있습니다 — 확률적으로 추론한다는 사실 자체는 바뀌지 않는다는 점입니다.

확률 모델이 아무리 정교해져도, 입력 데이터가 모호하면 출력은 추측이 됩니다. 그리고 의료 현장에서 데이터의 모호함은 일상입니다. “3층에 간호사가 부족하다”라는 한 줄의 메모로는 AI가 무엇을 해야 할지 알 수 없습니다. 어느 3층입니까? 어느 병동입니까? 부족한 것이 등록 간호사인지 보조 인력인지, 지금 부족한 것인지 한 시간 뒤에 그럴 것인지, 옆 병동의 여유로 해결될 수 있는지 — 어떤 것도 명확하지 않습니다.

확률 모델은 이 빈 자리를 추측으로 채웁니다. 의료에서 그 추측은 위험합니다.

다른 답: 더 정확한 데이터 구조

키노티의 접근은 다릅니다. 모델을 더 똑똑하게 만드는 대신, AI가 추측해야 할 빈 자리 자체를 없애는 것입니다.

이를 위해 우리는 병원을 온톨로지(Ontology)라는 데이터 구조 위에 다시 그립니다. 온톨로지는 단순한 데이터베이스 스키마가 아닙니다. 그것은 병원이라는 세계의 객체(Object)와 관계(Relation)를 의미 단위로 정의한 모델입니다.

  • 객체 — 의사, 간호사, 스텝, 환자, CT, MRI, 수술 도구, 수술실, 병상, 약품, 소모품
  • 관계 — 누가 어디에 있는가, 누가 무엇을 사용 중인가, 어떤 환자가 어떤 경로로 이동했는가, 어떤 장비가 어떤 인력에게 배정되어 있는가, 어떤 자원이 다음 1시간 내에 어디에 필요한가

이 구조 위에서 AI는 더 이상 추측할 필요가 없습니다. “3층 간호사 부족”이 “동관 3층 외과 병동의 등록 간호사가 14:00 기준 정원 6명 중 4명, 인접 병동의 여유 인력 1명이 캔버스상 7분 거리에 위치”로 바뀝니다. 같은 사실이지만, AI에게는 전혀 다른 데이터입니다.

공간 캔버스(Spatial Canvas) — 모든 것이 시작되는 자리

여기에서 키노티의 가장 중요한 설계 결정이 등장합니다.

키노티의 병원 온톨로지는 추상적 데이터 모델에서 시작하지 않습니다. 병원의 건축 설계도를 디지털로 재구성한 ‘공간 캔버스(Spatial Canvas)’ 위에서 시작합니다.

우리는 고객 병원으로부터 실제 건축 설계도를 받아, 이를 공간 캔버스로 재구성합니다. 그리고 그 캔버스 위에 병원을 구성하는 모든 요소를 각각의 레이어(Layer)로 얹어 갑니다.

  • 의료장비 레이어 — CT, MRI, 초음파, 레이저, 수술 도구를 포함한 모든 장비가 캔버스 위의 정확한 좌표를 갖습니다. 가동 중인지, 대기 중인지, 점검 중인지가 실시간으로 표시됩니다.
  • 의료진(의사·간호사·스텝) 레이어 — 현재 누가 어느 위치에 있는지가 캔버스 위에 실시간으로 표시됩니다. 어느 인력이 어느 환자에게 배정되어 있는지, 다음 일정이 어디에서 시작하는지도 함께 표시됩니다.
  • 환자·방문객 동선 레이어 — 접수에서 진료실, 검사실, 수술실, 회복실, 병동까지의 이동 경로가 궤적(Trajectory)으로 기록되고 시각화됩니다. 어디에서 환자가 몰리고, 어디에서 동선이 교차하고, 어디에서 병목이 생기는지가 한눈에 보입니다.
  • 공간 자원 레이어 — 병상, 대기실, 회복실, 수술실의 가동 상태가 캔버스 위의 색상과 표지로 나타납니다.

병원은 이 시스템 안에서 하나의 캔버스 위에 살아 움직이는 유기체처럼 보입니다. 추상적인 대시보드가 아니라, 현장 그 자체의 디지털 쌍둥이입니다.

이것이 우리가 2026년 3월, 베트남 후에 중앙병원(Hue Central Hospital)에 공식 제안한 설계 방식입니다. 후에 중앙병원의 건축 설계도를 기반으로, 인력 배치·환자 동선·의료장비 상태·기존 원내 시스템 등 병원을 구성하는 모든 요소를 온톨로지 데이터 구조로 체계화하는 것 — 키노티가 후에에 제출한 공식 제안이고, 같은 날 후에 중앙병원장이 LOA로 공식 수락한 협력의 기초입니다.

공간 캔버스 위에서 AI가 일하는 법

이 캔버스 위에서, AI는 추측하지 않고 사실에 근거해 추천합니다.

사례 1 — 마취 후 회복실(PACU) 정체. 회복을 마친 환자가 병동으로 이동하지 못하고 대기 중일 때, AI는 환자가 회복실의 어느 자리에 있는지, 다음으로 갈 병상이 캔버스 위 어디에 비어 있는지, 그 경로 중간에 필요한 자원이 무엇인지를 모두 알고 있습니다. 추천은 “환자를 옮기는 것이 좋겠다”가 아니라 “환자 P를 회복실 3번 자리에서 동관 5층 512호로 이송, 예상 소요 8분, 이송 인력 김OO이 현재 4층 복도 위치”입니다.

사례 2 — 의료장비 모니터링. 키노티의 시그널(Signal) 시스템은 캔버스 위에 등록된 모든 장비에 대해 세 가지 종류의 알림을 실시간으로 감지하고, 가장 가까운 담당자에게 즉시 전달합니다.

  • 장비 고장 알림 — 장비가 완전히 멈춘 뒤가 아니라, 이상 징후가 나타난 순간에 담당자에게 알립니다.
  • 장비 주요 소모품 부족 알림 — MRI 헬륨 잔량이 임계치 이하로 떨어졌을 때, 내시경 일회용 캡 재고가 다음 시술 일정까지 부족할 때, 수술용 전기소작기 팁 재고가 임박할 때, 인공호흡기 일회용 회로가 부족해질 때. 발주가 막힌 다음이 아니라, 발주가 필요한 시점에 알립니다.
  • 기계 상태 알림 — 정기 점검 기한 도래, 캘리브레이션 주기 만료, 누적 사용시간이 권장 한계에 근접, AED 패드 유효기간 만료 임박. 단순 알람이 아니라, 다음 행동(점검 예약·부품 발주·인력 배정)이 함께 추천되는 알림입니다.

각 알림은 긴급(빨강)·경고(주황)·보고(노랑) 단계로 분류되며, 장비가 캔버스 위 어디에 있고, 가장 가까운 담당자가 누구이며, 그 인력이 지금 무엇을 하고 있는지를 모두 사실로 가진 상태에서 발송됩니다. 그래서 “장비가 멈추기 전에 시스템이 먼저 알린다” 가 단순한 슬로건이 아니라 작동 가능한 약속이 됩니다.

사례 3 — 인력 스케줄링. 다음 주의 인력 배치를 짤 때, AI는 지난 수년간 캔버스 위에 누적된 동선·가동률·환자 흐름 패턴을 모두 사실로 들고 추천을 합니다. 추천의 근거는 언제나 캔버스 위의 사실로 환원됩니다.

추측이 아니라 사실. 이것이 환각 없는 AI의 작동 방식입니다.

엔지니어링 원칙

공간 캔버스 위에서 AI를 만들 때, 우리는 세 가지 원칙을 따릅니다.

  1. 출처 추적성(Source Traceability) — AI의 모든 결정은 캔버스 위의 어떤 객체, 어떤 시점, 어떤 데이터에 근거했는지 거꾸로 추적 가능해야 합니다. “왜 그렇게 추천했는가”에 대한 답이 언제나 사실의 좌표로 되돌아갑니다.

  2. 결정 근거 기록(Rationale Recording) — AI의 모든 추천은 그 근거와 함께 기록됩니다. 의료진과 운영자는 추천의 이유를 언제든지 검토할 수 있고, 감사관은 그 기록을 통해 시스템 전체의 의사결정 품질을 검증할 수 있습니다.

  3. 인간 In-the-Loop — AI는 추천하고, 사람이 결정합니다. 특히 환자 치료에 직접 영향을 미치는 모든 결정은 의료진의 명시적 승인을 거칩니다. 자율 운영은 인간 판단의 배제가 아니라, 인간 판단이 더 잘 작동하도록 돕는 일입니다.

환각 없는 AI는 더 똑똑한 AI가 아니다

산업이 흔히 빠지는 함정은, AI의 신뢰성 문제를 모델의 문제로 환원하는 것입니다. 더 많은 데이터, 더 큰 모델, 더 정교한 프롬프트 — 이 방향은 환각을 줄일 수 있지만, 없앨 수는 없습니다. 왜냐하면 환각은 모델이 만든 것이 아니라, 모델이 작동해야 했던 모호한 환경이 만든 것이기 때문입니다.

키노티의 답은 단순합니다.

환경을 정확하게 만들면, AI는 추측할 필요가 없어집니다.

캔버스 위의 좌표, 객체 간의 관계, 시간 위의 사건 — 이 세 가지가 정확히 정의된 환경에서, AI는 마침내 정확하게 일할 수 있습니다. 이것이 우리가 8년간 T 병원 네트워크의 운영을 통해 검증해 왔고, 지금 후에 중앙병원에 약속하고 있는 그 환경입니다.