第一部でお約束したことに戻ります。ハルシネーションのないAIです。

ハルシネーションの代償

一般的なAIがときどき尤もらしい嘘をでっち上げるのは、大抵は情報の信頼性の問題で終わります。もう一度聞いてみるか、人がもう一度確認すればよい。しかし病院の運営を支援するAIが同じようにでっち上げるなら、結果が違います。

使用中の機器を空いていると表示すれば、二人の患者さんが同じリソースに配置されます。ない在庫をあると伝えれば、手術当日に消耗品がないことをその日になって知ります。間違ったスケジュールを事実のように出せば、そのずれが一日全体に広がります。人なら改めて確認したような場面で、推測するAIはそのまま突き進みます。その先は事故か損失です。病院は一度のハルシネーションも受け止めにくい場所です。「大体合っている」は他の産業では十分かもしれませんが、病院では十分ではありません。

間違った答え — より賢いモデル

業界でよくある解決策は、モデルをより大きく、より賢くすることです。より多くのデータ、より大きなモデル、より厚い安全装置。意味がないわけではありません。

しかし限界は明確です。どれほど賢くなっても、知らない場面では結局推測するという事実自体は変わりません。モデルを大きくすることは推測がはずれる確率を下げるだけで、推測そのものをなくすことはできません。そして病院で問題になるのは平均ではなく、最も危険な一度です。百回中九十九回合っていても、一度のハルシネーションが事故になれば、その病院はAIを信頼できなくなります。病院に必要なのは「大体合っている」AIではなく、「知らないことはでっち上げない」AIです。

私たちの答え — 空白をなくす

キノティの答えは違います。私たちはモデルをより賢くするよりも、AIが推測しなければならない空白そのものをなくします。

ここまで読んでこられた方なら、その方法をすでにご存知です。第一章ですべてを正確に分けました。第二章でデータを記録から知識まで途切れなくつなぎました。第三章で同じ事実に複数の視点をずれなく重ねました。第四章で複数の側面で分類し、初めて見るものまで見分けられるようにしました。第五章ですべてを関係でつなぎました。

このように分けられ、つながれた病院には、AIがでっち上げるべき空白がありません。AIは推測する代わりに、すでに正確に置かれているものを取り出すだけです。賢いモデルが推測をうまくやれるようにする道と、推測する必要のない環境を作る道。私たちは二番目の道を選びました。だから私たちは常にモデルより構造を先に作ります。オントロジーが正確なら、その上のAIは賢くなくても安全です。オントロジーが不十分なら、どれほど賢いAIも危険です。

人に取って代わるのではありません

一つの誤解を解いておきたいと思います。推測しないAIが人を押し出すのではないか、ということです。まったく逆です。

オントロジーが病院の繰り返しの仕事 — 確認して、合わせて、チェックして、抜けた箇所を埋める仕事 — を引き受けると、人は人にしかできない仕事に戻ります。医師は患者さんを診て、カウンセラーは人の気持ちを読み、運営者はより良い判断に集中します。重要な決断の場には、いつも人がいます。AIはその人がより正確な土台の上で判断できるように支援します。私たちがなくそうとしているのは人の居場所ではなく、人が推測に頼らなければならなかった空白です。

机の上ではなく現場で作ったオントロジー

もう一つあります。このオントロジーは机の上で設計されたものではありません。

私たちは過去八年間、直接病院運営を担いながらこの構造を作ってきました。私たちが作った運営システムで、私たちが運営支援する病院を毎日動かしています。現場でずれた分類はその日のうちに現れ、欠けたつながりはすぐに問題になって返ってきます。毎日の運営結果でオントロジーを叩き、また磨き直します。

理論から始めた分類が現場で検証され、現場の問題が分類をさらに精緻にしていきます。この循環を八年間止めなかったからこそ、私たちのオントロジーは論文の中の図ではなく、実際に病院を動かす生きた構造になりました。そしてこうして磨いた構造を、今は国内の複数の病院へ、そして国境を越えて移しています。病院が変わっても土台は同じです。正確に分けた上に正確につなぐという原理は、どの病院でも同じように機能するからです。

オントロジーは終わりではなく始まりです

正確に分けられ、つながれた病院は、それ自体が終わりではありません。その上で初めて、より大きなことが可能になります。

推測する空白のない環境が整えば、AIは安心してより多くの仕事を引き受けられます。繰り返しの運営が一つひとつ自動で回り始め、人はどんどんより重要な場所へ移っていきます。第一部でお伝えした「病院運営の自律走行」はまさにこの土台の上でしか可能ではありません。自律走行自動車が正確な地図とセンサーなしには一歩も踏み出せないように、自律運営病院も正確なオントロジーなしには始まりません。

だから私たちにとってオントロジーは一つの機能ではなく、すべての出発点です。私たちが作るすべての画面、すべての自動化、すべてのAIはこの土台の上に立ちます。土台が正確なら、その上のすべてが正確になり、土台が揺れれば、その上のすべてが揺れます。私たちが八年をかけて最も深い場所から積み上げてきた理由です。

知るとは分けることです

キノティはAI企業でもあり、CRM企業でもあり、ソリューション企業でもあります。私たちはそのすべてをします。しかしその一つだけで私たちをすべて説明することはできません。

私たちを一文で言えばこうです。キノティはオントロジーで病院のデータを整理し、AIと人が共に安全に働ける環境を作る会社です。そして私たちは医療だけに集中します。他の産業には広げず、病院というひとつの世界に私たちのすべての時間を注ぎます。

知るとは分けることです。私たちはこの一文の上に、病院の次の時代を築きます。