現在回到第一部所做的承諾。沒有幻覺的AI。

幻覺的代價

一般的AI偶爾捏造一些看似合理的謊言,通常以資訊可靠性問題告終。再問一次,或者讓人再確認一次就好。但協助醫院營運的AI以同樣的方式捏造,結果就不同了。

把使用中的設備標示為空著,兩位患者就被分配到同一個資源。回報不存在的庫存,手術當天才知道耗材不見了。把錯誤的行程當作事實提出,那個偏差就會蔓延到整個當天。在人會再次確認的地方,會猜測的AI就直接往前走。最終是事故或損失。醫院是一個連一次幻覺都難以承受的地方。「大致正確」在其他行業或許足夠,但在醫院中是不夠的。

錯誤的答案——更聰明的模型

業界常見的解決方案是讓模型更大、更聰明。更多的資料、更大的模型、更厚的安全裝置。這並非沒有意義。

但限制是明確的。無論模型變得多麼聰明,它在不知道的地方終究會猜測這個事實本身並沒有改變。擴大模型只是降低猜測出錯的機率,並不能消除猜測本身。而在醫院,有問題的不是平均值,而是最危險的那一次。一百次中答對九十九次,如果那一次的幻覺造成了事故,那家醫院就再也無法信任AI了。醫院需要的不是「大致正確」的AI,而是「不知道就不捏造」的AI。

我們的答案——消除空白

Keynoty的答案不同。我們不是讓模型更聰明,而是消除AI必須猜測的空白本身。

讀到這裡的人,已經知道那個方法了。第一章把所有事情精確地分類了。第二章把資料從記錄到知識不間斷地連接起來了。第三章把多個視角無偏差地疊加在同一個事實上了。第四章用多個面向分類,讓初次見到的事物也能被識別出來。第五章把所有事情用關係連接起來了。

在這樣分類和連結的醫院裡,AI沒有需要捏造的空白。AI不是猜測,而是只取出已經精確擺放好的東西。讓聰明的模型善於猜測的路,和建立無需猜測的環境的路。我們選擇了第二條路。所以我們總是先建立結構,再建模型。本體論精確,其上的AI即使不那麼聰明也是安全的。本體論不紮實,再聰明的AI也是危險的。

不是取代人

有一個誤解想釐清。不猜測的AI不是要把人推開嗎?恰恰相反。

本體論接手了醫院的重複性工作——確認、對齊、追蹤、填補漏掉的地方——人就回到了只有人才能做的工作。醫師看診患者,諮詢師讀懂人心,營運者專注於更好的判斷。重要決定的場合,永遠有人在。AI幫助那個人在更精確的基礎上做出判斷。我們想消除的不是人的位置,而是人不得不依賴猜測的空白。

不是在桌子上,而是在現場建立的本體論

還有一件事。這個本體論不是在桌子上設計出來的。

過去八年間,我們直接承擔醫院營運的責任,建立了這個結構。我們用自己建立的營運系統,每天運作我們提供支援的醫院。現場出現分類偏差,當天就會顯現;缺少的連結馬上就成為問題返回來。用每天的營運結果敲打本體論,再加以打磨。

從理論開始的分類在現場得到驗證,現場的問題讓分類更加精細。因為八年來不停地進行這個循環,我們的本體論已經不是論文中的圖表,而是實際運作醫院的活的結構。而如此打磨過的結構,我們現在正移植到國內多家醫院,也越過了國境。醫院改變,基礎不變。精確分類之上精確連接的原理,在任何醫院都以同樣的方式運作。

本體論不是終點,而是起點

精確分類和連結的醫院,本身不是終點。在那之上,更大的事情才成為可能。

沒有需要猜測的空白的環境準備好了,AI就能放心地承擔更多工作。重複性的營運一件一件地自動運作,人越來越多地移向更重要的位置。第一部所說的「醫院營運的自動駕駛」,正是只有在這個基礎上才有可能。就像自動駕駛汽車沒有精確的地圖和感測器就無法邁出一步,自動營運的醫院也不能在沒有精確本體論的情況下開始。

所以對我們而言,本體論不是一個功能,而是所有事情的出發點。我們建立的所有畫面、所有自動化、所有AI都立足於這個基礎之上。基礎精確,其上的所有事情就精確;基礎動搖,其上的所有事情就動搖。這就是我們花費八年從最深處開始積累的原因。

知道就是分類

Keynoty是AI公司,也是CRM公司,也是解決方案公司。我們把這些都做了。但其中任何一個都無法完整地描述我們。

用一句話說:Keynoty是透過本體論整理醫院資料,讓AI與人一起安全地工作的公司。而且我們只專注於醫療。不向其他行業擴展,把我們所有的時間都傾注在醫院這一個世界上。

知道就是分類。我們在這一句話之上,建立醫院的下一個時代。