人工智能醫療器械醫療器械臨床試驗倫理審查要點(diǎn) 

2019年7月3日，醫療器械技術(shù)審評中心發(fā)布《深度學(xué)習輔助決策醫療器械軟件審評要點(diǎn)》，意味著(zhù)三類(lèi)人工智能醫療器械注冊審評標準正式落地，產(chǎn)業(yè)發(fā)展的政策瓶頸已被打破。2019年7月17日成立人工智能醫療器械創(chuàng )新合作平臺，以構建開(kāi)放協(xié)同共享的人工智能醫療器械創(chuàng )新體系，形成服務(wù)于科學(xué)監管、科技創(chuàng )新、產(chǎn)品轉化的人工智能醫療器械創(chuàng )新合作平臺為目標愿景，將全力推動(dòng)醫學(xué)人工智能產(chǎn)品審批。人工智能醫療器械是指器械的工作流程優(yōu)化、數據處理、輔助診斷等方面，采用以深度學(xué)習、神經(jīng)網(wǎng)絡(luò )為代表的數據驅動(dòng)方式訓練算法的新一代人工智能技術(shù)的醫療器械。

一、國內外人工智能醫療器械的概況

人工智能系統有比人類(lèi)更強的觀(guān)察力和洞察力，可快速處理海量醫療和病人信息，提供輔助建議，幫助決策和減少人為偏差，協(xié)助醫生將有限精力集中于病人。人工智能系統可基于新信息、結果和操作不斷學(xué)習，有助于醫療專(zhuān)業(yè)人員作出更加明智、及時(shí)的決策 。隨著(zhù)逐漸落實(shí)分級診療和國產(chǎn)醫療器械的快速發(fā)展，醫療器械公司為保持其產(chǎn)品競爭優(yōu)勢以瓜分更多基層醫療市場(chǎng)的蛋糕，除重視硬件質(zhì)量外，也注重設備智能化，特別是配套的篩查系統和輔助診斷?；鶎俞t療機構缺乏優(yōu)秀醫生，對人工智能醫療器械需求大，將是人工智能浪潮的最大受益者和主戰場(chǎng)。

1.1 人工智能醫療器械的研發(fā)模式

讓醫療器械產(chǎn)品變得更加智能是趨勢，可提高產(chǎn)品的競爭力。智能化、數字化醫療實(shí)現醫療設備的全生命周期管理是國際大公司的發(fā)展重點(diǎn)。在合作方式上，因為目前沒(méi)有明確的收費項目，如肺結節篩查類(lèi)產(chǎn)品主要以?xún)煞N方式進(jìn)入醫院：一是以科研項目的方式同醫院合作；二是同醫療器械廠(chǎng)商合作，以整體服務(wù)包的形式進(jìn)入。

對于醫療人工智能公司來(lái)說(shuō)，產(chǎn)品研發(fā)出來(lái)以后，與醫療器械公司的合作有兩種好處，一方面可以通過(guò)科研合作的方式，驗證自己產(chǎn)品的實(shí)際臨床效果。另一方面，現在大多數醫療人工智能公司都在尋找合適的盈利模式。但由于醫療的嚴謹性，我國尚無(wú)針對人工智能產(chǎn)品的認證標準，以往公司常依據醫療器械的認證流程認證二類(lèi)醫療器械或者三類(lèi)醫療器械。在沒(méi)有獲得認證之前，很多人工智能公司通過(guò)與醫療器械公司的合作，將系統搭載在醫療器械上，醫療器械公司只需去省級食品藥品監督管理局進(jìn)行報備，不需要進(jìn)行重新的認證，就可在市場(chǎng)上銷(xiāo)售，所得的銷(xiāo)售利潤可以按照雙方提前商量好的比例進(jìn)行分成。

1.2 人工智能醫療器械的應用

2011年IBM的Watson開(kāi)啟人工智能醫療的商業(yè)發(fā)展，深度學(xué)習算法歷經(jīng)多次換代。2016年1月，IBM和美敦力合推糖尿病監測APP，借助數據分析結果，可提前3小時(shí)預測低血糖的發(fā)生，大大改善病人生活質(zhì)量。IBM的Watson至今仍未獲得美國食品藥品監督管理局的認證，但其服務(wù)都是在法律允許的框架之內。

根據全球市場(chǎng)洞察力（Global Market Insight）的數據報告顯示，人工智能醫療影像緊隨人工智能藥物研發(fā)成為第二大細分市場(chǎng)，占比25%，并將以超過(guò)40%的增速發(fā)展，預計2024年將達25億美元規模。人工智能在醫療影像領(lǐng)域的應用主要包含，圖像或檢查的分類(lèi)，器官、區域或標記點(diǎn)的定位，目標及病理的檢測，組織結構的分割，病灶區的分割以及圖像配準等，針對的疾病主要有肺結節、糖尿病性視網(wǎng)膜病變、腦卒中等，應用方向主要有疾病篩查、病灶勾畫(huà)和臟器三維成像。對細分病種的增強覆蓋和根據自身業(yè)務(wù)特點(diǎn)對新場(chǎng)景的探索是未來(lái)發(fā)展方向。

各公司正通過(guò)將人工智能醫療器械產(chǎn)品投入醫院免費試用來(lái)積累大量臨床數據，以此提高臨床應用的精準度，為申報國家藥品監督管理局認證提供可靠的數據基礎，縮小臨床結果與實(shí)驗室結果之間的差異。這卻給不熟悉人工智能醫療器械審查注意事項的倫理委員會(huì )帶來(lái)極大挑戰。

1.3 美國人工智能醫療器械審批現狀

美國食品藥品監督管理局的人工智能影像系統分為計算機輔助檢測（computer-aided detection）和計算機輔助診斷（computer-assisted diagnostic），前者用于檢測身體異常狀況，后者評估疾病的存在與否，比如嚴重性、疾病分類(lèi)或預測。為加快醫療人工智能審評審批進(jìn)程，2017年7月，美國食品藥品監督管理局發(fā)布數字健康創(chuàng )新行動(dòng)計劃，根據電子健康產(chǎn)品特征、臨床應用前景、用戶(hù)界面特性和商業(yè)化周期等，建立新型實(shí)效性強的監管方法。

美國食品藥品監督管理局已批準多個(gè)人工智能醫療器械，審批遠快于中國。如2018年2月審批了第一個(gè)針對中風(fēng)的人工智能診斷決策支持產(chǎn)品（ContaCT）；同月審批了第一個(gè)針對兒童自閉癥的人工智能診斷決策支持系統，Cognoa公司的一款深度學(xué)習應用；2018年4月批準了IDx公司首個(gè)自主式人工智能診斷設備IDx-DR的軟件程序，可通過(guò)查看視網(wǎng)膜照片對糖尿病性視網(wǎng)膜病變進(jìn)行自主診斷；2018年5月批準了新型人工智能工具OsteoDetect，用人工智能算法協(xié)助醫生快速診斷腕骨骨折。在醫學(xué)影像方面，美國食品藥品監督管理局首次批準通用電氣公司的低劑量CT肺癌篩查方案，可精準成像，發(fā)現早期的微小結節，通過(guò)自動(dòng)標記難識別的肺結節，輔助醫生快速、精準地進(jìn)行篩查。

美國醫療人工智能行業(yè)已有不少產(chǎn)品上市，我國醫療人工智能行業(yè)也盡快需要拳頭級產(chǎn)品在國際上參與競爭。據報道，2018年11月底國家藥品監督管理局對創(chuàng )新特別審批申請的1 054項項目進(jìn)行審批，同意了192項，含已獲批上市的51項創(chuàng )新醫療器械，但都不是人工智能醫療器械。

二、人工智能醫療器械的研發(fā)現狀

在機器學(xué)習與深度學(xué)習越來(lái)越風(fēng)靡的高科技行業(yè)中，利用人工智能進(jìn)行影像三維分割、病理圖像分析處理、個(gè)性化精準醫療等方面的工作來(lái)輔助醫生進(jìn)行診斷與治療方案擬定已日漸普及。

2.1 我國人工智能醫療器械分類(lèi)

原國家食品藥品監督管理總局發(fā)布的新版《醫療器械分類(lèi)目錄》已于2018年8月1日起施行。特意新增了與人工智能輔助診斷相對應的類(lèi)別，即目錄中的對醫學(xué)影像與病理圖像的分析與處理。我國人工智能定位于輔助診斷，協(xié)助醫生而不可直接服務(wù)于病人。按照最新的分類(lèi)規定，把醫用軟件按二類(lèi)、三類(lèi)醫療器械設置審批通道。若診斷軟件通過(guò)其算法提供診斷建議，只能輔助診斷，不直接出具診斷結論，其相關(guān)產(chǎn)品按二類(lèi)醫療器械管理。若診斷軟件通過(guò)其算法可自動(dòng)識別病變部位和提供明確的診斷提示，其風(fēng)險級別相對較高，其相關(guān)產(chǎn)品按三類(lèi)醫療器械管理?？梢?jiàn)當前人工智能產(chǎn)品大多屬于三類(lèi)醫療器械。

美國批復的人工智能產(chǎn)品大都是走二類(lèi)醫療器械的認證流程，通過(guò)跟傳統臨床決策支持系統做等同對比證明安全有效性。相比我國絕大部分人工智能醫療器械產(chǎn)品被定為三類(lèi)醫療器械，大部分人工智能產(chǎn)品在美國都被定為二類(lèi)醫療器械，我國對待人工智能醫療器械產(chǎn)品的審批態(tài)度更慎重，法規相對更嚴謹，對臨床評價(jià)的路徑控制更嚴格。

三類(lèi)醫療器械的申報需有臨床試驗數據支撐，部分二類(lèi)醫療器械可豁免臨床試驗，但診斷軟件的申報可否豁免臨床試驗，國家藥品監督管理局尚無(wú)具體規范。當前人工智能醫療器械企業(yè)中，僅武漢蘭丁的全自動(dòng)數字（遠程）病例分析儀和EDDA科技公司研發(fā)的IQQA人工智能賦能平臺獲得國家藥品監督管理局認證，其他企業(yè)都還處于免費提供試用的階段。目前尚未有一款產(chǎn)品獲得三類(lèi)人工智能醫療器械證書(shū)。業(yè)內認為我國人工智能醫療器械獲得注冊證的困難之處在于：對產(chǎn)品的認識速度跟不上對審評的認識程度，對高風(fēng)險產(chǎn)品的臨床驗證滿(mǎn)足不了臨床的實(shí)際需求。而這些問(wèn)題的解決還有賴(lài)技術(shù)的突破和臨床驗證的積累。

2.2 企業(yè)應對策略

為適應國家政策，我國大部分人工智能醫療器械企業(yè)刪除和增加診斷功能，同時(shí)按照二、三類(lèi)醫療器械申報。當前一些企業(yè)已獲二類(lèi)人工智能醫療器械證書(shū)，不少人工智能企業(yè)都在積極進(jìn)行三類(lèi)醫療器械的申報。隨著(zhù)分類(lèi)目錄的出現，現階段各家醫療人工智能公司在研發(fā)產(chǎn)品的同時(shí)理應加速?lài)宜幤繁O督管理局認證的過(guò)程，這樣在市場(chǎng)化過(guò)程中才可以在相對平等的條件下和醫療器械公司、醫療機構達成合作。在具備盈利可能性的前提下，保護自己的品牌不成為醫療器械公司的附庸。

2.3 已進(jìn)入注冊申報階段

根據醫療器械注冊流程，要經(jīng)過(guò)產(chǎn)品定型、檢測、臨床試驗、注冊申報、技術(shù)審評、行政審批這六步。檢測報告和臨床試驗報告是注冊申報的前提條件，通過(guò)之后國家藥品監督管理局才會(huì )正式受理。目前已有90多家企業(yè)跟國家藥品監督管理局就三類(lèi)證書(shū)的申請進(jìn)行溝通，具體包括數據集的整理、敏感性特異性指標的評估、安全性有效性的評估等方面。國家藥品監督管理局2019年5月27日公布了《創(chuàng )新醫療器械特別審查申請審查結果公示》(2019年第6號)，深圳硅基智能科技有限公司申報的“糖尿病視網(wǎng)膜病變分析軟件”產(chǎn)品已獲批創(chuàng )新醫療器械，進(jìn)入臨床試驗及審評快速綠色通道。國家藥品監督管理局在創(chuàng )新產(chǎn)品的審批申報方面還開(kāi)通申報的綠色通道等優(yōu)惠政策。

中國食品藥品檢定研究院負責人工智能醫療器械產(chǎn)品的質(zhì)量評價(jià)與研究工作。并非全部產(chǎn)品需臨床試驗后才能上市，源于真實(shí)世界的臨床試驗數據可用于臨床前及臨床的評價(jià)，前瞻性和回顧性的臨床數據可用于臨床評價(jià)。中國食品藥品檢定研究院規劃的人工智能醫療器械檢驗體系有四個(gè)步驟：標準數據、體模測試、軟件性能、模擬對抗，已建立起了彩色眼底圖像和肺部CT影像兩個(gè)數據庫。數據庫構建過(guò)程主要包括數據收集、圖像標注、數據管理三個(gè)步驟。

三、人工智能醫療器械倫理審查的核心問(wèn)題

人工智能醫療器械倫理審查的問(wèn)題除人工智能和醫療器械各自問(wèn)題外，也有人工智能與醫療器械疊加帶來(lái)的問(wèn)題。已有文獻概述了醫療器械倫理審查的要點(diǎn)。人工智能應用于醫療領(lǐng)域的倫理問(wèn)題，包括公平受益、失業(yè)、患者隱私、醫療安全、責任劃分和監管等。其原因涉及未遵守基本倫理原則、技術(shù)缺陷、立法和監管缺失、隱含算法偏見(jiàn)、數據質(zhì)量欠佳等。鑒于目前人工智能算法準確度和適應性是限制其臨床應用的瓶頸，因此人工智能醫療器械倫理審查的核心問(wèn)題包括難以準確評估風(fēng)險、建立恰當類(lèi)型數據庫、確保數據安全、算法更新導致軟件迭代等。

3.1 難以準確評估風(fēng)險

人工智能醫療器械的使用與健康息息相關(guān)，風(fēng)險評估尤為重要。臨床使用風(fēng)險應考慮數據質(zhì)量控制、算法泛化能力的直接影響和算力所用計算資源（即運行環(huán)境）失效的間接影響。為使風(fēng)險最小化，確保人工智能醫療器械的可靠性，需在使用過(guò)程中評估其風(fēng)險。倫理審查中應注意其考量因素是否包括了臨床使用中的假陽(yáng)性、假陰性和進(jìn)口軟件的中外差異，以及風(fēng)險管理活動(dòng)相關(guān)的預期用途、使用場(chǎng)景、核心功能及措施、要求。

3.2 建立恰當類(lèi)型數據庫

數據是人工智能醫療器械的核心要素，將成為制約人工智能醫療器械發(fā)展的瓶頸。因此，數據庫的建立是人工智能醫療器械審批的先行之舉，2019年7月17日之前我國僅存在肺結節和眼底兩類(lèi)影像數據庫，未來(lái)將建立肺CT、腦磁共振、冠狀動(dòng)脈CT血管造影等更多測試樣本數據庫，且明確測試數據庫的類(lèi)型包含檢驗數據庫、真實(shí)世界數據。2018年9月以來(lái)，多達230家醫院IBM Watson診療系統由于開(kāi)不安全藥物、診斷錯誤而備受質(zhì)疑，導致美國德克薩斯州安德森腫瘤中心在已投入6 700萬(wàn)美元后放棄該項目。據《華爾街日報》等媒體報道，Watson診療系統的訓練用真實(shí)病例數很小，肺癌635例已屬最多，卵巢癌106例為最少?；谧銐驍盗康臄祿鞓颖居糜谟柧毴斯ぶ悄茚t療器械，將大幅降低其誤診率和漏診率。

3.3 確保數據安全

數據安全已成為人工智能的關(guān)注重點(diǎn)。人工智能醫療器械的網(wǎng)絡(luò )安全存在較多隱患且無(wú)法得到及時(shí)修復，有些企業(yè)并不須具備必要的網(wǎng)絡(luò )安全風(fēng)險防控能力，其網(wǎng)絡(luò )安全主動(dòng)發(fā)現和監測預警能力均有待提升。有些企業(yè)在設計時(shí)沒(méi)有考慮健康數據傳輸過(guò)程中的保密性等安全問(wèn)題。企業(yè)作為運營(yíng)者應承擔主體防護責任，主管部門(mén)應履行監管責任。數據安全性的提高需得到醫療機構的配合，醫療機構在對健康數據進(jìn)行歸檔、備份等數據傳輸操作時(shí)，尤其是通過(guò)公共互聯(lián)網(wǎng)傳輸敏感數據時(shí)，若未對敏感數據進(jìn)行加密處理，容易造成患者治療信息、基因等重要醫療健康數據信息泄露。

醫療行業(yè)成為數據泄露的重災區，由黑客滲透入侵導致的數據泄露事件增速最快，由于服務(wù)器配置不當、漏洞等因素造成的未授權訪(fǎng)問(wèn)問(wèn)題也日益增多。2017年美國就有15次重大醫療信息泄露事件，約300萬(wàn)名病人的信息被泄露。我國同樣面臨類(lèi)似嚴峻挑戰，2017年9月《法制日報》報道了一醫院服務(wù)信息系統遭黑客入侵，多達7億多條信息被泄露，8 000多萬(wàn)條信息被販賣(mài)。

3.4 算法更新導致軟件迭代

軟件更新是導致人工智能軟件召回的主要原因之一，應考慮對軟件安全性和有效性的正面和負面影響。軟件更新包括數據驅動(dòng)型和算法驅動(dòng)型軟件更新，由此產(chǎn)生重大軟件更新、輕微軟件更新及其版本命名規則。表面看來(lái)，算法作為一種數學(xué)結構，具有客觀(guān)的和確定性的特征。因此，算法決策應該不大可能會(huì )受到人們的情感和價(jià)值觀(guān)的影響，但實(shí)際情況卻恰恰相反。人工智能的算法雖說(shuō)只是一種數學(xué)表達，看似與價(jià)值無(wú)關(guān)，實(shí)際上卻不可避免地存在主觀(guān)偏見(jiàn)。這種偏見(jiàn)的來(lái)源是多方面的，既有可能來(lái)自于訓練系統的數據輸入，又有可能來(lái)自于編程人員的價(jià)值觀(guān)嵌入。為加快人工智能醫療器械的審批，基于現有歷史數據的回顧性研究可用于臨床評價(jià)，甚至算法性能評估可采用屬于回顧性研究的第三方數據庫。

2019年4月2日美國食品藥品監督管理局發(fā)布人工智能醫療器械變更的監管框架的討論稿及征求意見(jiàn)，已于2019年6月3日前提交了討論意見(jiàn)稿。擬議的監管框架可使美國食品藥品監督管理局和制造商從上市前開(kāi)發(fā)到上市后對軟件產(chǎn)品性能進(jìn)行評估和監控。這個(gè)潛在的框架允許將人工智能醫療器械的迭代改進(jìn)能力納入其監督管理范圍之內，同時(shí)確?；颊叩陌踩?。也需向公眾征求對人工智能醫療器械監管的意見(jiàn)和看法。

四、倫理審查的要點(diǎn)

新事物該如何監管，對于企業(yè)和監管部門(mén)來(lái)說(shuō)都是挑戰。為給所有企業(yè)一個(gè)導引，2018年12月25日在北京舉辦“人工智能類(lèi)醫療器械注冊申報公益培訓”，公布了人工智能領(lǐng)域三類(lèi)醫療器械審批要點(diǎn)，界定了適用范圍，講解了人工智能醫療產(chǎn)品在審批過(guò)程中所面臨的數據庫、數據安全、軟件更新、云計算服務(wù)等問(wèn)題。醫療器械技術(shù)審評中心安排了資深醫療器械審評專(zhuān)家，對醫療器械的法規與注冊流程、設計開(kāi)發(fā)與注冊申報資料要求、醫療器械臨床評價(jià)與臨床試驗、創(chuàng )新醫療器械特別審批程序、人工智能醫療器械數據質(zhì)量控制要求、深度學(xué)習輔助決策軟件審評要點(diǎn)等進(jìn)行了專(zhuān)題講解。但這些審批流程和要點(diǎn)不是法律法規，而是技術(shù)文件，而技術(shù)文件可以根據技術(shù)的發(fā)展和產(chǎn)品的特點(diǎn)變化而改變。三類(lèi)醫療器械審批要點(diǎn)的出爐對于醫療人工智能領(lǐng)域來(lái)說(shuō)，無(wú)疑是一重大突破，尤其是對之前軟件涉及不明確的數據問(wèn)題，算法更新問(wèn)題以及風(fēng)險評估維度等都給出了定性。國家藥品監督管理局跟美國食品藥品監督管理局溝通緊密，亦參考了美國的做法，目前已經(jīng)形成統一標準。

原國家食品藥品監督管理總局與國家衛生計生委于2016年3月共同頒布了《醫療器械臨床試驗質(zhì)量管理規范》，告別了參考《藥物臨床試驗質(zhì)量管理規范》的歷史，明確了醫療器械臨床試驗的倫理審查要求。但迄今尚無(wú)針對醫療器械臨床試驗的倫理審查工作指導原則，更多參照《藥物臨床試驗倫理審查工作指導原則》。評估受試者的風(fēng)險與受益是倫理審查的核心任務(wù)。醫療器械臨床試驗項目的評審主要從受試產(chǎn)品與試驗操作兩個(gè)方面予以關(guān)注和考慮。倫理委員會(huì )除審查醫療器械本身的科學(xué)性和倫理性外，也要審查醫療器械與人工智能軟件疊加帶來(lái)的風(fēng)險與受益。鑒于目前人工智能醫療器械大部分仍處于注冊申報階段，臨床正在或即將開(kāi)展的大部分項目是企業(yè)以科研方式進(jìn)入醫院，并免費試用為主。醫療機構應與企業(yè)簽訂合同，明確補償和傷害受試者的賠償，也要明確未來(lái)產(chǎn)品成果和知識產(chǎn)權的分享方式。鑒于人工智能醫療器械的前沿性，必要時(shí)需聘請獨立顧問(wèn)。

4.1 適用范圍

根據深度學(xué)習輔助決策醫療器械軟件分類(lèi)，有醫療器械數據、深度學(xué)習、輔助決策、醫療器械軟件；依據軟件類(lèi)型可分為人工智能軟件組件（醫療器械內含的人工智能軟件）和人工智能獨立軟件（本身即為醫療器械的人工智能軟件）；根據軟件用途分為輔助決策（包括但不限于輔助篩查、輔助識別、輔助診斷、輔助治療），以及前處理（如成像質(zhì)量改善、成像速度提升、圖像重建）、流程優(yōu)化（如一鍵操作）、常規后處理（如圖像分割、數據測量）等非輔助決策。其中人工智能獨立軟件的適用范圍包括：（1）明確預期用途、使用場(chǎng)景和核心功能。（2）包括但不限于處理對象、目標疾病、臨床用途、患者人群、目標用戶(hù)、使用場(chǎng)所、數據采集設備要求(若適用)、臨床使用限制(若適用)。人工智能軟件組件的適用范圍可參照人工智能獨立軟件要求，并在產(chǎn)品適用范圍中予以體現。

4.2 研究要求與資料

所有人工智能軟件功能均應開(kāi)展需求分析、數據收集(若適用)、算法設計和軟件確認；且每項人工智能軟件功能應獨立開(kāi)展需求分析、數據收集(若適用)、算法設計、軟件確認。對于算法設計，提供算法設計的相關(guān)資料，包括算法選擇及訓練。要注意是否采取避免偏見(jiàn)的措施。算法設計應當考慮算法選擇、算法訓練、網(wǎng)絡(luò )安全防護、算法性能評估等活動(dòng)的質(zhì)控要求。建議數據驅動(dòng)與知識驅動(dòng)相結合進(jìn)行算法設計，以提升算法可解釋性。算法性能上要注意假陽(yáng)性與假陰性指標、重復性與再現性、魯棒性/健壯性。對于深度學(xué)習非輔助決策軟件，前處理需遵循算法性能評估、臨床評價(jià)；流程優(yōu)化需算法性能評估；常規后處理需算法性能評估，必要時(shí)需臨床評價(jià)。

研究資料包括軟件描述文檔、網(wǎng)絡(luò )安全描述文檔、軟件版本命名規則。軟件描述文檔要求核心算法部分應當結合本審評要點(diǎn)提供相應算法研究資料，以及測試集、公開(kāi)數據庫、測評數據庫、回顧性研究、算法性能評估結果比較分析資料。其他資料應當提供網(wǎng)絡(luò )與數據安全過(guò)程控制研究資料、第三方數據庫(測評、公開(kāi))的基本信息(如名稱(chēng)、創(chuàng )建者、數據量、數據分布)和使用情況(如使用量、數據分布、比重、資質(zhì))。

研究者手冊中，輔助決策軟件應明確軟件的適用范圍、臨床使用限制、注意事項、用戶(hù)培訓、數據采集設備要求、數據采集操作規范、輸入與輸出、算法性能評估總結(測試集基本信息、評估指標與結果)、臨床評價(jià)總結(臨床數據基本信息、評價(jià)指標與結果)等信息。此外，企業(yè)應結合法規、標準、用戶(hù)、產(chǎn)品、數據、功能、性能、接口、用戶(hù)界面、網(wǎng)絡(luò )安全等分析需求，以避免臨床需求和使用風(fēng)險。

4.3 研究方案

臨床試驗需基于軟件的預期用途、使用場(chǎng)景和核心功能，按照診斷試驗進(jìn)行臨床試驗設計，其核心要點(diǎn)包括：（1）試驗設計：建議優(yōu)先選擇同品種產(chǎn)品或臨床參考標準進(jìn)行非劣效對照設計，次之可選擇用戶(hù)結合軟件聯(lián)合決策與用戶(hù)單獨決策進(jìn)行優(yōu)效對照設計；非劣效或優(yōu)效界值的確定應有充分臨床依據。此外考慮到用戶(hù)的差異性，可選擇多閱片者多病例試驗設計。（2）觀(guān)察指標：以敏感性、特異性、接受者操作特征曲線(xiàn)（receiver operating characteristic,ROC)/曲線(xiàn)下面積(area under curve,AUC)為主要指標，亦可選擇時(shí)間效率等指標作為評價(jià)指標。（3）入排標準：基于目標疾病的流行病學(xué)特征。（4）參與機構：異于訓練數據主要來(lái)源機構，地域分布盡可能廣泛，機構數量需盡可能多。

4.4 風(fēng)險控制

風(fēng)險考量即是對人工智能產(chǎn)品在使用過(guò)程中的風(fēng)險進(jìn)行評價(jià)，以達到抑制風(fēng)險，提高人工智能產(chǎn)品可靠性的目的。主要考量臨床使用風(fēng)險，如假陽(yáng)性（誤診，過(guò)度醫療風(fēng)險），假陰性（漏診，快速進(jìn)展疾病風(fēng)險）和進(jìn)口軟件的中外差異(人種、流行病學(xué)、臨床診療準則)。同時(shí)考量風(fēng)險管理活動(dòng)，包括預期用途(目標疾病、臨床用途、重要程度、緊迫程度)、使用場(chǎng)景(適用人群、目標用戶(hù)、使用場(chǎng)所、臨床流程)、核心功能(處理對象、數據兼容性、功能類(lèi)型)，采取必要的軟件設計、防護、警示等措施管理軟件全生命周期的風(fēng)險。也要考慮臨床使用限制，包括臨床禁用、慎用等場(chǎng)景。

4.5 數據庫

數據收集應包括目標疾病流行病學(xué)特征，如疾病構成(分型、分級、分期)、人群分布(健康狀態(tài)、性別、年齡)、統計指標(患病率、治愈率)、并發(fā)癥與類(lèi)似疾病等。采集的數據應當進(jìn)行數據脫敏以保護患者隱私。數據脫敏應當明確脫敏的類(lèi)型（靜態(tài)、動(dòng)態(tài)）、規則、程度、方法。

臨床評價(jià)可采用基于現有歷史數據的回顧性研究?；仡櫺匝芯繎斣谠O計時(shí)考慮并嚴格控制偏倚問(wèn)題，原則上應當包含多家、不同地域、不同層級的代表性臨床機構(非訓練數據主要來(lái)源機構)的同期數據，盡可能來(lái)自多種、不同采集參數的采集設備。使用原則(基于風(fēng)險)上，高風(fēng)險軟件需臨床預試驗或臨床試驗的補充，中風(fēng)險軟件需臨床預試驗或替代臨床試驗。

第三方數據庫屬于回顧性研究的一種特殊形式，可用于算法性能評估，但未必能夠完全滿(mǎn)足軟件確認的要求。第三方數據庫類(lèi)型包括非測評數據庫和測評數據庫，其中公開(kāi)數據庫等非測評數據庫不可用于軟件確認，評測數據庫可用于軟件確認。測評數據庫需滿(mǎn)足可擴展性、網(wǎng)絡(luò )與數據安全因素，并具有權威性、科學(xué)性、規范性、多樣性、封閉性、動(dòng)態(tài)性。

4.6 數據安全

企業(yè)上市前后均應考慮建設軟件自身網(wǎng)絡(luò )安全能力，也應在軟件全生命周期過(guò)程中考慮網(wǎng)絡(luò )與數據安全過(guò)程控制要求?；究剂恐笜擞忻撁魯祿D移、封閉與開(kāi)放網(wǎng)絡(luò )環(huán)境、數據接口兼容性、數據備份與恢復。云計算服務(wù)應明確服務(wù)模式、部署模式、核心功能、數據接口、網(wǎng)絡(luò )安全能力和服務(wù)(質(zhì)量)協(xié)議。移動(dòng)計算終端需結合終端的類(lèi)型、特點(diǎn)和使用風(fēng)險明確性能指標要求。

4.7 軟件更新

重大軟件更新要許可事項變更，而輕微軟件更新需質(zhì)量體系控制，但無(wú)需申請注冊變更。算法驅動(dòng)型更新包括軟件所用算法、算法結構、算法流程、所用框架、輸入與輸出等發(fā)生改變，包括算法重新訓練（即棄用原有訓練數據）；數據驅動(dòng)型指僅由訓練數據量增加而促使軟件更新，實(shí)為算法驅動(dòng)型軟件更新的特殊情況。對于重大軟件更新，判定需遵循的原則為算法驅動(dòng)型軟件更新通常屬于重大軟件更新，數據驅動(dòng)型軟件更新若導致算法評估結果發(fā)生顯著(zhù)性改變(與前次注冊/倫理批件相比)則屬于重大軟件更新。

無(wú)論何種軟件更新，均應根據質(zhì)量管理體系要求，驗證與確認與軟件更新類(lèi)型、內容和程度相適宜的活動(dòng)。數據驅動(dòng)型和算法驅動(dòng)型軟件更新均應再評估算法性能和臨床應用。屬于臨床科研項目的數據驅動(dòng)型和算法驅動(dòng)型軟件更新，均需按照新項目進(jìn)行倫理初始審查。對于高風(fēng)險軟件，適用范圍變更應當開(kāi)展臨床試驗，其他情況原則上可使用舊的臨床試驗數據和回顧性研究。對于中低風(fēng)險軟件，可使用臨床試驗數據和回顧性研究。

要明確并區分重大軟件更新和輕微軟件更新的版本命名規則，重大軟件更新應列舉所有典型情況，并涵蓋數據驅動(dòng)型和算法驅動(dòng)型軟件更新。

標簽：第二三類(lèi)醫療器械注冊證代辦、醫療器械注冊證代辦