近日，威爾史密斯是個(gè)話(huà)題，不由得想起很多年前的大學(xué)時(shí)期，看過(guò)的他主演的有關(guān)人工智能的電影，由此想到了人工智能在醫療器械行業(yè)的逐漸應用。因此，為大家帶來(lái)科普文章，有關(guān)人工智能醫療器械監管研究進(jìn)展。

人工智能醫療器械具有自身特性，其監管問(wèn)題已成為國際醫療器械監管領(lǐng)域的研究焦點(diǎn)之一，亟需深入研究。本文介紹了人工智能醫療器械所面臨的監管挑戰，提出了人工智能醫療器械監管的總體思路，在分類(lèi)界定、技術(shù)審評、體系核查等方面重點(diǎn)討論了人工智能醫療器械的監管考量，并就今后的人工智能醫療器械監管研究方向提供相關(guān)建議。
　　人工智能醫療器械具有自身特性，特別是當前代表產(chǎn)品所用深度學(xué)習技術(shù)具有黑盒特性，存在可解釋性差等問(wèn)題，其監管問(wèn)題已成為國際醫療器械監管領(lǐng)域的研究焦點(diǎn)之一，亟需加強監管研究。
　　2019 年7 月， 我國成立人工智能醫療器械創(chuàng )新合作平臺，以促進(jìn)人工智能醫療器械監管研究；同時(shí)在全球率先發(fā)布《深度學(xué)習輔助決策醫療器械軟件審評要點(diǎn)》，明確人工智能醫療器械審評關(guān)注重點(diǎn)，引發(fā)國際廣泛關(guān)注。2020 年至今，我國大力推進(jìn)人工智能醫療器械監管研究，積極參與國際醫療器械監管機構論壇（IMDRF）人工智能醫療器械工作組、國際電信聯(lián)盟/ 世界衛生組織醫學(xué)人工智能焦點(diǎn)組（ITU/WHO Focus Group on Artificial Intelligence for Health）等國際監管協(xié)調工作；先后制定和發(fā)布多項相關(guān)指導原則、審評要點(diǎn)和行業(yè)標準，陸續批準20 余項第三類(lèi)深度學(xué)習輔助決策類(lèi)獨立軟件產(chǎn)品上市，標志著(zhù)我國人工智能醫療器械監管研究已取得階段性成果。
　　時(shí)值醫療器械監督管理新法規實(shí)施之際，及時(shí)對人工智能醫療器械監管研究進(jìn)行總結和展望，不僅有利于提升監管能力和水平，持續推進(jìn)人工智能醫療器械監管研究，而且有利于指導注冊申請人做好產(chǎn)品質(zhì)控工作，切實(shí)促進(jìn)人工智能醫療器械產(chǎn)業(yè)健康發(fā)展。
　　一、人工智能醫療器械的監管挑戰
　　人工智能醫療器械是采用人工智能技術(shù)實(shí)現其醫療用途的醫療器械，其監管挑戰主要源自于人工智能技術(shù)所具有的特性。
　　人工智能技術(shù)具有快速迭代特性，特別是基于數據的算法。算法更新對于人工智能醫療器械安全性和有效性的影響具有不確定性，可能會(huì )提升產(chǎn)品性能，也可能會(huì )降低產(chǎn)品性能，甚至導致產(chǎn)品召回。若每次算法更新均需變更注冊，不僅會(huì )大幅增加注冊人負擔，而且會(huì )占用大量監管資源。如何規范人工智能醫療器械算法更新的監管要求，是監管研究的重點(diǎn)。
　　人工智能技術(shù)需要高質(zhì)量醫學(xué)數據進(jìn)行算法訓練，尤其是基于數據的算法。由于受多方面客觀(guān)條件的限制，算法訓練所用數據存在數據質(zhì)量不高、數據量不足、數據多樣性不夠、數據分布不合理等問(wèn)題，易引入算法偏倚，降低算法泛化能力，導致產(chǎn)品難以在臨床落地。如何控制人工智能醫療器械的算法偏倚以保證算法泛化能力，也需要深入研究。
　　人工智能技術(shù)包含黑盒算法，黑盒算法可解釋性差。由于醫療決策路徑復雜，存在不確定性和開(kāi)放性，故因果性對于醫療決策至關(guān)重要。而黑盒算法僅是反映輸出與輸入的相關(guān)性而非因果性，難以與現有醫學(xué)知識建立有效關(guān)聯(lián)，用戶(hù)知其然不知其所以然，不利于后續醫療決策。如何提升人工智能醫療器械所用黑盒算法的透明度以增強可解釋性，亦需加強研究。
　　此外，人工智能技術(shù)包含多種算法，不同算法雖有不同技術(shù)特征，但相互之間存在著(zhù)交叉、包含等關(guān)系，沒(méi)有清晰嚴格的劃分界線(xiàn)。同時(shí)，不同算法在醫療場(chǎng)景應用的情況和程度也不同，存在著(zhù)單獨使用、組合使用等情況，劃分界線(xiàn)也不清晰。這些模糊性使得人工智能醫療器械的監管范圍難以確定。
　　二、人工智能醫療器械的監管思路
　　人工智能醫療器械從醫療器械軟件角度可分為人工智能獨立軟件（軟件本身即為醫療器械，SaMD）和人工智能軟件組件（醫療器械內含的軟件，SiMD），二者雖存在技術(shù)差異，但軟件生存周期過(guò)程質(zhì)控原則相同，故監管要求基本一致。
　　人工智能醫療器械作為醫療器械軟件的子集，亦屬于數字醫療（Digital Health）范疇，其監管思路遵循數字醫療監管的框架和原則，同樣采用基于風(fēng)險的全生命周期管理方法進(jìn)行監管，同時(shí)兼顧國際監管經(jīng)驗和技術(shù)發(fā)展趨勢。
　　基于風(fēng)險是指人工智能醫療器械的監管要求取決于其風(fēng)險水平，風(fēng)險水平越高監管要求越嚴，其風(fēng)險水平采用軟件安全性級別進(jìn)行表述，分為輕微、中等、嚴重三個(gè)級別，可結合人工智能醫療器械的預期用途、使用場(chǎng)景、核心功能進(jìn)行綜合判定。全生命周期管理是指在醫療器械質(zhì)量管理體系框架下，明確人工智能醫療器械生存周期過(guò)程質(zhì)控要求，涵蓋上市前和上市后監管要求，并可參考良好機器學(xué)習實(shí)踐（GMLP）進(jìn)行完善。
　　同時(shí)，需要將國際監管經(jīng)驗和中國國情相結合，綜合考慮人工智能醫療器械的監管要求。不同國家的國情不同，醫療器械監管的范圍、模式、資源、條件等方面均有所不同，因此國際監管經(jīng)驗可以參考借鑒，但不能簡(jiǎn)單照搬照抄。比如，美國FDA 正在制定“預定變更控制計劃”用于控制人工智能獨立軟件的更新，待成熟時(shí)擴至人工智能軟件組件，其核心思想是取消原有“算法鎖定”要求，制造商可在經(jīng)美國FDA 批準的軟件預定更新計劃下進(jìn)行軟件更新而無(wú)需重新申請注冊。由于軟件預定更新計劃所含內容可能涉及重大軟件更新，按照我國現行法規要求需要申請變更注冊，因此“預定變更控制計劃”在我國存在法規沖突，難以完全實(shí)施。再比如，美國FDA 正在試點(diǎn)“軟件預認證”項目，嘗試將獨立軟件監管模式由基于產(chǎn)品改為基于制造商質(zhì)量與組織卓越文化（Cultureof Quality and Organizational Excellence，CQOE）， 也適用于人工智能獨立軟件，后續將擴至軟件組件?！败浖A認證”在優(yōu)化產(chǎn)品上市流程等方面雖有參考借鑒價(jià)值，但從產(chǎn)品上市角度類(lèi)似于我國已取消的免檢產(chǎn)品項目，不適合當前國情。
　　此外，需要結合人工智能技術(shù)發(fā)展趨勢，穩妥考慮人工智能醫療器械監管要求。采用傳統人工智能技術(shù)的醫療器械已有眾多產(chǎn)品獲批上市，需要考慮監管要求的延續性，不能置之不顧推翻重來(lái)。采用深度學(xué)習技術(shù)的醫療器械是當前人工智能醫療器械的代表產(chǎn)品，并且處于快速發(fā)展階段，可作為切入點(diǎn)予以重點(diǎn)研究。采用人工智能新技術(shù)的醫療器械處于研發(fā)階段，亦需提前開(kāi)展監管研究，做好技術(shù)儲備以應對新挑戰。
　　三、人工智能醫療器械的監管考量
　　圍繞人工智能醫療器械所面臨的監管挑戰，基于人工智能醫療器械的監管思路，人工智能醫療器械監管研究在分類(lèi)界定、技術(shù)審評、體系核查等方面取得相應進(jìn)展。
　?。ㄒ唬┓诸?lèi)界定
　　人工智能醫療器械需要明晰分類(lèi)界定原則確定監管范圍。因其屬于醫療器械軟件子集，故可參考醫療器械軟件的分類(lèi)界定原則，結合其自身特性予以考慮。獨立軟件是否作為醫療器械管理，通常結合預期用途、核心功能進(jìn)行判定，管理類(lèi)別主要基于風(fēng)險水平進(jìn)行判定。軟件組件作為醫療器械的組成部分，其管理類(lèi)別通常與所屬醫療器械相同，特殊情況參考獨立軟件分類(lèi)界定情況并按風(fēng)險從高原則進(jìn)行判定。下面以獨立軟件為例進(jìn)行重點(diǎn)討論。
　　由于醫學(xué)知識的真偽優(yōu)劣評判不屬于醫療器械監管范圍，故基于知識管理的醫學(xué)人工智能軟件不是人工智能獨立軟件， 其代表產(chǎn)品是采用自然語(yǔ)言處理（NLP）技術(shù)對電子病歷的文本信息進(jìn)行處理分析，生成知識圖譜或量表并以此為基礎向用戶(hù)提供醫療決策建議。此類(lèi)軟件的預期用途、核心功能與人工智能獨立軟件類(lèi)似，需要引入易于操作的分類(lèi)界定新維度加以區分?？紤]到人工智能獨立軟件的處理對象基于醫療器械數據（即醫療器械產(chǎn)生的用于醫療用途的客觀(guān)數據），而此類(lèi)軟件的處理對象基于非醫療器械數據，并且處理對象概念清晰易于操作，故可引入處理對象作為分類(lèi)界定新維度。因此，醫學(xué)人工智能軟件是否為人工智能獨立軟件，需結合其預期用途、核心功能、處理對象進(jìn)行綜合判定。
　　人工智能獨立軟件的管理類(lèi)別判定需要基于其風(fēng)險水平，兼顧已上市產(chǎn)品的監管延續性。風(fēng)險水平可從預期用途、算法成熟度兩個(gè)維度細化，其中預期用途可分為輔助決策和非輔助決策，前者提供醫療決策建議，后者提供醫療參考信息，前者風(fēng)險高于后者；算法成熟度可分為成熟算法和全新算法，前者是指算法安全性和有效性已在醫療應用中得到充分證實(shí)，后者是指算法未上市或其安全性和有效性尚未在醫療應用中得到充分證實(shí)，后者潛在風(fēng)險多于前者。全新算法若用于輔助決策按第三類(lèi)醫療器械管理，若用于非輔助決策按第二類(lèi)醫療器械管理；成熟算法無(wú)論何種預期用途管理類(lèi)別保持不變，以保證監管延續性。
　?。ǘ┘夹g(shù)審評
　　人工智能醫療器械的技術(shù)審評不僅要考慮人工智能醫療器械指導原則要求，而且要考慮數字醫療等相關(guān)指導原則要求，包括但不限于醫療器械軟件、醫療器械網(wǎng)絡(luò )安全、醫療器械人因設計、移動(dòng)醫療器械、醫療器械臨床評價(jià)、醫用軟件通用名稱(chēng)命名等指導原則。
　　技術(shù)審評主要結合算法特征和產(chǎn)品特性，綜合權衡風(fēng)險和受益，系統評價(jià)安全性和有效性。算法特征不同，評價(jià)重點(diǎn)也不同，比如，黑盒算法可解釋性劣于白盒算法，需要關(guān)注其可解釋性提升問(wèn)題；有監督學(xué)習數據標注要求高于無(wú)監督學(xué)習，需要關(guān)注其數據標注質(zhì)控問(wèn)題；基于數據的算法對于訓練數據量的要求高于基于模型的算法，需要關(guān)注其數據質(zhì)控問(wèn)題。產(chǎn)品的預期用途、使用場(chǎng)景不同，即使采用同一算法，其產(chǎn)品特性亦不同，評價(jià)亦有所側重。風(fēng)險主要關(guān)注過(guò)擬合和欠擬合等算法風(fēng)險，以及假陰性和假陽(yáng)性等醫療決策風(fēng)險，進(jìn)口產(chǎn)品還需考慮中外差異風(fēng)險。系統評價(jià)需結合算法訓練、算法性能評估、臨床評價(jià)等結果對產(chǎn)品的適用范圍、使用場(chǎng)景、核心功能進(jìn)行規范和必要限制，對于前期已開(kāi)發(fā)且不滿(mǎn)足要求的產(chǎn)品允許開(kāi)展差距分析并采取補救措施。
　　在算法更新控制方面，將算法更新分為算法驅動(dòng)型更新和數據驅動(dòng)型更新并區分要求，前者是指算法發(fā)生實(shí)質(zhì)性變化或者重新訓練，屬于重大軟件更新，需申請變更注冊；后者是指僅由訓練數據量增加而發(fā)生的算法更新，若算法性能評估結果與前次注冊相比存在統計學(xué)差異則屬于重大軟件更新，需申請變更注冊，反之屬于輕微軟件更新，無(wú)需申請變更注冊，通過(guò)質(zhì)量管理體系進(jìn)行控制，待下次變更注冊時(shí)提交相應注冊申報資料，即無(wú)需“算法鎖定”。同時(shí)，通過(guò)軟件版本命名規則進(jìn)行算法更新控制，軟件版本命名規則需涵蓋算法驅動(dòng)型更新和數據驅動(dòng)型更新，列舉重大算法更新常見(jiàn)典型情況，在方法學(xué)上實(shí)與“軟件預定更新計劃”相同，但更早實(shí)施。
　　在算法泛化能力保證方面，訓練數據需結合目標疾病流行病學(xué)特征，盡可能來(lái)源于多家、多地域、多層級的代表性臨床機構，以及多家、多種、多參數的代表性采集設備，從而提高數據充分性和多樣性，從源頭保證算法泛化能力。算法訓練需提供訓練數據量- 評估指標曲線(xiàn)等證據，持續監測算法泛化能力。算法驗證所用測試集需不同于訓練集，以客觀(guān)評價(jià)算法泛化能力，并可結合壓力測試和對抗測試深入評價(jià)算法泛化能力。算法確認需保證臨床評價(jià)數據集不同于訓練數據集，機構數量盡可能多，地域分布盡可能廣泛，以全面評價(jià)算法泛化能力。上市后亦需在真實(shí)世界持續開(kāi)展算法泛化能力研究。
　　在黑盒算法可解釋性提升方面，算法設計需對黑盒算法開(kāi)展算法性能影響因素分析，研究影響算法性能的主要因素及其影響程度，根據分析結果明確產(chǎn)品使用限制，并在說(shuō)明書(shū)中予以警示和提示，以提升算法可解釋性。同時(shí)，明確算法開(kāi)發(fā)生存周期過(guò)程質(zhì)控要求，以提升算法透明度。此外，建議與現有醫學(xué)知識建立關(guān)聯(lián)，以進(jìn)一步提升算法可解釋性。
　　此外，在人工智能新技術(shù)應對方面，針對當前處于研發(fā)階段尚無(wú)產(chǎn)品注冊的人工智能新技術(shù)，僅作原則性要求，提供算法基本信息、算法選用依據和算法驗證與確認資料即可，預留監管空間。在算法評價(jià)方法方面，提出可基于測評數據庫進(jìn)行算法確認，測評數據庫需滿(mǎn)足權威性、科學(xué)性、規范性、多樣性、封閉性、動(dòng)態(tài)性等要求，公開(kāi)數據庫因不具備封閉性而不能用作測評數據庫，但可用于算法性能評估或算法訓練。
　?。ㄈw系核查
　　人工智能醫療器械的體系核查需要基于醫療器械生產(chǎn)質(zhì)量管理規范、獨立軟件附錄（軟件組件參照執行，含網(wǎng)絡(luò )安全）及其現場(chǎng)檢查指導原則，并可參考人工智能醫療器械指導原則相關(guān)要求，其以有監督深度學(xué)習為例明確了人工智能醫療器械生存周期過(guò)程質(zhì)控要求，涵蓋需求分析、數據收集、算法設計、驗證與確認、更新控制等階段。
　　考慮到有些注冊申請人剛進(jìn)入醫療器械行業(yè)，對于質(zhì)量管理體系文檔化要求的認識和理解不到位，著(zhù)重加強體系記錄的要求，包括數據采集質(zhì)量評估、數據標注質(zhì)量評估、數據擴增、算法更新等方面。
　　數據質(zhì)控對于保證產(chǎn)品質(zhì)量至關(guān)重要，特別是基于數據的算法，因此著(zhù)力規范數據質(zhì)控要求，明確并細化數據采集、數據整理、數據標注、數據集構建等環(huán)節質(zhì)控要求，涵蓋人員、過(guò)程、結果等方面。
　　算法更新質(zhì)控是體系核查的重點(diǎn)，特別是對數據驅動(dòng)型更新，因其輕微軟件更新主要通過(guò)質(zhì)量管理體系進(jìn)行控制。以算法更新與軟件版本命名規則的匹配性作為切入點(diǎn)，將是算法更新體系核查的基本方法。
　　算法可追溯性分析作為算法質(zhì)量保證的重要方法，也是體系核查的重點(diǎn)，需追溯算法需求、算法設計、算法實(shí)現（即源代碼）、算法測試、算法風(fēng)險管理的相互關(guān)系。算法更新亦需開(kāi)展算法可追溯性分析。
　　四、人工智能醫療器械的監管研究展望
　　我國人工智能醫療器械監管研究雖已取得階段性成果，但所面臨的監管挑戰依然存在且將長(cháng)期存在，一是現有挑戰尚未全部得到根本解決，二是人工智能新技術(shù)層出不窮，亦會(huì )帶來(lái)新挑戰，因此需要持續推進(jìn)監管科學(xué)研究，進(jìn)一步提升國際競爭力和話(huà)語(yǔ)權。
　　持續學(xué)習/ 自適應學(xué)習具備自學(xué)習能力，此時(shí)用戶(hù)亦成為產(chǎn)品開(kāi)發(fā)者，與注冊申請人共同承擔法律責任和質(zhì)量責任，同時(shí)算法更新迭代速度更快，用戶(hù)不同算法更新情況亦不同，對于產(chǎn)品安全性和有效性的影響具有高度不確定性，因此當前限定持續學(xué)習/ 自適應學(xué)習僅可用于算法訓練或醫學(xué)研究，不得用于醫療決策。從長(cháng)遠角度來(lái)看，需要從法規、產(chǎn)品質(zhì)量評價(jià)等方面深入研究其監管模式，明確注冊申請人和用戶(hù)的責任劃分，利用年度報告等制度及時(shí)、精確評價(jià)算法更新影響。
　　人工智能醫療器械安全有效性評價(jià)體系亦需全面研究。一是大力推進(jìn)重點(diǎn)產(chǎn)品指導原則和審評要點(diǎn)的制修訂，與人工智能醫療器械產(chǎn)品發(fā)展趨勢相匹配，不斷完善人工智能醫療器械指導原則體系的構建工作。二是充分利用真實(shí)世界數據客觀(guān)評價(jià)人工智能醫療器械的算法泛化能力，實(shí)現全生命周期閉環(huán)監管。三是繼續探索測評數據庫的評估要求和作用價(jià)值，測評數據庫具有封閉性，注冊申請人無(wú)法直接評估，需要結合醫療器械主文檔登記事項予以評估，在此基礎上進(jìn)一步探索測評數據庫在產(chǎn)品質(zhì)量評價(jià)中的作用和價(jià)值。
　　有些人工智能醫療器械預期在基層醫療機構使用，由于基層醫療機構不具備醫療器械臨床試驗機構的備案條件，故這些產(chǎn)品難以在真實(shí)臨床場(chǎng)景下開(kāi)展臨床試驗進(jìn)行算法確認，影響產(chǎn)品質(zhì)量評價(jià)結果。以基層醫療機構的業(yè)務(wù)主管醫療機構作為臨床試驗的牽頭單位或許是解決方法。
　　隨著(zhù)人工智能新技術(shù)的快速發(fā)展，人工智能醫療器械新產(chǎn)品形態(tài)也會(huì )出現，其監管的范圍、模式和方法可能均需調整，分類(lèi)界定、技術(shù)審評、體系核查等方面具體工作的關(guān)注重點(diǎn)亦需隨之調整，這樣方能及時(shí)、有效地解決人工智能新技術(shù)所帶來(lái)的監管挑戰。

關(guān)鍵詞：人工智能醫療器械注冊