肺結節CT影像輔助檢測軟件注冊審查指導原則(征求意見(jiàn)稿)

本指導原則是對肺結節CT影像輔助檢測軟件的一般要求。注冊申請人應依據具體產(chǎn)品的特性對注冊申報資料的內容進(jìn)行充實(shí)和細化。注冊申請人還應依據具體產(chǎn)品的特性確定其中的內容是否適用，若不適用，需具體闡述其理由及相應的科學(xué)依據。

本指導原則是供注冊申請人和技術(shù)審評人員使用的指導性文件，但不包括注冊審批所涉及的行政事項，亦不作為法規強制執行，如果有能夠滿(mǎn)足相關(guān)法規要求的其他方法，也可以采用，但是需要提供詳細的研究資料和驗證資料。應在遵循相關(guān)法規的前提下使用本指導原則。本指導原則是在現行法規和標準體系以及當前認知水平下制定的，隨著(zhù)法規和標準的不斷完善，以及科學(xué)技術(shù)的不斷發(fā)展，本指導原則相關(guān)內容也將進(jìn)行適時(shí)的調整。本指導原則中相關(guān)內容均應執行最新版本的標準。

本指導原則是人工智能醫療器械指導原則體系的重要組成部分，基于人工智能醫療器械審評指導原則的通用要求，明確了肺結節CT圖像輔助檢測軟件的具體要求。

一、適用范圍

本指導原則適用于肺結節CT影像輔助檢測軟件的產(chǎn)品注冊。按現行《醫療器械分類(lèi)目錄》，該類(lèi)產(chǎn)品分類(lèi)編碼為21-04-02，管理類(lèi)別為三類(lèi)。

肺結節CT影像輔助決策軟件包括肺結節CT影像輔助檢測軟件、肺結節CT影像輔助診斷軟件，前者主要用于疑似肺結節的檢測或者檢測及影像學(xué)分類(lèi)，后者主要用于疑似肺結節良惡性等臨床診斷。肺結節CT影像輔助診斷軟件可參照本指導原則執行。

二、注冊審查要點(diǎn)

（一）監管信息

明確產(chǎn)品名稱(chēng)的確定依據、管理類(lèi)別、分類(lèi)編碼、規格型號、產(chǎn)品組成等信息。

1.   產(chǎn)品名稱(chēng)

產(chǎn)品命名應符合《醫療器械通用名稱(chēng)命名規則》的要求。根據產(chǎn)品預期用途可采用肺結節CT影像輔助檢測軟件進(jìn)行命名。

2.分類(lèi)編碼

依據《醫療器械分類(lèi)目錄》，申報產(chǎn)品分類(lèi)編碼為21-04-02。按第三類(lèi)醫療器械管理。

3.注冊單元劃分

根據產(chǎn)品的技術(shù)原理、結構組成、性能指標、適用范圍進(jìn)行注冊單元劃分。

可以與CT設備一起作為軟件組件注冊，也可以按照獨立軟件注冊。

4.適用范圍

適用范圍需明確處理對象、核心功能、適用人群、目標用戶(hù)、臨床用途。

例如，用于胸部CT影像的顯示、處理、測量和分析，可對4mm及以上肺結節進(jìn)行識別并分析結節影像學(xué)特征，供經(jīng)培訓合格的醫師使用，不能單獨用作臨床診療決策依據。

（二）綜述資料

1. 產(chǎn)品描述

1.1器械及操作原理描述

1.1.1工作原理

需詳述產(chǎn)品的工作原理，例如：基于深度學(xué)習技術(shù)對醫學(xué)影像進(jìn)行分析處理、對肺結節進(jìn)行分割、檢測、自動(dòng)識別等。

1.1.2結構組成

結構組成明確交付內容和功能模塊，其中交付內容包括軟件安裝程序、授權文件、外部軟件環(huán)境安裝程序等軟件程序文件，功能模塊包括客戶(hù)端、服務(wù)器端（若適用）、云端（若適用），若適用注明選裝、模塊版本?；谌斯ぶ悄芩惴ǎㄈ缟疃葘W(xué)習）的功能模塊，需在模塊名稱(chēng)中注明人工智能（如深度學(xué)習）。

1.2 型號規格

需明確申報產(chǎn)品的型號規格及發(fā)布版本。產(chǎn)品型號/規格及其劃分，如同一個(gè)注冊單元包含多個(gè)型號規格，需提供產(chǎn)品型號規格區分列表或配置表。

1.3研發(fā)歷程

闡述申請注冊產(chǎn)品的研發(fā)背景和目的。如有參考的同類(lèi)產(chǎn)品或前代產(chǎn)品，需提供同類(lèi)產(chǎn)品或前代產(chǎn)品的信息，并說(shuō)明選擇其作為研發(fā)參考的原因。

2.適用范圍和禁忌證

（1）適用范圍

適用范圍需明確處理對象、核心功能、適用人群、目標用戶(hù)、臨床用途、軟件與醫生閱片順序。

例如，肺結節CT影像輔助檢測軟件產(chǎn)品適用范圍為：用于胸部CT影像的顯示、處理、測量和分析，可對4mm及以上肺結節進(jìn)行識別并分析結節影像學(xué)特征，供經(jīng)培訓合格的醫師使用，不能單獨用作臨床診療決策依據。

（2）預期使用環(huán)境

需明確設備使用場(chǎng)所和使用環(huán)境要求。

設備使用場(chǎng)所包括：醫療機構機房等。

使用環(huán)境要求需至少包括：溫度、濕度、大氣壓、光照條件。

（3）適用人群

需詳述產(chǎn)品的適用人群。目標人群信息（如用于篩查、診斷）或無(wú)預期治療特定人群的聲明、感興趣器官/疾病/病灶/異常、以及預期使用該產(chǎn)品的目標用戶(hù)（如經(jīng)培訓合格的放射科醫師、技師、專(zhuān)科醫師等）

（4）禁忌證

明確產(chǎn)品臨床應用的禁忌證以及不推薦使用該產(chǎn)品的情況。

3.產(chǎn)品功能

明確軟件與醫生閱片順序。結合用戶(hù)界面圖示詳細介紹技術(shù)要求中對應的臨床功能，如有特殊聲明，如用于檢測繼發(fā)性結節或更小結節，可以在功能中體現。明確自動(dòng)、手動(dòng)、半自動(dòng)輸出的數據、量化分析的具體內容、服務(wù)器部署（局域網(wǎng)、云端）等。

（三）非臨床資料

1.產(chǎn)品風(fēng)險管理資料

依據YY/T 0316《醫療器械風(fēng)險管理對醫療器械的應用》，提供產(chǎn)品風(fēng)險管理報告。

申請人需重點(diǎn)說(shuō)明：申報產(chǎn)品的研制階段已對有關(guān)可能的危害及產(chǎn)生的風(fēng)險進(jìn)行了估計和評價(jià)，針對性地實(shí)施了降低風(fēng)險的技術(shù)和管理方面的措施。產(chǎn)品性能測試對上述措施的有效性進(jìn)行了驗證，達到了通用和專(zhuān)用標準的要求。申請人對所有剩余風(fēng)險進(jìn)行了評價(jià)，全部達到可接受的水平。產(chǎn)品風(fēng)險分析資料需為申請人關(guān)于產(chǎn)品安全性的承諾提供支持。

風(fēng)險管理報告一般包括以下內容：

（1）申報產(chǎn)品的風(fēng)險管理組織。

（2）申報產(chǎn)品的組成。

（3）申報產(chǎn)品符合的安全標準。

（4）申報產(chǎn)品的預期用途，與安全性有關(guān)的特征的判定。

（5）對申報產(chǎn)品的可能危害作出判定（見(jiàn)附錄1）。

（6）對所判定的危害采取的降低風(fēng)險的控制措施。

（7）對采取控制措施后的剩余風(fēng)險進(jìn)行估計和評價(jià)。

2.產(chǎn)品技術(shù)要求及檢測報告

2.1產(chǎn)品技術(shù)要求

依據《醫療器械產(chǎn)品技術(shù)要求編寫(xiě)指導原則》進(jìn)行編制。

  2.1.1規格信息

明確軟件發(fā)布版本和版本命名規則。軟件版本命名規則原則上需涵蓋算法驅動(dòng)型更新和數據驅動(dòng)型更新，明確并區分重大軟件更新和輕微軟件更新，其中重大軟件更新列舉常見(jiàn)典型情況。

明確不同型號間產(chǎn)品差異。

2.1.2性能指標

明確產(chǎn)品處理對象，以及數據接口信息，包括成像模態(tài)（如計算機體層攝影）和特定軟硬件名稱(chēng)及型號（如適用）。

明確軟件所有的臨床功能，如結節檢出的尺寸范圍（如4-30mm）、結節密度分類(lèi)類(lèi)別（如實(shí)性、亞實(shí)性的手動(dòng)分類(lèi)等）、結節位置（如肺葉、肺段、肺結節CT圖像層面、肺內、胸膜）、結節標記方式（緊密包裹結節的邊界框、不緊密包裹結節的邊界框）、分割方式（自動(dòng)分割、半自動(dòng)分割、手動(dòng)分割）、測量功能（如體積、最大軸向平面最長(cháng)直徑、短徑、平均直徑、最大三維直徑、有效直徑、平均密度、面積等）、隨訪(fǎng)評估功能（如倍增時(shí)間、數值參數的百分比(%)和絕對變化、結節長(cháng)軸、短軸、平均直徑、最大三維直徑、有效直徑、體積、平均密度等）、測量精度（相對誤差絕對值的平均值、絕對誤差）、結節的3D或MIP可視化等。

使用限制明確應用場(chǎng)景（體檢篩查、門(mén)診病房）、患者（年齡、地域、疾病類(lèi)型）、CT設備廠(chǎng)家、探測器排數、CT掃描參數(如管電壓、管電流、層厚/層間距、劑量、窗寬窗位、重建方式、顯示方式)、放射學(xué)檢查條件(CT增強掃描、CT平掃)、CT圖像質(zhì)量要求(如分辨率、偽影)、結節檢出的尺寸范圍、結節密度分類(lèi)類(lèi)別。如軟件包含圖像質(zhì)量判定功能，明確軟件使用限制。

若含有基于測評數據庫測試的性能指標，其要求參考《人工智能醫療器械注冊審查指導原則》。

運行環(huán)境，運行在不同計算機系統的產(chǎn)品模塊（如客戶(hù)端和云端）需分別描述其運行環(huán)境。

附錄中明確軟件輸出報告及界面數據圖示及測評數據庫數據庫/集信息。服務(wù)器部署（局域網(wǎng)、云端）。

2.2檢驗報告

產(chǎn)品需符合GB/T 25000.51 《系統與軟件工程 系統與軟件質(zhì)量要求和評價(jià)（SQuaRE）第51部分：就緒可用軟件產(chǎn)品（RUSP）的質(zhì)量要求和測試細則》的要求。

注冊人需在軟件研究資料中提交GB/T 25000.51自測報告或委托有資質(zhì)的醫療器械檢驗機構出具檢驗報告。檢測報告需明確軟件發(fā)布版本信息。

3.軟件研究

（1）基本要求

生產(chǎn)企業(yè)需依據《醫療器械軟件注冊審查指導原則》提交相應軟件研究資料。其中，核心算法所述人工智能算法需依據 《人工智能醫療器械注冊審查指導原則》提交相應算法研究資料。

生產(chǎn)企業(yè)需依據《醫療器械網(wǎng)絡(luò )安全注冊審查指導原則》提交網(wǎng)絡(luò )安全描述文檔。按照《人工智能醫療器械注冊審查指導原則》提交數據安全資料。

若使用云計算服務(wù)，生產(chǎn)企業(yè)需依據《人工智能醫療器械注冊審查指導原則》提交相應研究資料。使用云計算服務(wù)需明確服務(wù)模式、部署模式、核心功能、數據接口、網(wǎng)絡(luò )安全能力、服務(wù)（質(zhì)量）協(xié)議等要求。

軟件版本命名規則涵蓋算法驅動(dòng)型軟件更新和數據驅動(dòng)型軟件更新；區分重大軟件更新和輕微軟件更新，其中重大軟件更新需列舉常見(jiàn)典型情況。

（2）軟件安全級別

該類(lèi)產(chǎn)品的軟件安全性級別為嚴重（C）級。

（3）核心算法

核心算法的選擇可以參考下表，其中采用全新算法（如深度學(xué)習）需提供算法研究資料。

表1. 核心算法示例

4.算法研究資料

4.1算法基本信息

肺結節CT影像輔助檢測軟件所涉及的算法一般包括肺結節檢出算法、肺結節分類(lèi)算法和肺結節測量算法。其中肺結節檢出算法目的在于在胸部CT影像中利用人工智能技術(shù)自動(dòng)檢出肺結節，輔助醫生篩查；肺結節分類(lèi)算法對每個(gè)肺結節的屬性進(jìn)行歸類(lèi)，按照類(lèi)別不同，肺結節分類(lèi)算法包括但不限于肺結節密度分類(lèi)算法，肺結節解剖定位分類(lèi)算法等；肺結節測量算法對每個(gè)肺結節的屬性進(jìn)行量化測量，區別于肺結節分類(lèi)算法，肺結節測量算法輸出的是連續的量化值，而肺結節分類(lèi)算法輸出的是離散的類(lèi)別。按照測量屬性不同，肺結節測量算法包括但不限于肺結節體積測量算法，肺結節密度值測量算法和肺結節長(cháng)短徑測量算法等。

4.1.1肺結節檢出算法

肺結節檢出算法需明確算法的輸入，比如算法采用的是2D，2.5D還是3D的胸部CT圖像作為神經(jīng)網(wǎng)絡(luò )的輸入；算法的輸出，比如緊密包裹肺結節的矩形框端點(diǎn)（二維/三維），肺結節中心點(diǎn)；

明確算法所采用的神經(jīng)網(wǎng)絡(luò )結構，如 Faster RCNN；明確算法訓練采用的損失函數，如交叉熵，L1范數；明確算法設計過(guò)程中網(wǎng)絡(luò )結構、損失函數等核心組件選擇和設計的原則、方法與風(fēng)險考量，如肺結節大小尺度的差異，肺結節與背景正負樣本的不均衡性、假陽(yáng)性、過(guò)擬合等；若肺結節檢出采用多個(gè)模型融合，需明確不同模型訓練與推理的方式，以及模型融合的策略，如級聯(lián)，多數投票；

肺結節檢出存在同一個(gè)目標多個(gè)重疊框的問(wèn)題，算法需明確匹配關(guān)系所采用的策略，如交并比（IoU），定位框中心距離；

明確算法的流程圖，需包含算法運行前所進(jìn)行的前處理（圖像縮放、圖像像素值歸一化、圖像重采樣）以及算法運行后所進(jìn)行的后處理操作（圖像重采樣、非最大化抑制）。明確訓練與部署所采用的框架（如Tensorflow, Pytorch）、算法運行環(huán)境（如內存、顯存的需求）。

若使用遷移學(xué)習技術(shù)，除上述內容外還需補充預訓練模型的數據集構建、驗證與確認等總結信息，并論證遷移學(xué)習的適用性。

4.1.2肺結節分類(lèi)算法

    肺結節分類(lèi)算法包括密度分類(lèi)算法、肺結節解剖定位分類(lèi)。

肺結節密度分類(lèi)算法需明確輸出（密度類(lèi)別），密度類(lèi)別制定依據以及臨床適用性。

肺結節密度分類(lèi)算法需明確算法的輸入，比如算法采用的是2D，2.5D還是3D的圖像作為神經(jīng)網(wǎng)絡(luò )的輸入。若采用2D，需明確肺結節選取的圖像層面，如中心層面，最大面積層面；明確算法所采用的神經(jīng)網(wǎng)絡(luò )結構，如Residual Net，Dense-Net；明確算法訓練采用的損失函數，如交叉熵，Focal損失函數；損失函數等核心組件選擇和設計的原則、方法與風(fēng)險考量，如肺結節大小尺度的差異，不同類(lèi)別肺結節樣本的不均衡性、過(guò)擬合等；若肺結節分類(lèi)采用多個(gè)模型融合，需明確不同模型訓練與推理的方式，以及模型融合的策略，如多數投票；最后，明確算法的流程圖，訓練與部署所采用的框架（如Tensorflow, Pytorch）、算法運行環(huán)境（如內存、顯存的需求）。

肺結節解剖定位分類(lèi)中，明確肺結節定位的類(lèi)別，如左/右肺定位、肺葉定位、肺段定位。明確算法輸入的類(lèi)型，如肺結節二維切片，肺結節三維圖像塊，若輸入類(lèi)型為二維切片，明確二維切片選取標準（肺結節長(cháng)短徑交點(diǎn)所在切片、肺結節最大面積切片）。肺結節解剖定位分類(lèi)算法需明確實(shí)現的機理，如圖像分割算法，圖像分類(lèi)算法。

4.1.3肺結節測量算法

針對肺結節測量算法，明確測量實(shí)現的方式。肺結節體積測量算法、密度值測量算法與長(cháng)短徑測量算法可以通過(guò)肺結節分割技術(shù)來(lái)實(shí)現，也可以通過(guò)機器學(xué)習中的回歸方法來(lái)進(jìn)行預測。其中密度值測量算法需明確測量的類(lèi)型，如平均值，標準差，最大值，最小值，中位數。

若申報產(chǎn)品涉及上述多個(gè)算法，需提供算法整體流程圖，明確各個(gè)算法調用先后關(guān)系，以及輸入輸出依賴(lài)關(guān)系。

若使用遷移學(xué)習技術(shù)，除上述內容外還需補充預訓練模型的數據集構建、驗證與確認等總結信息，并論證遷移學(xué)習的適用性。

4.2算法需求規范

算法功能需求建議關(guān)注數據庫需求、算法性能評價(jià)指標及制定依據。

4.2.1數據庫需求

算法性能評價(jià)需要基于訓練和測試數據庫，數據庫具體要求詳見(jiàn)附錄2。

4.2.2算法性能評價(jià)指標

在指定肺結節檢出算法評估指標之前，需明確標記匹配的方式，即算法標記目標與參考標準目標的匹配方式，常見(jiàn)的標記匹配方式有按照區域重疊的比例、中心點(diǎn)的距離、中心是否落入來(lái)判斷標記是否匹配；明確算法任務(wù)，明確算法訓練和調優(yōu)過(guò)程中不同任務(wù)的的評估指標及定義。有關(guān)標記匹配方式與評估指標的定義可以參考“人工智能醫療器械 肺部影像輔助分析軟件算法性能測試方法”5.1.1.1章節。

明確不同任務(wù)的算法評價(jià)指標的確定依據、分層影響因素選擇依據，建議參考《人工智能醫療器械 肺部影像輔助分析軟件 算法性能測試方法》、肺結節診療中國專(zhuān)家共識、美國國立綜合癌癥網(wǎng)絡(luò )NCCN指南、Fleishner年學(xué)會(huì )指南、中華醫學(xué)會(huì )肺癌臨床診療指南等。

結節檢出指標包括不限于召回率、精確度、特異度。

結節分類(lèi)指標包括不限于靈敏度、特異度、總體的Kappa系數、準確率。

結節分割指標包括不限于體積交并比、Dice系數、Hausdorff距離。

尺寸測量指標包括不限于結節體積相對誤差率、肺結節平均徑相對誤差率、肺結節長(cháng)徑絕對誤差均值MAE、肺結節短徑絕對誤差均值MAE。

提供文獻綜述論證評價(jià)指標選擇及分層影響因素選擇的合理性。分層分析的影響因素包括年齡、病變類(lèi)型、大小、層厚、采集協(xié)議等重要變量。

算法質(zhì)量特性包括泛化能力、魯棒性（面向硬件變化的對抗測試、面向軟件前處理的對抗測試、壓力測試）、重復性、一致性、效率。

隨訪(fǎng)評估功能包括倍增時(shí)間、數值參數的百分比(%)和絕對變化，如結節長(cháng)軸、短軸、平均直徑、最大三維直徑、有效直徑、體積、平均HU。

4.2.3算法性能測試基本要求

4.2.3.1結節檢出

軟件檢出肺結節的召回率和精確度不低于X%。

召回率和精確度的計算一般針對全體結節進(jìn)行。在設置篩選條件后，可以使用篩選后的參考標準與篩選后的AI結果進(jìn)行匹配。如篩選后假陽(yáng)性結果難以定義，建議以召回率為主要指標，常見(jiàn)情形為：

-對具體某一種結節類(lèi)型，計算結節的召回率。結節類(lèi)型包括實(shí)性結節、純磨玻璃結節、部分實(shí)性結節、鈣化結節等。

-對平均直徑、長(cháng)徑處于某一區間的結節，計算召回率

-·對類(lèi)型、尺寸范圍組合的結節，計算召回率。

4.2.3.2結節分類(lèi)準確度

明確分類(lèi)場(chǎng)景，如二分類(lèi)場(chǎng)景、多分類(lèi)場(chǎng)景。對于二分類(lèi)場(chǎng)景下的指標，如軟件能夠對A類(lèi)型的肺結節進(jìn)行分類(lèi)，準確率不低于X%，靈敏度不低于Y%，特異性不低于Z%?？傮w的Kappa系數不低于N%；多分類(lèi)問(wèn)題可以轉化為二分類(lèi)問(wèn)題，按每一類(lèi)進(jìn)行描述。

4.2.3.3結節分割

體積交并比不小于XX；如果產(chǎn)品只輸出最大層面則計算最大層面交并比,或DICE系數不小于XX

4.2.3.4尺寸測量

體積測量偏差±XX%；長(cháng)徑測量偏差±XX%。長(cháng)徑小于等于10mm則增加平均直徑允差，大于10mm則增加短徑允差。

4.2.4樣本量

明確樣本量估計的公式、參數及制定依據。

4.3數據質(zhì)控

建議參考“人工智能醫療器械注冊審查指導原則”及“人工智能醫療器械質(zhì)量要求和評價(jià) 第2部分：數據集通用要求”。

4.3.1明確數據庫信息（詳見(jiàn)附錄2）

4.3.2數據預處理

數據預處理需明確數據轉移保存的方法。

數據入庫前完成清洗，主要是讀取Patient數據確定數據是否完成脫敏，是否合規；讀取Study和Series的識別碼確定圖像的唯一性，通過(guò)Image的標識碼判定圖像是否連續完整。此外，通過(guò)讀取層厚、層間距等信息確定圖像的質(zhì)量并加以篩選。流程圖示例如圖1所示：

4.3.3數據標注

數據標注建議參考“人工智能醫療器械質(zhì)量要求和評價(jià) 第3部分：數據標注通用要求”。

需明確標注任務(wù)分類(lèi)（包括數據模態(tài)、執行主體、標注結果格式、標注結果性質(zhì)、標注結果形式等維度），提供標注任務(wù)描述文檔（標準規則、標注人員、標注工具、標注環(huán)境、數據）。其中標注規則需明確制定依據并提供參考文獻。標注人員建議列表給出標注、審核、仲裁人員的基本信息，如數量、醫療機構、科室、工作年限、職稱(chēng)、培訓、培訓考核情況、工作量、標注任務(wù)、參考的所有受檢者臨床信息(如病理檢測結果)。

標注與質(zhì)控流程建議提供業(yè)務(wù)架構、過(guò)程組織（任務(wù)生成、任務(wù)分配、任務(wù)實(shí)施、質(zhì)量控制、驗收準則及驗收報告。其中業(yè)務(wù)架構宜采用流程圖介紹單張圖片的標注、審核、仲裁過(guò)程。

如標注工具、標注平臺使用人工智能算法進(jìn)行輔助標注，需提交標注工具、標注平臺算法性能研究資料。

4.3.4數據集構建

依據《人工智能醫療器械注冊審查指導原則》指南明確訓練集、調優(yōu)集、測試集的劃分方法、劃分依據、數據分配比例。

提供查重驗證結果，以證實(shí)訓練集、調優(yōu)集、測試集的樣本兩兩無(wú)交集。

明確數據擴增需明確擴增的對象、范圍、方式（離線(xiàn)、在線(xiàn)）、方法（如翻轉、旋轉、鏡像、平移、縮放、濾波、生成對抗網(wǎng)絡(luò )等）、倍數、在線(xiàn)數據擴增記錄。

提供擴增數據庫與標注數據庫樣本量、樣本分布（注明擴增倍數）對比表，以證實(shí)擴增數據庫樣本量的充分性以及樣本分布的合理性。

提供采用生成對抗網(wǎng)絡(luò )數據擴增的算法基本信息以及算法選用依據資料。

4.4算法訓練

   算法訓練需明確訓練過(guò)程所采用的優(yōu)化器及其相關(guān)參數，如Adam，SGD；在算法訓練階段，需明確驗證集的劃分方式，如留出法，交叉驗證法； 需明確訓練目標，即判斷何時(shí)停止訓練，如設定最大的訓練epoch數目，依據損失函數判斷損失穩定且不繼續下降，根據訓練epoch數量-評估指標曲線(xiàn)判斷評估指標不繼續提升等。當訓練停止后，明確訓練模型最佳epoch的選擇方法，如在留出法中，根據留出部分的驗證集選取評價(jià)指標最優(yōu)的epoch；在交叉驗證法中，計算多次隨機劃分驗證集的評價(jià)指標平均值，選擇最優(yōu)的epoch。同時(shí)，結合臨床需求（如靈敏度、精準度），明確算法出廠(chǎng)閾值的選擇與方法，并論證訓練所得模型是否滿(mǎn)足產(chǎn)品既定目標。算法出廠(chǎng)閾值的選擇需提供制定依據。

算法訓練階段需結合訓練數據量-評估指標曲線(xiàn)驗證算法訓練數據量的充分性，常用的方式有以最小訓練數據量為基礎，逐步增加數據量。對于不同的訓練數據量，計算對應的評價(jià)指標。當評價(jià)指標為單一標量時(shí)（如靈敏度），訓練數據量-評估指標曲線(xiàn)的x軸為訓練數據的樣本量（如CT序列個(gè)數），y軸為在使用特定訓練量時(shí)，算法在測試集的評價(jià)指標。結合訓練數據量-評估指標曲線(xiàn)，判斷當訓練數據量有限時(shí)，評價(jià)指標是否隨數據量的增加而增加，并在數據量達到一定程度后，評價(jià)指標趨于平穩。當評價(jià)指標為曲線(xiàn)時(shí)，可考慮根據不同訓練數據量，繪制對應的評價(jià)指標曲線(xiàn)，判斷曲線(xiàn)下面積（AUC）是否先隨數據量的增加而增加，最后當數據量達到一定程度后趨于平穩。以fROC曲線(xiàn)為例，在評估訓練數據量的充分性時(shí)，當訓練數據量有限時(shí)，fROC曲線(xiàn)下面積需隨數據量增加而增加，fROC曲線(xiàn)逐步逼近坐標左上角；當訓練數據量達到一定程度后，fROC曲線(xiàn)下面積慢慢趨于穩定。

若訓練過(guò)程中采用了數據擴增的方式，需明確擴增方式，如離線(xiàn)數據擴增，在線(xiàn)數據擴增。同時(shí)，需明確數據擴增的方法以及相應的參數設置，如圖像平移，旋轉，縮放，彈性形變等。若訓練過(guò)程未采用數據擴增，需論證未進(jìn)行數據擴增的理由，或者通過(guò)對比試驗（數據擴增 vs 未數據擴增）來(lái)論證合理性。

4.5算法驗證與確認

明確算法任務(wù)，明確不同任務(wù)的算法評價(jià)指標的閾值及確定依據。明確算法標記目標與參考標準的匹配方式和匹配閾值。明確病例水平和結節水平計算方法及定義一個(gè)結節的處理方法及病例陽(yáng)性的方法。區分算法任務(wù)制定具體測試方法和結果計算方法。建議參考《人工智能醫療器械 肺部影像輔助分析軟件 算法性能測試方法》。

4.5.1檢出算法性能評估

基于算法的出廠(chǎng)閾值，明確算法在訓練集，調優(yōu)集和測試集的假陰性（召回率）與假陽(yáng)性（精確度），通過(guò)比較三個(gè)數據集的性能來(lái)評估算法的泛化性。

若在訓練過(guò)程中使用數據擴增，需在調優(yōu)集上比較使用與不使用數據擴增對肺結節檢出性能的影響。

對于肺結節檢出算法，需分層統計算法對于不同大小和不同密度的肺結節的檢出效能，可以通過(guò)fROC曲線(xiàn)，召回率以及精確度等指標來(lái)評價(jià)，同時(shí)結合臨床需求論述結果的合理性。在肺結節大小的維度，可將肺結節分為4-5mm,5-8mm以及8-10mm來(lái)進(jìn)行分層統計，一般而言，肺結節尺寸越大，檢出的難度越低。在肺結節密度維度，需明確是二分類(lèi)還是多分類(lèi)，需明確密度類(lèi)型及制定依據，進(jìn)行密度類(lèi)型的分層統計。

除此之外，還需考慮性別、年齡、設備廠(chǎng)家、重建方式、層厚/層間距、管電流、管電壓等參數對肺結節檢出算法效能的影響。需明確設備廠(chǎng)家，且必須符合DICOM 3.0協(xié)議標準數據；管電壓考慮70-140 kV，管電流考慮10-400 mA；層厚與層間距需不超過(guò)5mm，在分層統計中可以考慮將層厚與層間距歸為兩大類(lèi)0.625-1.250mm和1.25-5mm，前者為“胸部CT肺結節數據集構建及質(zhì)量控制專(zhuān)家共識”推薦的肺結節診斷層厚的范圍；重建方式需考慮常見(jiàn)的肺算法與標準算法（軟組織算法）。

在亞組的分層統計中，肺結節檢出效能需在不同因素下均能取得較好性能。若在某些影響因素下，肺結節檢出效能存在差異，需進(jìn)行合理地論證，并在說(shuō)明書(shū)給出使用限制。

需提供算法性能測試報告，至少包括軟件環(huán)境、硬件環(huán)境、測試平臺描述（如適用）、測試集描述、算法性能指標的符合性分析（性能指標的定義、測試通過(guò)準則、統計分析）、算法錯誤統計。需包括算法性能及算法質(zhì)量特性、隨訪(fǎng)功能測試結果。

4.6 算法性能綜合分析

結合算法訓練、算法性能評估、臨床評價(jià)等結果開(kāi)展算法性能綜合評價(jià)，針對訓練樣本量和測試樣本量過(guò)少、測試結果明顯低于算法設計目標、算法性能變異度過(guò)大等情況，對產(chǎn)品的適用范圍、使用場(chǎng)景、核心功能進(jìn)行必要限制。

5．用戶(hù)培訓方案

對于軟件安全性級別為嚴重級別的產(chǎn)品，原則上需單獨提供一份用戶(hù)培訓方案，包括用戶(hù)培訓的計劃、材料、方式、師資等。

用戶(hù)培訓需關(guān)注以下內容：預期用戶(hù)要求，如工作年限或執業(yè)資格；醫生必須對軟件結果進(jìn)行確認，軟件只用于輔助檢測，不能替代醫生。CT圖像要求，如嚴重呼吸、金屬偽影或有掃描質(zhì)量問(wèn)題的CT影像慎用；基于臨床試驗驗證，不宜使用該軟件的疾??；

（四）產(chǎn)品說(shuō)明書(shū)和標簽樣稿

說(shuō)明書(shū)、標簽和包裝標識需符合《醫療器械說(shuō)明書(shū)和標簽管理規定》（國家食品藥品監督管理總局令第6號）和《醫療器械軟件技術(shù)審查指導原則》、《醫療器械網(wǎng)絡(luò )安全技術(shù)審查指導原則》、《人工智能醫療器械注冊審查指導原則》和相關(guān)標準的規定。

說(shuō)明書(shū)內容需重點(diǎn)關(guān)注：

1.用戶(hù)說(shuō)明

對預期用戶(hù)和推薦用戶(hù)培訓的詳細說(shuō)明。如，預期用戶(hù)工作年限或執業(yè)資格要求，且需經(jīng)培訓合格。

2.使用限制

若產(chǎn)品采用人工智能黑盒算法，需根據算法影響因素分析報告，在說(shuō)明書(shū)中明確產(chǎn)品使用限制和必要警示提示信息。

示例：不應僅僅依靠本器械所標識的輸出，應由專(zhuān)業(yè)醫師對結果進(jìn)行解釋。

已發(fā)現該器械對于XX的受檢者無(wú)效。具有這種疾病/病癥/異常的受檢者不應使用該器械。

對訓練數據、測試數據與臨床試驗的算法性能評估結果不佳，數據量偏少的，此類(lèi)受檢者使用該器械，應由專(zhuān)業(yè)醫師結合受檢者的病史、癥狀、體征、其他檢查結果情況綜合給出最終的肺結節檢出結論，核實(shí)是否需要進(jìn)行一步診療的決策，并對臨床診斷結果負責。

3.注意事項

測量準確性（如圖像長(cháng)度、CT值平均值、最大值、最小值、面積值、體積、密度、位置坐標）、測量功能警示信息，如體積測量是基于體素個(gè)數的圖形學(xué)測量，并不能完全反映人體真實(shí)的體積，測量體積僅供醫生參考。

CT影像質(zhì)量要求，如嚴重呼吸、金屬偽影或有掃描質(zhì)量問(wèn)題的CT影像慎用；圖像序列未完整包含肺臟全部組織的圖像數據禁用。

醫生必須對軟件結果進(jìn)行確認，軟件只用于輔助檢測，不能替代醫生。原始的AI結果應保留，確保軟件結果的可追溯性與可責性。

4.預防措施

需明確與器械使用相關(guān)的不良事件，并提供緩解措施建議。不良事件討論需至少包括對假陽(yáng)性事件和假陰性事件的不良事件的討論。

5.器械描述

需提供以下內容：

-算法設計和功能的概述，如有特殊聲明，如用于繼發(fā)性結節或更小結節檢測，可以特別說(shuō)明。

-培訓范例和培訓或開(kāi)發(fā)數據庫的概述

-研發(fā)和調整算法中所用的受檢者數據的參考標準的描述

-與本器械兼容的采集技術(shù)

-適當顯示器械標記的要求

6.軟件

需明確軟件發(fā)布版本、提供網(wǎng)絡(luò )安全說(shuō)明和使用指導，明確用戶(hù)訪(fǎng)問(wèn)控制機制、電子接口（含網(wǎng)絡(luò )接口、電子數據交換接口）及其數據類(lèi)型和技術(shù)特征、網(wǎng)絡(luò )安全特征配置、數據備份與災難恢復、運行環(huán)境（含硬件配置、外部軟件環(huán)境、網(wǎng)絡(luò )環(huán)境，若適用）、安全軟件兼容性列表（若適用）、外部軟件環(huán)境與安全軟件更新（若適用）、現成軟件清單（SBOM，若適用）等要求。

7.產(chǎn)品接口和聯(lián)合使用設備

需明確對配合使用的圖像工作站和PACS適當顯示器械標記的要求。

需明確CT設備兼容性與掃描參數要求（如層厚、排數）、

8.算法訓練總結

訓練集基本信息、訓練指標與結果

9.算法性能評估總結

-算法輸入與輸出

-測試集基本信息

-用于確定器械標記的每個(gè)區域的性質(zhì)的評分標準

-每個(gè)可用器械操作點(diǎn)的總體敏感度和假陽(yáng)性率指標

-分層分析（如，根據病變大小、病變類(lèi)型、采集參數、成像或數據特征）

-獨立FROC性能（如適用），需和操作特性曲線(xiàn)一起說(shuō)明。

-測試結果

10.臨床試驗總結

需包括臨床試驗設計基本類(lèi)型、研究對象（受試者及閱片者情況）、評價(jià)指標，金標準、對收集臨床信息方法的描述、統計方法描述、樣本量，臨床試驗結果（含各結節尺寸、密度影、閱片者亞組情況）。

11.公開(kāi)數據庫及測試結果（如有）

12.第三方測評數據庫及測試結果（如有）

13.決策指標定義（或提供決策指標定義所依據的臨床指南、專(zhuān)家共識等參考文獻）等信息。

三、參考文獻

[1]國家市場(chǎng)監督管理總局. 醫療器械注冊與備案管理辦法（市場(chǎng)監管總局令第47號），2021.8

[2]原國家食品藥品監督管理總局. 醫療器械說(shuō)明書(shū)和標簽管理規定（總局令第6號），2014.7

[3]國家藥品監督管理局. 醫療器械注冊申報資料要求和批準證明文件格式（2021年第121號），2021.9

[4]國家藥品監督管理局. 醫療器械通用名稱(chēng)命名指導原則（2019年第99號通告），2019.12

[5]國家藥品監督管理局. 醫療器械安全和性能基本原則（2020年第18號通告），2020.3

[6]原國家食品藥品監督管理總局.醫療器械產(chǎn)品技術(shù)要求編寫(xiě)指導原則（2014年第9號通告），2014.5

[7]國家藥品監督管理局醫療器械技術(shù)審評中心. 醫療器械軟件技術(shù)審查指導原則（第二版）（征求意見(jiàn)稿），2020.6

[8] 國家藥品監督管理局醫療器械技術(shù)審評中心. 醫療器械網(wǎng)絡(luò )安全技術(shù)審查指導原則（第二版）（征求意見(jiàn)稿），2020.9

[9]原國家食品藥品監督管理總局. 移動(dòng)醫療器械注冊技術(shù)審查指導原則（2017年第222號通告），2017.12

[10]國家藥品監督管理局醫療器械技術(shù)審評中心. 深度學(xué)習輔助決策醫療器械軟件審評要點(diǎn)（2019年第7號通告），2019.7

[11] 國家藥品監督管理局醫療器械技術(shù)審評中心. 肺炎CT影像輔助分診與評估軟件審評要點(diǎn)（試行）（2020年第8號通告），2020.3

[12]國家藥品監督管理局醫療器械技術(shù)審評中心. 人工智能醫療器械審查指導原則（征求意見(jiàn)稿），2021.6

[13]國家藥品監督管理局. 醫療器械生產(chǎn)質(zhì)量管理規范附錄獨立軟件（2019年第43號通告），2019.7

[14] 國家藥品監督管理局. 醫療器械生產(chǎn)質(zhì)量管理規范獨立軟件現場(chǎng)檢查指導原則（藥監綜械管〔2020〕57號），2020.5

[15] 國家藥品監督管理局. 人工智能類(lèi)醫用軟件產(chǎn)品分類(lèi)界定指導原則（2021年第47號）），2021.7

[16] 國家藥品監督管理局標準管理中心. 輔助決策類(lèi)醫用軟件產(chǎn)品分類(lèi)界定指導原則（征求意見(jiàn)稿），2021.6

    [17] 國家衛生健康委員會(huì ). 人工智能輔助診斷技術(shù)管理規范（國衛辦醫發(fā)〔2017〕7號），2017.2

    [18]國家衛生健康委員會(huì ). 人工智能輔助治療技術(shù)管理規范（國衛辦醫發(fā)〔2017〕7號），2017.2

[19]YY/T 0287-2017 醫療器械 質(zhì)量管理體系 用于法規的要求[S]

[20] YY/T 0316-2016 醫療器械 風(fēng)險管理對醫療器械的應用[S]

[21] YY/T 0664-2020 醫療器械軟件 軟件生存周期過(guò)程[S]

[22] YY/T 1406.1-2016 醫療器械軟件 第1部分：YY/T 0316應用于醫療器械軟件的指南[S]

[23]GB/T 25000.10-2016 系統與軟件工程 系統與軟件質(zhì)量要求與評價(jià)（SQuaRE）系統與軟件質(zhì)量模型[S]

[24]GB/T 39725-2020 信息安全技術(shù)  健康醫療數據安全指南 [S]

[25]YY/T 1833.1人工智能醫療器械 質(zhì)量要求和評價(jià) 第1部分：術(shù)語(yǔ)（報批稿） [S]

[26] YY/T 1833.2人工智能醫療器械 質(zhì)量要求和評價(jià) 第2部分：數據集通用要求（報批稿） [S]

    [27]YY/T 1833.3人工智能醫療器械 質(zhì)量要求和評價(jià) 第3部分：數據標注通用要求（報批稿） [S]

[28] YY/T 人工智能醫療器械 肺部影像輔助分析軟件 算法性能測試方法（報批稿） [S]

[29 ]AIMDICP-WG6-2020-002 基于胸部CT的肺結節影像輔助決策產(chǎn)品性能指標和測試方法 [S]

[30] AIMDICP-WG12-2021-001 醫學(xué)人工智能技術(shù)學(xué)名詞（草稿） [S]

[31] FDA. Computer-Assisted Detection Devices Applied to Radiology Images and Radiology Device Data, 2012.7

[32] FDA. Considerations for Computer-Assisted Detection Devices Applied to Radiology Images and Radiology Device Data, 2012.7

[33] FDA. Proposed Regulatory Framework for Modifications to Artificial Intelligence/Machine Learning (AI/ML) - Based Software as a Medical Device (SaMD) Draft, 2019.5

[34] FDA. Artificial Intelligence and Machine Learning(AI/ ML) Software as a Medical Device(SaMD) Action Plan, 2021.1

[38] 胸部CT肺結節數據集構建及質(zhì)量控制專(zhuān)家共識[J].中華放射學(xué)雜志,2021,55(02):104-110.