人工智能是近年科技及產(chǎn)業(yè)界最熱話(huà)題之一，人工智能的應用已經(jīng)滲透到生活的許多方面，人工智能醫療器械注冊產(chǎn)品也日益增多、日益成熟?？紤]到人工智能醫療器械產(chǎn)品的新和特點(diǎn)，本文以示例方式為大家介紹人工智能醫療器械注冊產(chǎn)品設計開(kāi)發(fā)檢查要點(diǎn)，一起看正文。

人工智能醫療器械注冊產(chǎn)品設計開(kāi)發(fā)檢查要點(diǎn)舉例

1.算法策劃

算法開(kāi)發(fā)策劃階段，應對算法需求、數據收集、算法設計、驗證與確認、算法更新、風(fēng)險管理、可追溯性分析等過(guò)程進(jìn)行算法生命周期策劃，輸出《算法開(kāi)發(fā)計劃書(shū)》。

2.算法需求

算法需求分析以用戶(hù)需求與風(fēng)險為導向，結合產(chǎn)品的預期用途、使用場(chǎng)景、核心功能，綜合分析法律、法規、規章、標準、用戶(hù)、產(chǎn)品、功能、性能、接口、用戶(hù)界面、網(wǎng)絡(luò )安全、警示提示等需求，重點(diǎn)考慮數據收集、算法性能、使用限制等要求。輸出《算法需求規范》。

3.數據收集

3.1 數據入選、排除標準

在《算法需求規范》中明確算法數據入選、排除標準。

3.2 數據來(lái)源及質(zhì)控

數據收集應確保數據來(lái)源的合規性，數據質(zhì)控的充分性、有效性、準確性。

3.3數據采集

數據采集需考慮采集設備、采集過(guò)程、數據脫敏等質(zhì)控要求，并建立《數據采集操作規范》。

3.4數據整理

脫敏數據匯總形成原始數據庫，不同模態(tài)的數據在原始數據庫中需加以區分。數據整理基于原始數據庫考慮數據清洗、數據預處理的質(zhì)控要求。輸出《數據整理規范》，同時(shí)《數據整理規范》中需明確樣本類(lèi)型、樣本量、樣品分布等信息，數據經(jīng)整理后形成基礎數據庫。

3.5 數據標注

3.5.1 數據標注前應建立《數據標注操作規范》，明確標注資源管理、標注過(guò)程質(zhì)控、標注質(zhì)量評估等要求。數據經(jīng)標注后形成標注數據庫。

3.5.2 數據標注可使用自動(dòng)標注軟件，但自動(dòng)標注結果不得直接使用，應由標注人員審核后方可使用；同時(shí)，自動(dòng)標注軟件亦需明確名稱(chēng)、型號規格、完整版本、制造商、運行環(huán)境等信息，并進(jìn)行軟件確認。

3.6 數據集構建

3.6.1 基于標注數據庫構建訓練集、調優(yōu)集、測試集，明確訓練集、調優(yōu)集、測試集的劃分方法、劃分依據、數據分配比例，輸出《數據集構建標準》。

3.6.2 訓練集應當保證樣本分布具有均衡性，測試集、調優(yōu)集應當保證樣本分布符合臨床實(shí)際情況，訓練集、調優(yōu)集、測試集的樣本應當兩兩無(wú)交集并通過(guò)查重予以驗證。

3.6.3 為解決樣本分布不滿(mǎn)足預期的問(wèn)題，可對訓練集、調優(yōu)集小樣本量數據進(jìn)行擴增，原則上不得對測試集進(jìn)行數據擴增，對抗測試除外。數據擴增需明確擴增的對象、方式（離線(xiàn)、在線(xiàn)）、方法（如翻轉、旋轉、鏡像、平移、縮放、濾波、生成對抗網(wǎng)絡(luò )等）、倍數，擴增倍數過(guò)大應考慮數據偏倚的影響及風(fēng)險。若采用生成對抗網(wǎng)絡(luò )進(jìn)行數據擴增，需明確算法基本信息以及算法選用依據。

3.6.4 數據經(jīng)擴增后形成擴增數據庫，需列表對比擴增數據庫與標注數據庫在樣本量、樣本分布（注明擴增倍數）等差異，以證實(shí)擴增數據庫樣本量的充分性以及樣本分布的合理性。

3.7 數據庫管理

3.7.1數據庫管理應遵循真實(shí)性、完整性、可用性、合規性、可追溯性、臨床代表性、時(shí)效性、安全性、準確性9大原則。

3.7.2應定期對邏輯數據庫的數據以及文件數據進(jìn)行備份，備份文件保存在不同機架的機器磁盤(pán)上以提高備份的安全性。

3.7.3在整個(gè)數據轉移過(guò)程中，應當明確數據轉移方法、數據防污染措施以及數據銷(xiāo)毀方式。

4.算法設計

人工智能算法設計主要考慮算法選擇、算法目標設定分析、算法訓練、算法性能評估等要求，形成《算法設計說(shuō)明書(shū)》。對于黑盒算法，算法設計應開(kāi)展算法性能影響因素分析，同時(shí)與現有醫學(xué)知識建立關(guān)聯(lián)，以提升算法可解釋性。

5.驗證與確認

算法訓練過(guò)程中，需要明確算法訓練環(huán)境，應當對算法進(jìn)行性能評估，以確保選擇的算法準確、有效。算法驗證階段，明確算法性能評估環(huán)境，應完成算法性能指標評估、壓力測試、對抗測試，黑盒需要算法性能影響因素分析，輸出《算法性能評估報告》。

同時(shí)，開(kāi)展算法性能比較分析，詳述各類(lèi)測試場(chǎng)景（含臨床評價(jià)）算法性能變異度較大的原因，基于分析結果明確產(chǎn)品使用限制和必要警示提示信息，輸出《算法性能比較分析報告》。

最后，結合算法訓練、算法性能評估、臨床評價(jià)等結果開(kāi)展算法性能綜合評價(jià)，針對訓練樣本量和測試樣本量過(guò)少、測試結果明顯低于算法設計目標、算法性能變異度過(guò)大等情況，對產(chǎn)品的適用范圍、使用場(chǎng)景、核心功能進(jìn)行必要限制。輸出《算法性能綜合評價(jià)報告》。

6.算法風(fēng)險管理

人工智能醫療器械的軟件安全性級別可基于產(chǎn)品的預期用途、使用場(chǎng)景、核心功能進(jìn)行綜合判定，并開(kāi)展風(fēng)險管理活動(dòng)，采取有效的風(fēng)險控制措施將風(fēng)險降至可接受水平，并貫穿于人工智能醫療器械全生命周期過(guò)程。

人工智能醫療器械的主要風(fēng)險從算法角度包括過(guò)擬合和欠擬合。從用途角度，輔助決策主要包括假陰性和假陽(yáng)性，其中假陰性即漏診，可能導致后續診療活動(dòng)延誤，特別是要考慮快速進(jìn)展疾病的診療活動(dòng)延誤風(fēng)險，而假陽(yáng)性即誤診，可能導致后續不必要的診療活動(dòng)；非輔助決策從算法設計目標能否得以實(shí)現角度，亦可參考輔助決策分為假陰性和假陽(yáng)性。應輸出《風(fēng)險管理報告》，明確過(guò)擬合與欠擬合、假陰性與假陽(yáng)性、數據擴增與數據偏倚等風(fēng)險的控制措施。

7.算法可追溯性分析

醫療器械全生命周期管理中，應實(shí)現算法的可追溯性，并形成算法可追溯性分析報告等相關(guān)文件及記錄，即追溯算法需求、算法設計、算法實(shí)現、算法驗證與確認、風(fēng)險管理、數據集的管理。

在數據收集過(guò)程中，數據采集、數據整理、數據標注、數據集構建過(guò)程中形成《數據脫敏交接記錄》《數據清洗記錄》《數據標注記錄》《數據審核記錄》《數據仲裁記錄》《數據集構建記錄》，以上記錄均由操作人員簽字確認。

數據集管理過(guò)程中，每一例數據都可追溯到唯一識別號、脫敏人員、清洗人員、標注人員、審核人員、仲裁人員、入庫人員，保證了數據收集各環(huán)節的數據和操作人員的可追溯。

8.算法更新控制

人工智能醫療器械若發(fā)生算法更新、軟件更新，均應當按照質(zhì)量管理體系的要求，開(kāi)展與算法更新、軟件更新的類(lèi)型、內容和程度相適宜的驗證與確認活動(dòng)，將風(fēng)險管理、可追溯分析貫穿于更新全程，形成記錄以供體系核查。

對于算法更新，無(wú)論算法驅動(dòng)型更新還是數據驅動(dòng)型更新，均應開(kāi)展算法性能評估、臨床評價(jià)等驗證與確認活動(dòng)，以保證算法更新的安全有效性。對于軟件更新，具體要求詳見(jiàn)醫療器械軟件指導原則、醫療器械獨立軟件生產(chǎn)質(zhì)量現場(chǎng)檢查指導原則。

人工智能醫療器械所含的每個(gè)人工智能算法，均應獨立開(kāi)展需求分析、數據收集、算法設計、驗證與確認、更新控制等活動(dòng)，同時(shí)考慮人工智能算法組合的整體評價(jià)要求，以保證產(chǎn)品的安全有效性。

若有人工智能醫療器械注冊咨詢(xún)服務(wù)需求，歡迎您隨時(shí)方便與杭州證標客醫藥技術(shù)咨詢(xún)有限公司聯(lián)絡(luò )，聯(lián)系人：葉工，電話(huà)：18058734169，微信同。