美國發(fā)布人工智能/機器學(xué)習獨立軟件行動(dòng)計劃

基于2019年4月所發(fā)布的《人工智能（AI）/機器學(xué)習（ML）獨立軟件更新監管框架草案》（以下簡(jiǎn)稱(chēng)監管框架草案）的公眾反饋意見(jiàn)，美國食品藥品監督管理局（FDA）于2021年1月發(fā)布了《AI/ML獨立軟件行動(dòng)計劃》，旨在明確AL/ML獨立軟件監管的五項工作和目標。

一、量身定制AI/ML獨立軟件監管框架
　　FDA計劃更新AI/ML獨立軟件更新監管框架，發(fā)布AI/ML獨立軟件“預定變更控制計劃”指南。
　　FDA在監管框架草案中提出通過(guò)“預定變更控制計劃”控制AI/ML獨立軟件更新，并將其細化為軟件更新預期規范（SPS）和算法變更方案（ACP），前者是指制造商所計劃的軟件更新規格說(shuō)明，后者是指制造商所采取的SPS軟件更新風(fēng)險控制方法。
　　結合公眾反饋意見(jiàn)和近期產(chǎn)品審評經(jīng)驗，FDA計劃細化SPS和ACP所含具體內容，并于2021年發(fā)布“預定變更控制計劃”指南草案，征求公眾意見(jiàn)。
　　二、推動(dòng)建立良好機器學(xué)習實(shí)踐
　　FDA認為良好機器學(xué)習實(shí)踐（GMLP）的概念對于保證AI/ML獨立軟件的安全有效性至關(guān)重要，因此計劃在相關(guān)協(xié)會(huì )、標準化組織中推進(jìn)建立GMLP。
　　FDA目前參與了國際電氣和電子工程師協(xié)會(huì )（IEEE）、國際標準化組織（ISO）/國際電工委員（IEC）、美國先進(jìn)醫療器械協(xié)會(huì )（AAMI）、英國標準協(xié)會(huì )（BSI）、國際醫療器械監管者論壇（IMDRF）等多個(gè)組織和機構的人工智能工作組相關(guān)活動(dòng)，FDA將在這些工作組中推動(dòng)建立GMLP，促進(jìn)達成共識。
　　此外，FDA還將GMLP與醫療器械網(wǎng)絡(luò )安全監管計劃密切協(xié)作，以符合FDA對醫療器械網(wǎng)絡(luò )安全的監管要求。
　　三、以患者為中心和信息透明相結合
　　考慮到AI/ML獨立軟件會(huì )隨時(shí)間而持續更新，所用算法可能為黑盒算法，FDA認為必須采取以患者為中心的方法來(lái)保證產(chǎn)品的安全有效性，促進(jìn)產(chǎn)品對于用戶(hù)乃至患者的信息透明度是以患者為中心的關(guān)鍵。
　　FDA于2020年10月召開(kāi)了一次患者參與咨詢(xún)委員會(huì )（PEAC）會(huì )議，專(zhuān)門(mén)討論AI/ML獨立軟件的信息透明問(wèn)題。在此基礎上，計劃再召開(kāi)一次公開(kāi)研討會(huì )，進(jìn)一步討論軟件說(shuō)明書(shū)和標簽所含的信息類(lèi)型和內容要求，以確保用戶(hù)了解軟件的受益、風(fēng)險和局限性，形成相應監管方法。
　　四、開(kāi)展算法監管科學(xué)研究
　　算法偏倚控制和健壯性雖然不是AI/ML獨立軟件所獨有的問(wèn)題，但是由于A(yíng)I/ML算法訓練主要使用歷史數據，很容易引入偏差，同時(shí)AI/ML算法應用深受種族、族裔和社會(huì )經(jīng)濟地位等因素影響，因此AI/ML獨立軟件的算法偏倚控制和健壯性尤為重要。
　　FDA計劃深入開(kāi)展算法監管科學(xué)研究，與加州大學(xué)舊金山分校、斯坦福大學(xué)、約翰·霍普金斯大學(xué)等機構研究人員合作，開(kāi)發(fā)AI/ML算法的評估方法，包括識別和消除算法偏差，評估和提高算法健壯性。
　　五、監測產(chǎn)品真實(shí)世界性能
　　FDA在監管框架草案中提出采用全生命周期方法來(lái)監管AI/ML獨立軟件，通過(guò)收集和監測真實(shí)世界性能數據來(lái)支持軟件更新，但如何使用真實(shí)世界性能數據來(lái)評估AI/ML獨立軟件更新仍需明確，亦是業(yè)界所關(guān)注的熱點(diǎn)之一。
　　FDA計劃與利益相關(guān)方合作成立真實(shí)世界性能監測哨點(diǎn)，結合FDA真實(shí)世界數據項目進(jìn)展情況，進(jìn)一步研究闡明AI/ML獨立軟件真實(shí)世界性能數據的生成過(guò)程、評估參數與指標等要求。
　　總之，FDA將針對AI/ML獨立軟件特點(diǎn)，積極與利益相關(guān)方合作，多管齊下，盡快形成AI/ML獨立軟件監管框架，并擴展至AI/ML軟件組件。

標簽：醫療器械網(wǎng)絡(luò )安全要求、人工智能醫療器械注冊