ISO∕IEC 42001-2023《信息技術(shù)-人工智能-管理體系》之16：“10改進(jìn)”解讀和應(yīng)用指導(dǎo)材料（雷澤佳編制-2024A0）

ISO/IEC42001-2023《信息技術(shù)-人工智能-管理體系》之16“10改進(jìn)”解讀和應(yīng)用指導(dǎo)材料ISO/IEC42001-2023《信息技術(shù)-人工智能-管理體系》之16“10改進(jìn)”解讀和應(yīng)用指導(dǎo)材料ISO/IEC42001-2023《信息技術(shù)-人工智能-管理體系》ISO/IEC42001-2023《信息技術(shù)-人工智能-管理體系》10改進(jìn)10.1持續(xù)改進(jìn)組織應(yīng)持續(xù)改進(jìn)人工智能管理體系的適宜性、充分性和有效性。注1：適宜性指管理體系適合于組織的目標(biāo)、運(yùn)行、文化和業(yè)務(wù)體系的程度。注2：充分性指管理體系滿足適用性要求的程度。注3：有效性指完成策劃的活動(dòng)和實(shí)現(xiàn)策劃的結(jié)果的程度。10.2不符合和糾正措施發(fā)生不符合時(shí)，組織應(yīng)：a）對(duì)不符合做出反應(yīng)，并且如適用：1）采取控制和糾正措施；2）處置后果；b）通過(guò)以下活動(dòng)評(píng)價(jià)采取措施的需要，以消除產(chǎn)生不符合的原因，避免其再次發(fā)生或在其他地方發(fā)生；1）評(píng)審不符合；2）確定產(chǎn)生不符合的原因；3）確定是否存在或可能發(fā)生類似的不符合；c）實(shí)施任何所需的措施；d）評(píng)審所采取的任何糾正措施的有效性；e）如必要，變更人工智能管理體系。糾正措施應(yīng)與不符合產(chǎn)生的影響相適應(yīng)。成文信息應(yīng)作為以下事項(xiàng)的證據(jù)可獲?。骸环系男再|(zhì)和所采取的任何后續(xù)措施；——任何糾正措施的結(jié)果。10改進(jìn)10.1持續(xù)改進(jìn)“不符合、糾正措施、改進(jìn)和持續(xù)改進(jìn)”的定義；持續(xù)改進(jìn)：提高績(jī)效的循環(huán)活動(dòng)提高績(jī)效：持續(xù)改進(jìn)的核心目的是提高組織在人工智能系統(tǒng)管理方面的績(jī)效。績(jī)效可以包括人工智能系統(tǒng)的有效性、效率、安全性、可靠性等方面，通過(guò)持續(xù)改進(jìn)，組織能夠不斷提升這些方面的表現(xiàn)；循環(huán)活動(dòng)：持續(xù)改進(jìn)是一個(gè)循環(huán)進(jìn)行的過(guò)程，包括識(shí)別改進(jìn)機(jī)會(huì)、制定改進(jìn)計(jì)劃、實(shí)施改進(jìn)措施、評(píng)估改進(jìn)效果等步驟。這個(gè)過(guò)程是一個(gè)不斷迭代、不斷優(yōu)化的循環(huán)，旨在持續(xù)提升人工智能系統(tǒng)的性能和管理水平。改進(jìn)：提高績(jī)效的活動(dòng)定義的核心：改進(jìn)被定義為提高績(jī)效的活動(dòng)。在人工智能管理體系中，改進(jìn)專注于通過(guò)各種活動(dòng)和手段來(lái)優(yōu)化和提升人工智能系統(tǒng)的性能、效率以及效果；績(jī)效的范疇：績(jī)效在本文檔中是一個(gè)廣泛的概念，它不僅涉及定量的結(jié)果（如性能提升、效率提高），也可能包括定性的結(jié)果（如流程的優(yōu)化、用戶滿意度的提升等）。改進(jìn)活動(dòng)旨在實(shí)現(xiàn)這些績(jī)效方面的提升；改進(jìn)活動(dòng)的多樣性：提高績(jī)效的活動(dòng)可以是多種多樣的，包括但不限于對(duì)人工智能算法的優(yōu)化、對(duì)數(shù)據(jù)質(zhì)量的提升、對(duì)業(yè)務(wù)流程的改進(jìn)等。這些活動(dòng)都需要根據(jù)具體的組織目標(biāo)、應(yīng)用場(chǎng)景以及系統(tǒng)性能需求來(lái)設(shè)計(jì)和實(shí)施；結(jié)果的可衡量性：改進(jìn)活動(dòng)的成功與否需要通過(guò)績(jī)效的提升來(lái)衡量。因此，需要設(shè)定明確的績(jī)效指標(biāo)，并定期對(duì)人工智能系統(tǒng)的性能進(jìn)行評(píng)估和測(cè)量，以確保改進(jìn)活動(dòng)的有效性。持續(xù)改進(jìn)和改進(jìn)的區(qū)別與聯(lián)系說(shuō)明表方面持續(xù)改進(jìn)改進(jìn)聯(lián)系定義提高績(jī)效的循環(huán)活動(dòng)提高績(jī)效的活動(dòng)兩者都以提高績(jī)效為核心目標(biāo)目的持續(xù)提升人工智能系統(tǒng)的性能和管理水平優(yōu)化和提升人工智能系統(tǒng)的性能、效率及效果都致力于人工智能系統(tǒng)的提升和優(yōu)化過(guò)程循環(huán)進(jìn)行，包括識(shí)別機(jī)會(huì)、制定計(jì)劃、實(shí)施措施、評(píng)估效果通過(guò)各種活動(dòng)和手段來(lái)實(shí)現(xiàn)改進(jìn)是持續(xù)改進(jìn)循環(huán)中的一個(gè)環(huán)節(jié)績(jī)效范疇包括有效性、效率、安全性、可靠性等涉及定量（性能、效率）和定性（流程優(yōu)化、用戶滿意度）結(jié)果兩者都關(guān)注績(jī)效的多個(gè)方面活動(dòng)多樣性涉及技術(shù)、管理等多個(gè)層面的循環(huán)優(yōu)化包括算法優(yōu)化、數(shù)據(jù)質(zhì)量提升、業(yè)務(wù)流程改進(jìn)等兩者都涵蓋多種活動(dòng)形式，以達(dá)成提高績(jī)效的目標(biāo)結(jié)果衡量通過(guò)不斷迭代和優(yōu)化來(lái)衡量績(jī)效提升設(shè)定明確的績(jī)效指標(biāo)，定期評(píng)估和測(cè)量都需要通過(guò)績(jī)效的提升來(lái)衡量活動(dòng)的成功符合：滿足要求“符合”：指組織在建立、實(shí)施、保持和持續(xù)改進(jìn)其人工智能管理體系時(shí)，完全符合該標(biāo)準(zhǔn)或其他規(guī)范性文件中所規(guī)定的各項(xiàng)要求。組織的活動(dòng)、過(guò)程、輸出的產(chǎn)品和服務(wù)，以及所采取的管理措施等，均達(dá)到了規(guī)定標(biāo)準(zhǔn)的要求，沒有違反任何條款或規(guī)定。不符合：未滿足要求?！安环稀保褐附M織在人工智能管理體系的任一環(huán)節(jié)中出現(xiàn)與標(biāo)準(zhǔn)或規(guī)范性文件規(guī)定不符的情況。這包括但不限于組織未能完全執(zhí)行標(biāo)準(zhǔn)中的某一要求、采取的管理措施不符合標(biāo)準(zhǔn)規(guī)定、輸出的產(chǎn)品或服務(wù)未能達(dá)到標(biāo)準(zhǔn)規(guī)定的性能要求等。當(dāng)出現(xiàn)不符合情況時(shí)，組織應(yīng)迅速識(shí)別并采取糾正措施，以防止類似問(wèn)題再次發(fā)生。糾正措施：為消除不符合的原因并防止再次發(fā)生而采取的措施目的：為消除不符合的原因并防止其再次發(fā)生；實(shí)施時(shí)機(jī)：當(dāng)不符合情況發(fā)生時(shí)采取；作用：通過(guò)確定不符合的原因，采取針對(duì)性的措施來(lái)糾正當(dāng)前的錯(cuò)誤，并預(yù)防類似情況在未來(lái)再次發(fā)生；內(nèi)容涵蓋：糾正措施可能包括但不限于對(duì)不符合項(xiàng)的評(píng)估、原因的分析、制定和實(shí)施糾正計(jì)劃、驗(yàn)證糾正措施的有效性等步驟。不符合處理與后果應(yīng)對(duì)；當(dāng)發(fā)生不符合情況時(shí)，組織應(yīng)按照以下要求進(jìn)行應(yīng)對(duì)：對(duì)不符合做出反應(yīng)，具體行動(dòng)包括：及時(shí)采取控制和糾正措施：一旦發(fā)現(xiàn)不符合項(xiàng)，組織需要立即響應(yīng)，通過(guò)實(shí)施控制和糾正措施來(lái)防止問(wèn)題擴(kuò)大，并糾正已經(jīng)發(fā)生的不符合情況。控制和糾正措施可能包括暫停相關(guān)流程、重新評(píng)估和調(diào)整相關(guān)策略、修復(fù)錯(cuò)誤或缺陷等，以確保人工智能系統(tǒng)的正常運(yùn)行和合規(guī)性；妥善處置后果。在處理不符合情況的過(guò)程中，組織應(yīng)考慮并妥善處理由此產(chǎn)生的任何后果。這可能包括對(duì)受影響方的通知、賠償或補(bǔ)救措施，以及與相關(guān)方的溝通和協(xié)調(diào)，以確保不符合情況對(duì)組織聲譽(yù)和利益相關(guān)者的影響最小化。組織對(duì)不符合的處理及糾正措施：當(dāng)發(fā)生不符合時(shí)，組織應(yīng)通過(guò)以下活動(dòng)評(píng)價(jià)采取措施的需要，以消除產(chǎn)生不符合的原因，避免其再次發(fā)生或在其他地方發(fā)生：評(píng)審不符合：組織應(yīng)對(duì)不符合的情況進(jìn)行詳細(xì)評(píng)審，了解其性質(zhì)、影響范圍及程度，確保對(duì)不符合情況有全面的了解。確定產(chǎn)生不符合的原因：組織應(yīng)深入調(diào)查不符合的原因，這可能涉及過(guò)程、資源、能力、溝通等各個(gè)方面，目的是找出導(dǎo)致不符合的根本原因；確定是否存在或可能發(fā)生類似的不符合：在識(shí)別出不符合的原因后，組織應(yīng)進(jìn)一步分析是否在其他地方存在類似的問(wèn)題或潛在風(fēng)險(xiǎn)，以預(yù)防類似不符合的再次發(fā)生。這有助于組織發(fā)現(xiàn)潛在的系統(tǒng)性問(wèn)題，從而采取更廣泛的改進(jìn)措施；實(shí)施任何所需的措施；當(dāng)發(fā)生不符合人工智能管理體系要求的情況時(shí)，組織應(yīng)立即采取行動(dòng)，實(shí)施必要的糾正措施；這些糾正措施旨在消除不符合項(xiàng)的原因，以防止類似問(wèn)題再次發(fā)生；糾正措施可能包括但不限于修改流程、改進(jìn)技術(shù)、增強(qiáng)培訓(xùn)、更新文件等；糾正措施應(yīng)與不符合產(chǎn)生的影響相適應(yīng)；適用性：糾正措施應(yīng)直接針對(duì)特定不符合的情況制定，確保其能夠切實(shí)解決識(shí)別出的問(wèn)題；相適應(yīng)性：糾正措施應(yīng)與不符合產(chǎn)生的影響相匹配，即糾正措施的程度、范圍和緊急性應(yīng)基于不符合所帶來(lái)的潛在風(fēng)險(xiǎn)、影響或后果來(lái)評(píng)估。評(píng)審所采取的任何糾正措施的有效性；在實(shí)施糾正措施后，組織應(yīng)對(duì)這些措施的有效性進(jìn)行評(píng)審；評(píng)審的目的是驗(yàn)證糾正措施是否成功地消除了不符合的原因，并確保了管理體系的持續(xù)有效性；評(píng)審可能涉及檢查相關(guān)文檔、收集數(shù)據(jù)、進(jìn)行內(nèi)部審核或管理評(píng)審等活動(dòng)。如必要，變更人工智能管理體系。如果經(jīng)過(guò)評(píng)審發(fā)現(xiàn)糾正措施未能達(dá)到預(yù)期效果，或者由于內(nèi)部或外部環(huán)境的變化導(dǎo)致管理體系不再適用，組織應(yīng)考慮對(duì)人工智能管理體系進(jìn)行變更；變更可能涉及調(diào)整方針、目標(biāo)、過(guò)程、資源、文件等多個(gè)方面；在進(jìn)行任何變更之前，組織應(yīng)充分評(píng)估變更的影響，并確保所有相關(guān)方都已充分了解并同意這些變更。成文信息應(yīng)作為以下事項(xiàng)的證據(jù)可獲取：成文信息作為不符合性質(zhì)的證據(jù)：當(dāng)組織在人工智能管理體系中遇到不符合時(shí)，成文信息應(yīng)能夠清晰、準(zhǔn)確地記錄不符合的性質(zhì)。這包括不符合的具體描述、發(fā)生的時(shí)間、地點(diǎn)以及涉及的人員、流程或系統(tǒng)等關(guān)鍵信息；成文信息不僅要求記錄不符合的事實(shí)，還應(yīng)包括不符合發(fā)生的原因分析，以便組織能夠深入理解不符合的根源，進(jìn)而采取有效地糾正措施。成文信息作為所采取的任何后續(xù)措施的證據(jù)；在識(shí)別不符合后，組織需要采取相應(yīng)的后續(xù)措施來(lái)糾正不符合或防止其再次發(fā)生。這些后續(xù)措施包括但不限于調(diào)查不符合的原因、評(píng)估不符合的影響、制定糾正措施計(jì)劃、實(shí)施糾正措施等；成文信息應(yīng)能夠完整記錄組織所采取的每一項(xiàng)后續(xù)措施，包括措施的具體內(nèi)容、實(shí)施時(shí)間、實(shí)施人員以及實(shí)施結(jié)果等。這有助于組織跟蹤糾正措施的進(jìn)展