上海市地方標準《人工智能系統生命周期治理指南》項目啟動(dòng)會(huì )在上海軟件中心召開(kāi)

2023年4月11日下午，上海軟件中心組織召開(kāi)了《人工智能系統生命周期治理指南》上海市地方標準啟動(dòng)會(huì )，該標準是第一個(gè)人工智能治理方向的上海市地方標準，旨在制定人工智能治理“上海方案”，將對上海市乃至全國人工智能應用系統的規范化治理具有重要意義。上海市經(jīng)濟和信息化委員會(huì )人工智能處、上海市市場(chǎng)監督管理局標準創(chuàng )新處、上海市人工智能行業(yè)協(xié)會(huì )的相關(guān)領(lǐng)導出席會(huì )議，來(lái)自上海交通大學(xué)、上海人工智能實(shí)驗室、華東師范大學(xué)等多家企事業(yè)單位、高校的領(lǐng)導、專(zhuān)家共同啟動(dòng)了該項標準的研制工作。上海軟件中心軟件工程研究所所長(cháng)沈穎主持了此次會(huì )議。

會(huì )議首先由上海市人工智能行業(yè)協(xié)會(huì )研究咨詢(xún)部部長(cháng)陳曦代表人工智能地標委秘書(shū)處致歡迎詞。陳曦指出，當前人工智能應用面臨著(zhù)技術(shù)與倫理的風(fēng)險，迫切需要技術(shù)性指南來(lái)指導人工智能系統生命周期的治理?！度斯ぶ悄芟到y生命周期治理指南》的提出有利于實(shí)現安全可信、負責任的人工智能應用，助力上海人工智能產(chǎn)業(yè)健康發(fā)展。

接著(zhù)上海軟件中心陳敏剛博士、陳文捷分別介紹了該標準的立項背景與主要內容。上海市地方標準《人工智能系統生命周期治理指南》由上海市經(jīng)濟和信息化委員會(huì )提出，由上海軟件中心主導編制，該標準在2022年8月上海市市場(chǎng)監督管理局下達的第三批上海市地方標準制修訂項目計劃中立項。該標準擬制定人工智能系統生命周期治理的總則和治理框架，提供了人工智能系統生命周期治理的建議，包括概念設計、設計開(kāi)發(fā)、測試驗證、部署、運行監測、重新評估、退出使用等全過(guò)程。

隨后，上海市經(jīng)濟和信息化委員會(huì )人工智能處在發(fā)言中指出，當前人工智能的快速發(fā)展以及大模型的提出，使得AI的治理必須加快完善和落實(shí)。上海市市場(chǎng)監督管理局標準創(chuàng )新處指出，地方標準的制定應以發(fā)布后的落地實(shí)施為目標，人工智能治理地方標準應立足本市人工智能產(chǎn)業(yè)發(fā)展，標準內容要與提出單位后續政策和舉措的實(shí)際標準化需求相匹配，保證標準的有效實(shí)施。

與會(huì )領(lǐng)導和專(zhuān)家對標準內容的修訂提出了諸多建設性的意見(jiàn)。專(zhuān)家認為，標準可從政府、企業(yè)、第三方機構等不同層次考慮人工智能治理的具體要求，聚焦人工智能技術(shù)特有的治理挑戰，加強人工智能治理條款的強制性，為后續標準實(shí)施提供參考。與會(huì )專(zhuān)家還提出了諸如敏捷治理、科技向善、利益相關(guān)方的責任劃分等人工智能治理標準的改進(jìn)建議。

最后，標準編制組確定了后續的標準研制計劃，明確了標準編制的任務(wù)分工。上海市市監局將在平臺交流、人才培養、項目經(jīng)費與標準宣貫方面大力支持該標準的研制工作。下一步，上海軟件中心將按照標準研制計劃，組織標準編制單位對該標準進(jìn)一步完善，布局標準的宣貫和落地實(shí)施，為上海市人工智能系統的治理提供理論依據和方法指導，更好地支撐上海人工智能技術(shù)與產(chǎn)業(yè)的創(chuàng )新發(fā)展。

  人工智能測評服務(wù)

  上海市計算機軟件測評重點(diǎn)實(shí)驗室（SSTL）人工智能測評服務(wù)面向計算機視覺(jué)、語(yǔ)音識別、自然語(yǔ)言處理、推薦與搜索等領(lǐng)域，聚焦人工智能應用過(guò)程中的模型功能有效性評估、模型性能評估、數據集質(zhì)量評估、對抗樣本防御能力等，提供全方位的測評服務(wù)，保障人工智能應用的質(zhì)量。