上海軟件中心“全棧式大模型檢測系統”榮獲首屆上海市檢驗檢測創(chuàng )新大賽三等獎

近日，上海軟件中心軟件工程研究所（人工智能治理研究所）參賽作品“構建全棧式大模型檢測系統，保障生成式人工智能系統質(zhì)量”在第一屆上海市檢驗檢測行業(yè)創(chuàng )新大賽216項參賽作品中脫穎而出，經(jīng)初賽的專(zhuān)家評審、復賽的現場(chǎng)匯報，最終進(jìn)入決賽展演，并在決賽中獲得三等獎。

本次創(chuàng )新大賽由上海市市場(chǎng)監督管理局主辦，閔行區市場(chǎng)監督管理局、上海建科集團股份有限公司、上海市檢驗檢測認證協(xié)會(huì )共同承辦。大賽共有來(lái)自第三方檢驗檢測機構、高?？蒲性核?、企業(yè)實(shí)驗室、儀器設備研發(fā)制造企業(yè)、實(shí)驗室裝備企業(yè)等168家單位踴躍參與。作品內容覆蓋集成電路、生物醫藥、人工智能三大先導產(chǎn)業(yè)和電子信息、汽車(chē)、高端裝備等重點(diǎn)產(chǎn)業(yè)。賽事歷時(shí)5個(gè)月，經(jīng)過(guò)3輪評選，最終產(chǎn)生一等獎1項、二等獎3項、三等獎6項和優(yōu)勝獎10項。

全棧式大模型檢測系統針對大模型應用落地中潛在的技術(shù)風(fēng)險，提供大模型語(yǔ)言理解、知識常識、幻覺(jué)、合規性等多維度、智能高效的檢測方案。首創(chuàng )基于開(kāi)放問(wèn)題的大模型自動(dòng)化、智能化測評方法，構建“指標體系-測評規范-測試數據-智能工具-測評系統”全棧式大模型測評方案。

大模型檢測系統不僅可支持基礎模型及基于基礎模型的各類(lèi)領(lǐng)域大模型的第三方檢測服務(wù)，還可賦能大模型研發(fā)、測試和運維團隊，以低代碼方式快速構建大模型測評能力，保障大模型應用的可靠、可信運行。

未來(lái)，上海軟件中心將推進(jìn)建設“上海市生成式人工智能質(zhì)量檢驗檢測中心（籌）”為契機，繼續布局生成式人工智能應用、治理與測評技術(shù)研究、標準研制、工具研發(fā)，為上海乃至國內生成式人工智能行業(yè)提供專(zhuān)業(yè)的技術(shù)服務(wù)。