SSC Time | 陳敏剛博士專(zhuān)題講座《ChatGPT應用風(fēng)險與治理》 ——第三黨支部支部生活

  自ChatGPT發(fā)布以來(lái)，其廣泛的應用已迅速席卷全球的各行各業(yè)。ChatGPT的發(fā)展帶來(lái)了許多積極的影響。它可以提高人們的工作效率和生活質(zhì)量，為用戶(hù)提供更優(yōu)質(zhì)、更個(gè)性化的服務(wù)。然而，隨著(zhù)ChatGPT應用范圍的進(jìn)一步擴大，它可能產(chǎn)生的風(fēng)險也應該引起足夠的重視。4月17日，第三黨支部舉行了一場(chǎng)科普性質(zhì)的組織生活，由軟件測評重點(diǎn)實(shí)驗室副主任陳敏剛博士，為支部黨員帶來(lái)題為《ChatGPT應用風(fēng)險與治理》的專(zhuān)題講座。

  本次科普講座涵蓋了 ChatGPT 的應用、關(guān)鍵技術(shù)、行業(yè)變革和安全風(fēng)險與治理等內容。陳敏剛博士向與會(huì )人員演示了 ChatGPT 根據用戶(hù)對話(huà)要求，完成作文、寫(xiě)詩(shī)、寫(xiě)代碼等應用方式，從技術(shù)層面詳細介紹了 ChatGPT 的演化過(guò)程，包括從最初的基礎模型 Transformer 到發(fā)布版本 GPT-3 的技術(shù)發(fā)展，以及 ChatGPT 基于人類(lèi)反饋強化學(xué)習而實(shí)現的學(xué)習和推理能力提升，這項技術(shù)在學(xué)術(shù)界、產(chǎn)業(yè)界及資本界引起軒然大波。

  此外，講座就 ChatGPT的安全漏洞可能引發(fā)數據安全問(wèn)題、濫用風(fēng)險、可解釋性、偏見(jiàn)與歧視問(wèn)題進(jìn)行了深入探討。強調了建立監管規范的必要性，明確人工智能在不同領(lǐng)域中的使用規定，并建立有效的反饋機制，來(lái)避免和減輕人工智能應用可能導致的不良影響不良影響。軟件中心近年來(lái)也在人工智能治理領(lǐng)域做了相應的研究，由軟件中心牽頭發(fā)布的《人工智能系統生命周期治理指南》提出了人工智能治理“上海方案”，有望彌補當前國際與國內缺乏標準化、可落地的人工智能治理標準的現狀。

  此次活動(dòng)受到了廣大中心員工的熱烈關(guān)注和踴躍參與，講座的科普方式得到了很好的反響。講座不僅加深了與會(huì )人員對 ChatGPT 技術(shù)的了解和認識，同時(shí)進(jìn)一步提升了人工智能安全風(fēng)險防范與治理的理解和能力水平，意識到加強人工智能治理的必要性和重要性。講座通過(guò)對新技術(shù)、新領(lǐng)域、新知識的探索，提高員工對新技術(shù)領(lǐng)域的理解和掌握，更好地推動(dòng)支部品牌建設，為促進(jìn)人才培養和技術(shù)交流創(chuàng )造更好的條件搭建更好的平臺。