全球人工智能技術(shù)快速發(fā)展，對經(jīng)濟社會發(fā)展和人類文明進步產(chǎn)生深遠影響，給世界帶來巨大機遇。與此同時，人工智能技術(shù)也帶來難以預(yù)知的各種風險和復(fù)雜挑戰(zhàn)。人工智能的治理攸關(guān)全人類命運，是世界各國面臨的共同課題。因此，我們必須建構(gòu)和完善人工智能治理框架，在利用人工智能構(gòu)建美好未來的同時，使人工智能更加可靠、可信且符合以人為本的價值觀。2024年4月20-21日，由數(shù)隱咨詢（DPOHUB）攜手DEKRA德凱共同舉辦的人工智能治理專家認證（CAIGP）公開課在上海順利召開。

DEKRA德凱亞太區(qū)高級副總裁、中國大陸及香港董事總經(jīng)理Kilian Aviles博士受邀致辭道：“作為全球領(lǐng)先的第三方檢驗檢測認證機構(gòu)，DEKRA德凱始終堅持走在行業(yè)前沿，不斷與各領(lǐng)域企業(yè)進行探索及合作。隨著DEKRA德凱與上海交通大學(xué)簽署合作諒解備忘錄以來，始終共同積極探索人工智能（AI）領(lǐng)域相關(guān)產(chǎn)業(yè)鏈的檢測、認證和研發(fā)等方面。此次非常榮幸，可以參與協(xié)辦人工智能治理專家認證公開課，希望為人工智能技術(shù)的實際應(yīng)用帶來新突破，保障并提升人工智能相關(guān)技術(shù)的安全性和可靠性。”

上海交通大學(xué)人工智能研究院院長助理何黎明先生具體分享了人工智能技術(shù)的基礎(chǔ)、歷史發(fā)展及未來趨勢，主要涵蓋人工智能的定義與分類、生成式人工智能以及人工智能的局限性。他強調(diào)人工智能的發(fā)展需要更多的跨界合作和國際共識，全球社會需要加強信息共享和技術(shù)交流，共同應(yīng)對人工智能帶來的風險和挑戰(zhàn)。同時，人工智能的應(yīng)用也需要遵循倫理準則和價值導(dǎo)向，以確保其對社會的積極影響。除了政策和法律框架的制定外，還需要加強公眾教育和意識提升，促進社會對人工智能技術(shù)的理解和接受，從而推動人工智能技術(shù)的可持續(xù)發(fā)展，為人類社會的未來帶來更多益處。

上海市人工智能社會治理協(xié)同創(chuàng)新中心研究員劉志毅先生主要分享了《人工智能的安全治理實踐》領(lǐng)域，包括人工智能進入大模型時代、生成式人工智能服務(wù)安全評估要求、生成式大模型的安全性與治理及人工智能治理等方面。他解釋道人工智能的安全治理實踐涉及一系列策略、技術(shù)和政策措施，旨在確保人工智能系統(tǒng)的安全性、可靠性和透明度，以及保護個人隱私和社會利益。這些實踐通常不是孤立存在的，而是相互關(guān)聯(lián)、相互支持的。通過綜合采取這些實踐，可以有效應(yīng)對人工智能技術(shù)帶來的安全挑戰(zhàn)，促進其健康可持續(xù)發(fā)展。

DEKRA德凱中國產(chǎn)品測試技術(shù)支持副總裁陳學(xué)林先生就《人工智能全生命周期的國際標準實踐》話題進行了深入分析，主要包括ISO/IEC 42001人工智能管理體系、人工智能系統(tǒng)生命周期、人工智能系統(tǒng)的流程認證以及人工智能風險管理等。他強調(diào)人工智能系統(tǒng)生命周期中的持續(xù)監(jiān)督和改進至關(guān)重要，這意味著不僅需要定期進行評估和審查，發(fā)現(xiàn)并解決潛在問題，還要采取必要的措施來適應(yīng)和抵御新的風險和挑戰(zhàn)。這一過程旨在確保人工智能系統(tǒng)的安全性、可靠性和高效性，以滿足不斷變化的技術(shù)迭代和市場需求，并在不斷的改進中持續(xù)提升其性能和價值。

上海交通大學(xué)人工智能治理與法律研究中心秘書長何淵先生進一步強調(diào)了人工智能治理法律框架的重要性，涉及人工智能的法律風險、全球人工智能治理的主要模式、美國NIST的人工治理風險管理框架、人工智能與數(shù)據(jù)合規(guī)的落地、歐盟《人工智能法》的法律框架和合規(guī)要點以及可信人工智能倫理評估清單等等。他解釋道人工智能治理法律框架的重要性在于確保人工智能技術(shù)的合理、負責和可持續(xù)發(fā)展，以及保護個人和社會的權(quán)利和利益，促進人工智能技術(shù)的創(chuàng)新和應(yīng)用，推動人類社會的進步和發(fā)展。