7 月 6 日消息，在舉行的 2024 世界人工智能大會法治論壇上，由上海市法學會牽頭制訂，國家地方共建人形機器人創(chuàng)新中心、上海市人工智能行業(yè)協(xié)會、上海市人工智能標準化技術委員會、上海法院數(shù)字經(jīng)濟司法研究及實踐（嘉定）基地聯(lián)合簽署的《人形機器人治理導則》正式發(fā)布。

　　官方表示，這是業(yè)界首個以開放簽署方式發(fā)布的人形機器人治理規(guī)則文件，旨在促進人工智能科技和產(chǎn)業(yè)的健康發(fā)展，確保人形機器人的設計、開發(fā)和應用合乎人類道德和倫理價值，持久保障人類使用人形機器人的權益和安全，為全人類帶來更多福祉和便利。

　　《人形機器人治理導則》分為目標愿景、基本遵循、創(chuàng)新發(fā)展、風險管理、全球治理和附則六個部分，共 30 條規(guī)則。

　　上海市法學會還表示會定期更新《人形機器人治理導則》并公開完善情況，借此機會建立起一個規(guī)則共建的機制，不斷探索，為形成標準化法律文件做準備。

　　IT之家附《人形機器人治理導則》原文：

　　第一章目標愿景

　　第一條支持人工智能科技向善發(fā)展，通過廣泛凝聚共識和明確治理導則，推動人形機器人技術創(chuàng)新和進步，促進全球人工智能技術發(fā)展和應用。

　　第二條確保人形機器人的智能化設計和應用符合人類倫理，及時制定人形機器人應遵守的倫理準則和道德規(guī)范。

　　第三條確保人形機器人的智能化設計和應用不會威脅人類安全，切實保障人類尊嚴和安全。

　　第四條倡導人機共生理念，促進人機共生發(fā)展，推動人形機器人更好地服務于人類社會的發(fā)展。

　　第五條推動科技與人類社會共同發(fā)展，以法治捍衛(wèi)人類福祉，讓包括人形機器人在內的科技發(fā)展真正助推人類命運共同體的構建，有效防止科技濫用。

　　第二章基本遵循

　　第六條人形機器人的智能化設計、制造應當遵循人類價值觀和倫理原則，不得危害人類的生命、尊嚴和自由。

　　第七條應當持續(xù)優(yōu)化人形機器人所用人工智能算法模型的透明度和可解釋性，促進其決策和行為可被理解和有效管控。

　　第八條人形機器人技術的發(fā)展應用應當注重社會責任和可持續(xù)性，推動人形機器人技術的包容性發(fā)展。

　　第九條人形機器人技術的發(fā)展應用應當遵守法律法規(guī)，建立安全預警和應急響應系統(tǒng)，加強對人形機器人技術相關濫用行為的監(jiān)測和治理，確保技術應用的安全性和合法性。

　　第三章創(chuàng)新發(fā)展

　　第十條倡導各國政產(chǎn)學研機構加大對人形機器人產(chǎn)業(yè)的投入和示范應用，以發(fā)展新質生產(chǎn)力為導向，推動發(fā)展未來產(chǎn)業(yè)，促進人形機器人技術創(chuàng)新和產(chǎn)業(yè)升級。

　　第十一條倡導建立開放、包容的人形機器人產(chǎn)業(yè)合作機制，推動人形機器人產(chǎn)業(yè)鏈的互聯(lián)互通，建設全球共建共享共治的人形機器人產(chǎn)業(yè)生態(tài)。

　　第十二條倡導投入更多科技資源和研發(fā)力量，加強機器人關鍵技術研究，支持創(chuàng)新成果及時有效轉化，推動人形機器人技術的發(fā)展和應用落地。

　　第十三條加強技術標準和規(guī)范建設，建立統(tǒng)一的人形機器人技術標準和規(guī)范體系，促進產(chǎn)業(yè)規(guī)范化發(fā)展，提升產(chǎn)品質量和安全性。

　　第十四條構建完善的知識產(chǎn)權保護體系，保障研發(fā)者權益，推動人形機器人技術革新，維護市場秩序。

　　第十五條注重人才培養(yǎng)和交流，支持多學科交叉研究和協(xié)同創(chuàng)新，促進在倫理、法治、安全等多個維度的價值對齊，為產(chǎn)業(yè)發(fā)展提供理論和技術支持。

　　第十六條引入全球人形機器人產(chǎn)業(yè)生態(tài)合作伙伴計劃，推廣全球人形機器人示范用戶行動，全面推動人形機器人產(chǎn)業(yè)的健康可持續(xù)發(fā)展。

　　第四章風險管理

　　第十七條人形機器人的研發(fā)者、制造者、銷售者、使用者依法依規(guī)承擔相應義務，鼓勵建立人形機器人的倫理研究和合規(guī)審查機構，確保人形機器人的生產(chǎn)使用符合安全標準和倫理要求。

　　第十八條人形機器人用戶應當接受相關培訓和教育，合理使用機器人，不得將其用于違法活動或危害社會安全、違反倫理道德的行為。

　　第十九條人形機器人的應用應當遵守事先設定的規(guī)則和程序執(zhí)行任務，不得擅自改變任務目標或執(zhí)行方式。

　　第二十條人形機器人的設計、制造、應用應當加強隱私和數(shù)據(jù)保護功能的要求，處理數(shù)據(jù)應符合相關法律法規(guī)和技術標準要求。

　　第二十一條構建人形機器人違法應用的系統(tǒng)性風險預警與應急處置機制，防范生產(chǎn)者、使用者利用人形機器人從事違法活動。

　　第二十二條研發(fā)者應設置風險預警程序和后臺中斷程序，應對使用者無法控制人形機器人可能或正在出現(xiàn)的違背法律、倫理狀態(tài)時，實現(xiàn)其對人形機器人的中斷控制。

　　第五章全球治理

　　第二十三條建立健全適應人形機器人發(fā)展階段的全球治理體系，倡導發(fā)展人形機器人治理的多雙邊機制，凝聚科技界、產(chǎn)業(yè)界和法律界等各方力量，共同維護人形機器人技術的發(fā)展應用始終符合全人類共同價值。

　　第二十四條推動人形機器人治理基于共識的行動，鼓勵相關各方先行制定一定范圍內適用的規(guī)則、標準、法律及其實施體系，維護人形機器人技術的發(fā)展應用的法治秩序。

　　第二十五條建立人形機器人全生命周期管理制度，加強設計和制造階段的安全評估和認證、使用階段的定期維護和安全檢查，以及報廢階段的環(huán)保處理和資源回收，保障人形機器人全生命周期的安全性、可靠性和可持續(xù)性。

　　第二十六條定期發(fā)布《全球人形機器人安全評估報告》，向全社會廣泛公開相關信息，明確公眾反饋意見、參與監(jiān)督的渠道和方式，保障公眾知情權和監(jiān)督權。

　　第二十七條構建人形機器人用戶安全風險教育機制，推廣人形機器人技術應用的通識教育，對齊全社會對人形機器人的基本認知和合理使用技能，避免用戶出現(xiàn)不適當?shù)那楦幸蕾?，有效減少人形機器人用戶的誤用濫用。

　　第二十八條推動全球人形機器人治理規(guī)則的整合同步和開放共享，建立全球人形機器人治理智庫和案例庫。

　　第六章附則

　　第二十九條本導則由世界人工智能大會法治論壇組織發(fā)布和后續(xù)修訂完善。

　　第三十條本導則向全球人形機器人技術研究、制造、應用及治理相關機構開放聯(lián)合簽署，由各簽署方自愿執(zhí)行。