TianJin Chamber of Commerce for Import and Export
人工智能飛速發(fā)展,在為新一輪技術(shù)革命提供支撐的同時(shí),也給社會(huì)帶來諸多風(fēng)險(xiǎn)和挑戰(zhàn)。麥肯錫全球人工智能最新調(diào)研顯示,近5年全球范圍內(nèi)企業(yè)的AI使用率大幅提升,2022年有50%的公司部署了AI,遠(yuǎn)高于2017年的20%。對(duì)AI的資本投入也隨使用率的提升而大幅增長(zhǎng)。5年前約有40%的公司對(duì)AI投入了超過5%的總預(yù)算,而2022年已有超過一半的公司有此投入比例。
在此背景下,中國(guó)社會(huì)科學(xué)院國(guó)情調(diào)研重大項(xiàng)目《我國(guó)人工智能倫理審查和監(jiān)管制度建設(shè)狀況調(diào)研》起草組近日發(fā)布全國(guó)首個(gè)《人工智能法示范法1.0(專家建議稿)》(以下簡(jiǎn)稱《示范法》),堅(jiān)持發(fā)展與安全并行的中國(guó)式治理思路,提出了負(fù)面清單管理等治理制度,并對(duì)人工智能產(chǎn)業(yè)鏈條各主體責(zé)任義務(wù)分配等核心問題進(jìn)行了回應(yīng)。
中國(guó)社會(huì)科學(xué)院法學(xué)研究所網(wǎng)絡(luò)與信息法研究室副主任周輝介紹稱,與其他人工智能政策不同,《示范法》的創(chuàng)新之處在以下三個(gè)方面:首先,在監(jiān)管上,創(chuàng)設(shè)性提出設(shè)置國(guó)家人工智能主管機(jī)關(guān)統(tǒng)籌負(fù)責(zé)全國(guó)范圍內(nèi)人工智能發(fā)展與管理工作。鼓勵(lì)A(yù)I發(fā)展,采用負(fù)面清單管理制度對(duì)人工智能進(jìn)行風(fēng)險(xiǎn)管理,負(fù)面清單內(nèi)的研發(fā)、提供活動(dòng)采取許可機(jī)制,實(shí)行事前監(jiān)管;負(fù)面清單外的研發(fā)、提供活動(dòng)則采取備案機(jī)制,事后監(jiān)管機(jī)制。
其次,在方向上,堅(jiān)持發(fā)展導(dǎo)向,設(shè)計(jì)了盡職免責(zé)等相應(yīng)條款,采取有效措施鼓勵(lì)生成式人工智能創(chuàng)新發(fā)展,在制度設(shè)計(jì)上留出更多容錯(cuò)空間。
最后,在主體架構(gòu)上,按“研發(fā)者—提供者—使用者”三類主體進(jìn)行制度設(shè)計(jì),跳出具體應(yīng)用場(chǎng)景,直接穿透底層技術(shù)邏輯。
值得注意的是,《示范法》對(duì)人工智能研發(fā)者、提供者的安全性義務(wù)進(jìn)行了強(qiáng)調(diào)。一方面,要求其將人工智能投入使用或投放市場(chǎng)前進(jìn)行安全測(cè)試,防范網(wǎng)絡(luò)數(shù)據(jù)人工智能安全風(fēng)險(xiǎn),保障人工智能全生命周期的安全、穩(wěn)健運(yùn)行,符合預(yù)期目的。另一方面,要求其按照相關(guān)規(guī)定履行安全漏洞管理義務(wù),確保其安全漏洞得到及時(shí)修補(bǔ)和合理發(fā)布,并指導(dǎo)支持使用者采取防范措施。特殊情形下,人工智能研發(fā)者需要進(jìn)行評(píng)估。如果發(fā)現(xiàn)研發(fā)階段存在問題風(fēng)險(xiǎn)的,在問題風(fēng)險(xiǎn)解決前,暫?;蛳录苋斯ぶ悄墚a(chǎn)品、服務(wù)。
在星紀(jì)魅族集團(tuán)有限公司數(shù)據(jù)合規(guī)執(zhí)行總監(jiān)朱玲鳳看來,行業(yè)期待法律的確定性,有利于明確義務(wù)邊界,營(yíng)造更優(yōu)的營(yíng)商環(huán)境。人工智能產(chǎn)業(yè)鏈上的企業(yè)一般會(huì)將注意力放在自己的上下游上,而忽略了對(duì)整體方向的把控,通過法律指引可以幫助經(jīng)營(yíng)者識(shí)別和管理風(fēng)險(xiǎn)。
北京視界律師事務(wù)所合伙人吳凡指出,我國(guó)人工智能法律規(guī)范落實(shí)過程中,需要重視不同行業(yè)、不同場(chǎng)景下出現(xiàn)的不同法律風(fēng)險(xiǎn),按照人工智能適用的場(chǎng)景和相應(yīng)的風(fēng)險(xiǎn)進(jìn)行差異化管理。
上海瑞達(dá)律師事務(wù)所律師冉鑫告訴《中國(guó)貿(mào)易報(bào)》記者,《示范法》可以與今年7月國(guó)家網(wǎng)信辦等七部門發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》結(jié)合看待,鼓勵(lì)生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng)新應(yīng)用,生成積極健康、向上向善的優(yōu)質(zhì)內(nèi)容,探索優(yōu)化應(yīng)用場(chǎng)景,構(gòu)建應(yīng)用生態(tài)體系。同時(shí),在知識(shí)產(chǎn)權(quán)保護(hù)、技術(shù)保護(hù)、個(gè)人信息數(shù)據(jù)保護(hù)等方面建立防火墻,重視人工智能與金融、醫(yī)療、教育等實(shí)體產(chǎn)業(yè)融合過程中出現(xiàn)的多樣化風(fēng)險(xiǎn),共同推動(dòng)人工智能產(chǎn)業(yè)的健康發(fā)展。