TianJin Chamber of Commerce for Import and Export
隨著ChatGPT、Sora等大模型的開放和應(yīng)用,AI生成技術(shù)使用的門檻持續(xù)降低,也進一步增加了各界對人工智能安全與合規(guī)的擔(dān)憂。全國信息安全標(biāo)準(zhǔn)化技術(shù)委員會于日前發(fā)布的《生成式人工智能服務(wù)安全基本要求》(以下簡稱《安全基本要求》)規(guī)定了生成式人工智能服務(wù)中的語料安全要求、模型安全要求、安全措施要求及安全評估要求的具體細則,是國內(nèi)首個面向AIGC服務(wù)安全領(lǐng)域的技術(shù)文件。
數(shù)創(chuàng)科技有限公司知識產(chǎn)權(quán)中心負責(zé)人鄭成智在接受《中國貿(mào)易報》記者采訪時表示,無論人工智能服務(wù)的提供者位于我國境內(nèi)還是境外,只要相關(guān)服務(wù)面向我國境內(nèi)的公眾,那么就適用于該文件。這給全世界范圍內(nèi)的人工智能服務(wù)提供者都提出了較高的要求,AI生成技術(shù)平臺想要爭取中國市場,務(wù)必緊密注意生成式人工智能可能帶來的長期風(fēng)險。
根據(jù)《安全基本要求》,面向特定語料來源進行采集前,應(yīng)對該來源語料進行安全評估,語料內(nèi)容中含違法不良信息超過5%的,不應(yīng)采集該來源語料;面向特定語料來源進行采集后,應(yīng)對所采集的該來源語料進行核驗,含違法不良信息情況超過5%的,不應(yīng)使用該來源語料進行訓(xùn)練。
“這一規(guī)定要服務(wù)提供者對語料內(nèi)容進行過濾,采取分類模型、關(guān)鍵詞、人工抽檢等方法,充分過濾全部語料中的違法信息。”鄭成智表示,同時需要注意數(shù)據(jù)隱私安全問題,在使用個人信息、敏感信息的語料前,應(yīng)取得對應(yīng)個人同意或者符合法律、行政法規(guī)規(guī)定。
《安全基本要求》還就如何避免侵犯知識產(chǎn)權(quán)制定了詳細的指導(dǎo)方針,包括:應(yīng)設(shè)置語料以及生成內(nèi)容的知識產(chǎn)權(quán)負責(zé)人,并建立知識產(chǎn)權(quán)管理策略;語料用于訓(xùn)練前,應(yīng)對語料中的主要知識產(chǎn)權(quán)侵權(quán)風(fēng)險進行識別,發(fā)現(xiàn)存在知識產(chǎn)權(quán)侵權(quán)等問題的,服務(wù)提供者不應(yīng)使用相關(guān)語料進行訓(xùn)練;例如,語料中包含文學(xué)、藝術(shù)、科學(xué)作品的,應(yīng)重點識別語料以及生成內(nèi)容中的著作權(quán)侵權(quán)問題;應(yīng)建立知識產(chǎn)權(quán)問題的投訴舉報渠道;應(yīng)在用戶服務(wù)協(xié)議中,向使用者告知使用生成內(nèi)容時的知識產(chǎn)權(quán)相關(guān)風(fēng)險,并與使用者約定關(guān)于知識產(chǎn)權(quán)問題識別的責(zé)任與義務(wù);應(yīng)及時根據(jù)國家政策以及第三方投訴情況更新知識產(chǎn)權(quán)相關(guān)策略。
鄭成智表示,《安全基本要求》體現(xiàn)了對知識產(chǎn)權(quán)的重視,提醒人工智能服務(wù)提供者規(guī)避侵權(quán)風(fēng)險,在實際應(yīng)用過程中將有效降低生成式人工智能服務(wù)自動生成虛假圖片、音頻、視頻等給企業(yè)帶來的商業(yè)危害。此外,《安全基本要求》還強調(diào),禁止違反商業(yè)道德,泄露他人商業(yè)秘密,利用算法、數(shù)據(jù)、平臺等優(yōu)勢,實施壟斷和不正當(dāng)競爭行為,更全面地促進生成式人工智能健康發(fā)展。
中國社會科學(xué)院大學(xué)數(shù)字中國研究院執(zhí)行院長呂鵬對此表示,人工智能作為最具顛覆性和戰(zhàn)略性的核心關(guān)鍵技術(shù),能夠幫助各行各業(yè)在數(shù)字化的基礎(chǔ)上進一步實現(xiàn)智能化,成為未來的發(fā)動機。而《安全基本要求》將作為方向盤,始終將各種新興科技控制在向善的道路上。
“《安全基本要求》為人工智能服務(wù)提供者提供了更為明晰的注意義務(wù)邊界和法律責(zé)任指引,方便從業(yè)者在合規(guī)制度下開展相關(guān)工作,降低法律風(fēng)險。未來,AI生成技術(shù)將兼顧市場與用戶等各方的利益,有更大更安全的創(chuàng)新舞臺?!编嵆芍钦f。