國家網信辦聯合國家發展改革委、教育部、科技部、工業和信息化部、公安部、廣電總局公布《生成式人工智能服務管理暫行辦法》(以下稱《辦法》),自2023年8月15日起施行,成為國家首次針對于當下爆火的生成式人工智能(生成式AI,或AIGC)產業發布規范性政策。
《辦法》提出國家堅持發展和安全并重、促進創新和依法治理相結合的原則,采取有效措施鼓勵生成式人工智能創新發展,對生成式人工智能服務實行包容審慎和分類分級監管,明確了提供和使用生成式人工智能服務總體要求。
同時,《辦法》提出了促進生成式人工智能技術發展的具體措施,明確了訓練數據處理活動和數據標注等要求;規定了生成式人工智能服務規范,明確生成式人工智能服務提供者應當采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務,按照《互聯網信息服務深度合成管理規定》對圖片、視頻等生成內容進行標識,發現違法內容應當及時采取處置措施等。
此外,《辦法》還規定了安全評估、算法備案、投訴舉報等制度,明確了法律責任。
4月11日,國家互聯網信息辦公室發布了《關于<生成式人工智能服務管理辦法(征求意見稿)>公開征求意見的通知》(參考文章:《重磅!首個國家AIGC監管文件,生成式AI服務管理辦法公布征求意見稿》)。今日,定稿版的《辦法》在意見稿的基礎上做了一定程度的修訂和優化。
《生成式人工智能服務管理暫行辦法》全文內容
我國的人工智能產業集群表現為新型創新區→城市→區域→全國→全球的空間結構特征,依托狹小的物理空間打造無限的網絡空間產業創新生態
增進人類福祉:以人為本,可持續性;尊重生命權利:合作,隱私;堅持公平公正:公平,共享;合理控制風險:共享;合理控制風險:外部安全,內部安全
《新一代人工智能發展規劃》,《促進新一代人工智能產業發展三年行動計劃(2018-2020年)》,《關于加強科技倫理治理的意見》,《中國關于加強人工智能倫理治理的立場文件》
《算法透明性和可問責性的聲明》,《2018年惡意偽造禁令法案》,《美國人工智能倡議》,《國家人工智能研究與發展戰略計劃》,《2019年深度偽造報告法案》
從技術合作關系的密度看,北京市,廣東省和上海市構成了人工智能產業集群網絡結構的三個極點;北京,廣東,上海,江蘇,安微,四川,湖北,湖南,重慶,山東和福建之間存在密集的人工智能技術合作關系
排第一的是長江三角洲地區,占比 30.95%;排第二的是京津 冀地區,占比 29.36%;排第三的是珠江三角洲地區,占比 26.45%;排第四的是川渝地區,占比 3.55%
構成具有全球競爭力人工智能產業集群的首要因素是企業簇群及其產業創新生態;人工智能產業集群發展所倚重的科技創新要素不僅包括數據生態 算力 算法和人才
劉剛教授發布了《中國新一代人工智能科技產業發展 2023》人工智能企業及其創新活動構成了人工智能產業集群發展的微觀基礎,我國人工智能企業數量超過3000家
模型規模增長產生了接近人類的高級能力,通用人工智能或將到來;有人類參與的指令微調技術是近年來人工智能的另一 大技術特點
人工智能與實體經濟融合發展,推動了相關產品服務的新一輪變革;人工智能作為助手融入新領域,極大豐富了人們的數字生活
網絡安全基本屬性;透明性,實現人工智能開發過程的可審計以及可追溯;可解釋性,可被人理解其運行邏輯的特性;公平性,保證處理結果的公正 中立
用戶數據用于訓練,放大隱私信息泄露風險;算法模型日趨復雜,可解釋性目標難實現;可靠性問題仍然制約人工智能關鍵領域應用