目前國內(nèi)外均提出了人工智能治理的相關(guān)規(guī)范，但目前我國仍缺乏新一代人工智能治理的 具體工作框架。應(yīng)整合社會各界對AI社會技術(shù)復(fù)合體的離散性認(rèn)知，實(shí)現(xiàn)對AI系統(tǒng)生態(tài)主權(quán)調(diào)適，突破AI包容審慎實(shí)踐的探索，建立我國的統(tǒng)一治理框架。
建立基于“邏輯-秩序-監(jiān)管“的人工智能治理工作框架
高增長:未來五年全球人工智能市場規(guī)模平均增速將超過20%;高集中:軟件占比近40%硬件產(chǎn)品占比接近35%;高壁壘:滲透率還不到4%
在規(guī)劃設(shè)計(jì)階段機(jī)器學(xué)習(xí)場景中固有的不可預(yù)測性,傳達(dá)實(shí)施偏差會進(jìn)一步加劇;在研發(fā)部署階段模型運(yùn)行之后的動態(tài)更新缺乏足夠驗(yàn)證等挑戰(zhàn)
構(gòu)建面向可持續(xù)發(fā)展的人工智能技術(shù)體系,推動人工智能技術(shù)可用、可靠、可信，其內(nèi)涵包括提升技術(shù)安全和構(gòu)建技術(shù)管理機(jī)制兩個層面工作
企業(yè)作為落實(shí)人工智能治理原則的重要主體,形成覆蓋人工智能產(chǎn)品全生命周期的風(fēng)險(xiǎn)管理機(jī)制,提出了面向可持續(xù)發(fā)展的人工智能治理基本框架
數(shù)據(jù)不完備和濫用風(fēng)險(xiǎn)突出而損害用戶的權(quán)益;人工智能算法存在固有缺陷在可解釋性魯棒性偏見歧視等方面尚存在局限;企業(yè)人工智能管理體系不完善
調(diào)度決策外賣調(diào)度系統(tǒng)困住騎手;個性化推薦電商場景下的信息繭房和馬太效應(yīng);內(nèi)容治理如何守護(hù)清朗健康的網(wǎng)絡(luò)環(huán)境;人工智能可以放心使用嗎
全球人工智能市場收支規(guī)模達(dá)850廳美元,預(yù)測,2022年該市場規(guī)模將同比增長約20%至 1017廳美元,并將于2025年突破2000廳美元大關(guān), CAGR 達(dá)24.5%
頭部科技企業(yè)先后發(fā)布了AI治理戰(zhàn)略和治理體系,成立了相關(guān)委員會和工作組,聚焦企業(yè)層面的AI治理和風(fēng)險(xiǎn)管理體系,可信AI技術(shù)和保障工具也在蓬勃發(fā)展
智能文檔處理、智能會議、知識管理、智能客服等各類企業(yè)智能應(yīng)用不斷發(fā)展，全面賦能企業(yè)辦公、管理、決策、風(fēng)控、營銷、服務(wù)等各個環(huán)節(jié)
AI軟件設(shè)施在近兩年成為產(chǎn)業(yè)焦點(diǎn),AI開源框架生態(tài),預(yù)訓(xùn)練大模型體系,AI軟件平臺生態(tài)等內(nèi)容都得到了長足的發(fā)展,像水電一樣成為觸手可得的普惠資源
到端的MLOps一體化工具和細(xì)分場景的專項(xiàng)工具都非常火熱,端到端工具追求大而全的功能集,專項(xiàng)工具在局部或某些場景下功能和性能較好
規(guī)模化是指整合了豐富的人工智能開發(fā),部署,測試,運(yùn)維等能力,標(biāo)準(zhǔn)化是指將異構(gòu)的軟硬件環(huán)境封裝為標(biāo)準(zhǔn)化的界面,可擴(kuò)展是指可以不斷適配新的技術(shù)和工具
