AI將是引發(fā)社會(huì)深刻變革的新一波科技浪潮?！翱沙掷m(xù)發(fā)展的AI”，將會(huì)是AI技術(shù)與人類社會(huì)長期共存的基本形態(tài)，也是曠視致力推動(dòng)的行業(yè)發(fā)展的正確方向。

如何建立可持續(xù)發(fā)展的AI？這不僅是學(xué)界、AI產(chǎn)業(yè)界、監(jiān)管機(jī)構(gòu)、政府等各界都關(guān)注的問題，更是每一家AI企業(yè)每天都在思考的內(nèi)容。肩負(fù)“用人工智能造福大眾”為使命的曠視，自2019年7月對(duì)外發(fā)布《人工智能應(yīng)用準(zhǔn)則》之后，在AI治理方向上的探索和實(shí)踐就從未停止過。

這并不是一條有成熟模式、既定規(guī)劃的清晰的路，而是一條匯集各種考量、在摸索中前行的探索之旅。中國，乃至全球的AI治理大環(huán)境是怎樣的？曠視為什么要走這條路？他是如何落地推進(jìn)的？面對(duì)各種問題，他是如何思考、如何決定的？這種種心路歷程，都收錄在曠視與北京大學(xué)光華管理學(xué)院、北京大學(xué)管理案例研究中心合作撰寫的《曠視科技：人工智能治理的新征程》當(dāng)中。這份案例不僅是曠視在將近一年的時(shí)間里，對(duì)自身治理實(shí)踐的回顧和梳理，更是包含了對(duì)AI治理整體的深刻思考和洞察。

2020年6月13日，在首屆北大光華案例日論壇上，這份凝聚了北大光華管理學(xué)院幾位老師精心采寫、曠視多個(gè)部門支持配合訪談的案例《曠視科技：人工智能治理的新征程》首次亮相，并以曠視首席運(yùn)營官徐云程“云對(duì)話”北大光華盧瑞昌教授的方式精彩呈現(xiàn)在公眾面前。

曠視首席運(yùn)營官徐云程進(jìn)行主題分享——發(fā)展可持續(xù)的人工智能

曠視的思考：AI治理的必要性與緊迫性

如果說AI的廣泛應(yīng)用是一座高山，那么現(xiàn)階段我們還處于半山腰。不同于其它先進(jìn)科技在初期可以先發(fā)展再治理的做法，AI在一開始就被各界關(guān)注。為什么AI行業(yè)如此與眾不同？而且目前許多行業(yè)都有各自的倫理要求和治理準(zhǔn)則，AI行業(yè)為什么不能拿來借用，而是要重新探索？北大盧瑞昌教授在案例的開始就提出了這些深刻的問題。

曠視徐云程認(rèn)為，正是由于AI技術(shù)的普遍性與其對(duì)于社會(huì)影響的深刻性，促使社會(huì)各界在AI的商業(yè)化還在比較早期的時(shí)候，就非常積極的在探索AI治理的這條道路。盧瑞昌教授完全同意這個(gè)看法，他認(rèn)為人工智能行業(yè)將帶來第四次工業(yè)革命，顛覆許多現(xiàn)有行業(yè)。AI所能帶來的突破不只是某一領(lǐng)域的突破，而是整個(gè)社會(huì)關(guān)系和生產(chǎn)關(guān)系的解構(gòu)和重組。因此，由于人工智能行業(yè)影響的深度和廣度，我們可能無法承受“先治理，后發(fā)展”帶來的結(jié)果。

事實(shí)上，無論是國外還是國內(nèi)，AI技術(shù)引發(fā)的倫理道德問題已頻頻見諸報(bào)端。公眾對(duì)AI將取代人類工作等各種擔(dān)憂也在日益加劇。在現(xiàn)階段就對(duì)AI治理進(jìn)行積極探索是一件刻不容緩的事情。

作為參與并見證了中國AI商業(yè)化進(jìn)程的曠視，也經(jīng)歷了對(duì)AI治理逐步認(rèn)清的過程。在接受案例訪談時(shí)，曠視聯(lián)合創(chuàng)始人兼CEO印奇提到他在與國內(nèi)外學(xué)者、產(chǎn)業(yè)界人士、投資人等各界交流的過程中，AI治理開始作為一個(gè)高頻詞匯進(jìn)入他的視野，大家都在關(guān)心AI行業(yè)如何能秉持長期主義發(fā)展思路，成長為造福大眾的“好生意、長久的生意”。他認(rèn)為，一個(gè)行業(yè)只有被大眾擁抱，才能有長遠(yuǎn)的發(fā)展；而曠視作為AI行業(yè)的從業(yè)者，就肩負(fù)了建立“可持續(xù)發(fā)展的AI”這一責(zé)任。

北大光華盧瑞昌教授“云對(duì)話”徐云程

曠視的探索：企業(yè)AI治理推進(jìn)中的權(quán)衡與考量

盡管近些年國內(nèi)外學(xué)界對(duì)于AI治理有著諸多討論，但大多數(shù)集中在理論層面。關(guān)于企業(yè)如何進(jìn)行AI治理的落地，目前尚未有成熟的既定模式可循。企業(yè)做AI治理的邊界在哪里？應(yīng)該做什么？做到什么樣的程度？是否需要上升到公司戰(zhàn)略的高度？畢竟在公司推行一項(xiàng)制度，大家的認(rèn)知可能是不一致的，更多的要求，可能意味著更高的成本。盧瑞昌教授就是帶著這些問題，開始了與曠視各位受訪人的對(duì)話。經(jīng)過了將近一年的探索，曠視在嘗試給出一份AI企業(yè)治理的答卷。

首先是商業(yè)利益和企業(yè)社會(huì)責(zé)任的平衡。企業(yè)作為以盈利為目的的商業(yè)機(jī)構(gòu)，如何建立一套適宜公司自身發(fā)展需求的人工智能治理的體系，既以負(fù)責(zé)任的態(tài)度承擔(dān)企業(yè)社會(huì)責(zé)任，又不阻礙甚至是促進(jìn)業(yè)務(wù)的發(fā)展，是擺在曠視在進(jìn)行AI治理落地時(shí)的首要考量。這其中牽扯到技術(shù)研發(fā)、產(chǎn)品應(yīng)用、場景落地、商業(yè)競爭等各個(gè)方面。曠視一直都在小步迭代中謹(jǐn)慎前行。正如在訪談中曠視科技首席科學(xué)家、研究院院長孫劍所說：“技術(shù)研究與探索本無禁區(qū)，但是作為存在商業(yè)化目標(biāo)的企業(yè)來說，無論是不是高科技企業(yè)都應(yīng)該有禁區(qū)?！?/span>

其次是企業(yè)道德標(biāo)準(zhǔn)和個(gè)人道德標(biāo)準(zhǔn)的統(tǒng)一。對(duì)外交往中，每個(gè)人的道德標(biāo)準(zhǔn)都是不一樣的，看問題的角度更是各有側(cè)重。這時(shí)就需要企業(yè)能夠在最初創(chuàng)立的使命、愿景、價(jià)值觀的基礎(chǔ)上，協(xié)同大家的意見，形成自己的道德標(biāo)準(zhǔn)，與員工統(tǒng)一認(rèn)知。這也是個(gè)反復(fù)商榷、磨合的過程。正如徐云程在論壇上坦言，有很多次在和產(chǎn)品團(tuán)隊(duì)討論新產(chǎn)品的某個(gè)功能或設(shè)計(jì)時(shí)，會(huì)對(duì)其是否符合企業(yè)的AI倫理觀而爭論，大家會(huì)有不同的看法，但是最終都能夠通過開放性地討論和深入思考而形成共識(shí)。這個(gè)過程中，公司管理層的堅(jiān)持功不可沒。

“治理總是有成本的，可以在事前投入，也可以在事后付出。當(dāng)你不太確定的時(shí)候，你應(yīng)該把治理的成本作為一個(gè)預(yù)防的成本，寧可慢一點(diǎn)。”徐云程說，“幸運(yùn)的是當(dāng)我們以長期主義的思維方式作為指導(dǎo)原則后，最后得到的是一個(gè)更穩(wěn)健的成長。”

綜上所述，盧瑞昌教授認(rèn)為企業(yè)的AI治理要回歸公司的本質(zhì)，包括三個(gè)方向：第一，公司是利益共同體，AI治理應(yīng)當(dāng)符合公司利益；第二，公司是社會(huì)的公司，AI治理應(yīng)當(dāng)符合社會(huì)利益；第三，公司是創(chuàng)業(yè)者的公司，AI治理應(yīng)當(dāng)符合核心創(chuàng)業(yè)者的理想和抱負(fù)。這也是曠視在推進(jìn)“可持續(xù)發(fā)展的AI”過程中的踐行方向。

曠視的實(shí)踐：企業(yè)的AI治理，行勝于言

曠視一直是行業(yè)內(nèi)AI治理的積極推動(dòng)者。2019年初，在國家科技部的推動(dòng)下“國家新一代人工智能治理專業(yè)委員會(huì)”建立。曠視作為委員之一，全程參與并聯(lián)合發(fā)布新一代人工智能治理八項(xiàng)原則，發(fā)展負(fù)責(zé)任的人工智能，推進(jìn)我國人工智能健康發(fā)展。

曠視堅(jiān)信AI治理需要理性的關(guān)注，深度的研究，建設(shè)性的討論，以及堅(jiān)持不懈的行動(dòng)。2019年7月，曠視發(fā)布了《人工智能應(yīng)用準(zhǔn)則》，從正當(dāng)性、人的監(jiān)督、技術(shù)可靠性和安全性、公平和多樣性、責(zé)任可追溯、數(shù)據(jù)隱私保護(hù)等六個(gè)維度，作為在公司在AI治理上的依據(jù)，并影響同行和合作伙伴重視人工智能的治理，呼吁各界共建可持續(xù)發(fā)展的AI生態(tài)。

為了將《準(zhǔn)則》的內(nèi)容落到實(shí)處，曠視本著堅(jiān)定不移的推進(jìn)態(tài)度、務(wù)實(shí)的落地機(jī)制設(shè)計(jì)和與各界廣泛合作的開放心態(tài)，從制度與機(jī)制的設(shè)立、科研、產(chǎn)品、客戶管理等多方入手，初步建立并打開了公司推動(dòng)AI治理的局面。

首先，從機(jī)制保障上，曠視成立了“曠視人工智能道德委員會(huì)”，是公司人工智能治理事項(xiàng)最高的決策機(jī)構(gòu)，向董事會(huì)匯報(bào)，其中包括外部委員。同時(shí)，在公司內(nèi)部成立了“曠視人工智能道德管理委員會(huì)”，從研發(fā)學(xué)術(shù)、產(chǎn)品工程、客戶渠道、運(yùn)營管理四個(gè)方向進(jìn)行具體推進(jìn)。目前，已經(jīng)在數(shù)據(jù)隱私保護(hù)的研發(fā)項(xiàng)目、《正確使用人工智能產(chǎn)品的倡議書》方面切實(shí)落地。

其次，從對(duì)外交流、促進(jìn)聯(lián)合研究上，曠視成立了“曠視AI治理研究院”。2020年初，曠視發(fā)布了一篇名為《全球AI治理十大事件》的文章，梳理了2019年海內(nèi)外共同關(guān)心的10件AI治理典型事件。這篇文章在微博上引起了熱烈反響，點(diǎn)擊量在短短幾天內(nèi)超過了2000多萬。根據(jù)網(wǎng)友的反饋，曠視逐步從中確定了未來兩大類課題研究方向，即：基于AI應(yīng)用實(shí)際場景的可信AI治理探索，技術(shù)發(fā)展衍生的數(shù)據(jù)與隱私保護(hù)規(guī)范。

不積跬步無以至千里。建立“可持續(xù)發(fā)展的AI”，曠視正堅(jiān)定信念，執(zhí)著前行。正如徐云程所說：“在我們面前的是一座巍峨的高山。新一代人工智能的領(lǐng)軍者肩負(fù)著建設(shè)受人尊敬的中國企業(yè)的使命，在AI治理的話題上，曠視希望與社會(huì)各界協(xié)同共創(chuàng)，一起勇攀高峰?！?/span>