AI將是引發(fā)社會深刻變革的新一波科技浪潮?！翱沙掷m(xù)發(fā)展的AI”，將會是AI技術(shù)與人類社會長期共存的基本形態(tài)，也是曠視致力推動的行業(yè)發(fā)展的正確方向。

如何建立可持續(xù)發(fā)展的AI？這不僅是學界、AI產(chǎn)業(yè)界、監(jiān)管機構(gòu)、政府等各界都關(guān)注的問題，更是每一家AI企業(yè)每天都在思考的內(nèi)容。肩負“用人工智能造福大眾”為使命的曠視，自2019年7月對外發(fā)布《人工智能應用準則》之后，在AI治理方向上的探索和實踐就從未停止過。

這并不是一條有成熟模式、既定規(guī)劃的清晰的路，而是一條匯集各種考量、在摸索中前行的探索之旅。中國，乃至全球的AI治理大環(huán)境是怎樣的？曠視為什么要走這條路？他是如何落地推進的？面對各種問題，他是如何思考、如何決定的？這種種心路歷程，都收錄在曠視與北京大學光華管理學院、北京大學管理案例研究中心合作撰寫的《曠視科技：人工智能治理的新征程》當中。這份案例不僅是曠視在將近一年的時間里，對自身治理實踐的回顧和梳理，更是包含了對AI治理整體的深刻思考和洞察。

2020年6月13日，在首屆北大光華案例日論壇上，這份凝聚了北大光華管理學院幾位老師精心采寫、曠視多個部門支持配合訪談的案例《曠視科技：人工智能治理的新征程》首次亮相，并以曠視首席運營官徐云程“云對話”北大光華盧瑞昌教授的方式精彩呈現(xiàn)在公眾面前。

曠視首席運營官徐云程進行主題分享——發(fā)展可持續(xù)的人工智能

曠視的思考：AI治理的必要性與緊迫性

如果說AI的廣泛應用是一座高山，那么現(xiàn)階段我們還處于半山腰。不同于其它先進科技在初期可以先發(fā)展再治理的做法，AI在一開始就被各界關(guān)注。為什么AI行業(yè)如此與眾不同？而且目前許多行業(yè)都有各自的倫理要求和治理準則，AI行業(yè)為什么不能拿來借用，而是要重新探索？北大盧瑞昌教授在案例的開始就提出了這些深刻的問題。

曠視徐云程認為，正是由于AI技術(shù)的普遍性與其對于社會影響的深刻性，促使社會各界在AI的商業(yè)化還在比較早期的時候，就非常積極的在探索AI治理的這條道路。盧瑞昌教授完全同意這個看法，他認為人工智能行業(yè)將帶來第四次工業(yè)革命，顛覆許多現(xiàn)有行業(yè)。AI所能帶來的突破不只是某一領域的突破，而是整個社會關(guān)系和生產(chǎn)關(guān)系的解構(gòu)和重組。因此，由于人工智能行業(yè)影響的深度和廣度，我們可能無法承受“先治理，后發(fā)展”帶來的結(jié)果。

事實上，無論是國外還是國內(nèi)，AI技術(shù)引發(fā)的倫理道德問題已頻頻見諸報端。公眾對AI將取代人類工作等各種擔憂也在日益加劇。在現(xiàn)階段就對AI治理進行積極探索是一件刻不容緩的事情。

作為參與并見證了中國AI商業(yè)化進程的曠視，也經(jīng)歷了對AI治理逐步認清的過程。在接受案例訪談時，曠視聯(lián)合創(chuàng)始人兼CEO印奇提到他在與國內(nèi)外學者、產(chǎn)業(yè)界人士、投資人等各界交流的過程中，AI治理開始作為一個高頻詞匯進入他的視野，大家都在關(guān)心AI行業(yè)如何能秉持長期主義發(fā)展思路，成長為造福大眾的“好生意、長久的生意”。他認為，一個行業(yè)只有被大眾擁抱，才能有長遠的發(fā)展；而曠視作為AI行業(yè)的從業(yè)者，就肩負了建立“可持續(xù)發(fā)展的AI”這一責任。

北大光華盧瑞昌教授“云對話”徐云程

曠視的探索：企業(yè)AI治理推進中的權(quán)衡與考量

盡管近些年國內(nèi)外學界對于AI治理有著諸多討論，但大多數(shù)集中在理論層面。關(guān)于企業(yè)如何進行AI治理的落地，目前尚未有成熟的既定模式可循。企業(yè)做AI治理的邊界在哪里？應該做什么？做到什么樣的程度？是否需要上升到公司戰(zhàn)略的高度？畢竟在公司推行一項制度，大家的認知可能是不一致的，更多的要求，可能意味著更高的成本。盧瑞昌教授就是帶著這些問題，開始了與曠視各位受訪人的對話。經(jīng)過了將近一年的探索，曠視在嘗試給出一份AI企業(yè)治理的答卷。

首先是商業(yè)利益和企業(yè)社會責任的平衡。企業(yè)作為以盈利為目的的商業(yè)機構(gòu)，如何建立一套適宜公司自身發(fā)展需求的人工智能治理的體系，既以負責任的態(tài)度承擔企業(yè)社會責任，又不阻礙甚至是促進業(yè)務的發(fā)展，是擺在曠視在進行AI治理落地時的首要考量。這其中牽扯到技術(shù)研發(fā)、產(chǎn)品應用、場景落地、商業(yè)競爭等各個方面。曠視一直都在小步迭代中謹慎前行。正如在訪談中曠視科技首席科學家、研究院院長孫劍所說：“技術(shù)研究與探索本無禁區(qū)，但是作為存在商業(yè)化目標的企業(yè)來說，無論是不是高科技企業(yè)都應該有禁區(qū)?！?/span>

其次是企業(yè)道德標準和個人道德標準的統(tǒng)一。對外交往中，每個人的道德標準都是不一樣的，看問題的角度更是各有側(cè)重。這時就需要企業(yè)能夠在最初創(chuàng)立的使命、愿景、價值觀的基礎上，協(xié)同大家的意見，形成自己的道德標準，與員工統(tǒng)一認知。這也是個反復商榷、磨合的過程。正如徐云程在論壇上坦言，有很多次在和產(chǎn)品團隊討論新產(chǎn)品的某個功能或設計時，會對其是否符合企業(yè)的AI倫理觀而爭論，大家會有不同的看法，但是最終都能夠通過開放性地討論和深入思考而形成共識。這個過程中，公司管理層的堅持功不可沒。

“治理總是有成本的，可以在事前投入，也可以在事后付出。當你不太確定的時候，你應該把治理的成本作為一個預防的成本，寧可慢一點?！毙煸瞥陶f，“幸運的是當我們以長期主義的思維方式作為指導原則后，最后得到的是一個更穩(wěn)健的成長?！?/span>

綜上所述，盧瑞昌教授認為企業(yè)的AI治理要回歸公司的本質(zhì)，包括三個方向：第一，公司是利益共同體，AI治理應當符合公司利益；第二，公司是社會的公司，AI治理應當符合社會利益；第三，公司是創(chuàng)業(yè)者的公司，AI治理應當符合核心創(chuàng)業(yè)者的理想和抱負。這也是曠視在推進“可持續(xù)發(fā)展的AI”過程中的踐行方向。

曠視的實踐：企業(yè)的AI治理，行勝于言

曠視一直是行業(yè)內(nèi)AI治理的積極推動者。2019年初，在國家科技部的推動下“國家新一代人工智能治理專業(yè)委員會”建立。曠視作為委員之一，全程參與并聯(lián)合發(fā)布新一代人工智能治理八項原則，發(fā)展負責任的人工智能，推進我國人工智能健康發(fā)展。

曠視堅信AI治理需要理性的關(guān)注，深度的研究，建設性的討論，以及堅持不懈的行動。2019年7月，曠視發(fā)布了《人工智能應用準則》，從正當性、人的監(jiān)督、技術(shù)可靠性和安全性、公平和多樣性、責任可追溯、數(shù)據(jù)隱私保護等六個維度，作為在公司在AI治理上的依據(jù)，并影響同行和合作伙伴重視人工智能的治理，呼吁各界共建可持續(xù)發(fā)展的AI生態(tài)。

為了將《準則》的內(nèi)容落到實處，曠視本著堅定不移的推進態(tài)度、務實的落地機制設計和與各界廣泛合作的開放心態(tài)，從制度與機制的設立、科研、產(chǎn)品、客戶管理等多方入手，初步建立并打開了公司推動AI治理的局面。

首先，從機制保障上，曠視成立了“曠視人工智能道德委員會”，是公司人工智能治理事項最高的決策機構(gòu)，向董事會匯報，其中包括外部委員。同時，在公司內(nèi)部成立了“曠視人工智能道德管理委員會”，從研發(fā)學術(shù)、產(chǎn)品工程、客戶渠道、運營管理四個方向進行具體推進。目前，已經(jīng)在數(shù)據(jù)隱私保護的研發(fā)項目、《正確使用人工智能產(chǎn)品的倡議書》方面切實落地。

其次，從對外交流、促進聯(lián)合研究上，曠視成立了“曠視AI治理研究院”。2020年初，曠視發(fā)布了一篇名為《全球AI治理十大事件》的文章，梳理了2019年海內(nèi)外共同關(guān)心的10件AI治理典型事件。這篇文章在微博上引起了熱烈反響，點擊量在短短幾天內(nèi)超過了2000多萬。根據(jù)網(wǎng)友的反饋，曠視逐步從中確定了未來兩大類課題研究方向，即：基于AI應用實際場景的可信AI治理探索，技術(shù)發(fā)展衍生的數(shù)據(jù)與隱私保護規(guī)范。

不積跬步無以至千里。建立“可持續(xù)發(fā)展的AI”，曠視正堅定信念，執(zhí)著前行。正如徐云程所說：“在我們面前的是一座巍峨的高山。新一代人工智能的領軍者肩負著建設受人尊敬的中國企業(yè)的使命，在AI治理的話題上，曠視希望與社會各界協(xié)同共創(chuàng)，一起勇攀高峰。”