當今時代，大數(shù)據(jù)、AI算法等方便了我們的生活，提高了生產(chǎn)效率，但大數(shù)據(jù)的存在也意味著海量的用戶信息被用來發(fā)掘產(chǎn)生價值，信息泄露、黑灰產(chǎn)攻擊等問題層出不窮，安全似乎已經(jīng)成為了數(shù)字經(jīng)濟發(fā)展木桶上的那一塊“短板”。

 

　　企業(yè)技術發(fā)展和用戶信息保護的平衡上，存在哪些難點？在不斷發(fā)展的科技、復雜多變的國際形勢和人民新的生活方式面前，現(xiàn)有法律框架面臨著什么樣的挑戰(zhàn)？如何讓安全為數(shù)字化發(fā)展“保駕護航”？

 

　　2021新京報貝殼財經(jīng)夏季峰會——數(shù)字經(jīng)濟時代的風險防控線上論壇舉行，中國政法大學傳播法研究中心副主任朱巍、北京師范大學網(wǎng)絡法治國際中心執(zhí)行主任吳沈括、中國信通院云計算與大數(shù)據(jù)研究所副所長魏凱、螞蟻集團安全事業(yè)群總裁趙聞飆就上述問題闡述了自己的觀點。

 

　　當人變成“電池人” 保護信息安全難在哪兒？

 

　　AI時代，不少App都需要收集足夠多的用戶數(shù)據(jù)，才能支持其運營。如短視頻平臺的視頻推送，電商平臺的商品推薦等都需要收集用戶數(shù)據(jù)后才能讓算法正常運轉(zhuǎn)，在此過程中，用戶也往往面臨著暴露隱私的潛在風險。

 

　　“互聯(lián)網(wǎng)時代，人慢慢變成了‘電池人’。”朱巍表示，“每個人在互聯(lián)網(wǎng)時代中通過算法、人工智能、數(shù)據(jù)采集后都變成了手段，而不是目的。消費者和用戶在很多平臺中，通過自己的數(shù)據(jù)為這些平臺‘蓄能’，這種生態(tài)到底可不可取，利弊關系到底在什么地方，我覺得需要予以好好解決。”

 

　　在朱巍看來，要解決技術發(fā)展與用戶信息保護平衡點的問題，需要明晰大數(shù)據(jù)產(chǎn)權(quán)問題，“目前，從中國的法律體系來看，《民法典》、《個人信息保護法》二審稿等相關法律里對個人信息的概念已經(jīng)做了非常詳細的描述，但并沒有對大數(shù)據(jù)的性質(zhì)做出具體的規(guī)定?！睹穹ǖ洹纷詈笠粚徃宄鰜碇螅?jīng)把數(shù)據(jù)信息納入到《民法典》中的知識產(chǎn)權(quán)的課題里面，對此我們曾提出反對，因為數(shù)據(jù)信息里既包括大數(shù)據(jù)，也包括個人信息，個人信息是隱私權(quán)，不能轉(zhuǎn)化成大數(shù)據(jù)，至少一定程度上是不可以的，因為有巨大的爭議，《民法典》后來把這條刪掉了。”

 

　　貝殼財經(jīng)記者注意到，《民法典》第一百二十七條規(guī)定，法律對數(shù)據(jù)、網(wǎng)絡虛擬財產(chǎn)的保護有規(guī)定的，依照其規(guī)定。

 

　　“所以我們能發(fā)現(xiàn)，個人信息和大數(shù)據(jù)有千絲萬縷的關系，在行業(yè)適用領域中，大數(shù)據(jù)的產(chǎn)權(quán)問題還沒有明晰?，F(xiàn)在，國家正在出臺關于數(shù)字經(jīng)濟的指導意見，有一些還沒有向社會公布，公布的時候我相信數(shù)據(jù)信息的概念至少在產(chǎn)權(quán)領域會變明晰。”朱巍稱。

 

　　此外，朱巍認為，當個人信息與其他法律交織在一起，讓問題變得更加復雜。“目前，《刑法》、《個人信息保護法》等都有對敏感信息范圍的相關規(guī)定，且內(nèi)涵和外延完全不一樣，這就出現(xiàn)了一個非常有意思的問題：當我們研究的時候提到敏感信息，我們要先問一下是哪部法律中的。所以是不是應該有一個統(tǒng)領，至少在概念上能夠說清楚，但是目前為止好像還沒有?，F(xiàn)在當我們研究一些法律問題，不單純是個人信息保護問題，而是個人信息保護和其他法律關系相互交叉的問題，這就讓問題本身變得復雜了。”

 

　　從企業(yè)到國際社會數(shù)字化轉(zhuǎn)型風險幾何？

 

　　事實上，每個用戶貢獻的數(shù)據(jù)最終都將匯成一道數(shù)據(jù)洪流，個人、產(chǎn)業(yè)、國家、國際社會由此交織在一起。除了用戶外，企業(yè)在數(shù)字化轉(zhuǎn)型的過程中面對著什么樣的風險？

 

　　“什么是‘數(shù)字化’背后的風險？它指的是——數(shù)字經(jīng)濟生活中，用戶在享受數(shù)字化帶來的便捷與普惠同時，所面臨的、伴隨而來的風險。例如，對于行業(yè)商戶來說，羊毛黨造成的‘營銷資金風險’，足以讓商戶精心打造的營銷活動毀于一旦。對于個人用戶而言，網(wǎng)絡欺詐、賬戶盜用等問題，更是成為了數(shù)字經(jīng)濟中高發(fā)的、危害性極大的安全問題。如今的黑產(chǎn)作案越來越趨于多平臺、多鏈路、團隊化和智能化。這使得對抗黑產(chǎn)、防范智能化風險，已經(jīng)轉(zhuǎn)化為了一個全新的命題。”趙聞飆表示。

 

　　趙聞飆透露，早在六七年前，螞蟻團隊就已經(jīng)在平常應對黑產(chǎn)攻擊中，發(fā)現(xiàn)了AI的痕跡。“不可忽略的是，伴隨著人工智能技術的高速發(fā)展和加持，這一風險仍將持續(xù)加劇，并且演變?yōu)?lsquo;智能化’背后的風險。”

 

　　那么，當我們把視野從個人用戶、企業(yè)再擴展到國際社會，數(shù)字化的風險又有何變化呢？

 

　　在吳沈括看來，隨著數(shù)字化轉(zhuǎn)型的加速，經(jīng)濟構(gòu)成、民眾生活方式、社會治理甚至是國家層面和全球治理層面都已經(jīng)產(chǎn)生了非常大的變化。

 

　　吳沈括認為，在這個變化的過程中，需要注意到三個復雜性，“第一個是參與數(shù)據(jù)活動當中主體的復雜性，從用戶個人到產(chǎn)業(yè)、國家甚至國際社會，在這個過程中，主體結(jié)構(gòu)的復雜性是跨部門、跨行業(yè)、跨國的存在，而這使得數(shù)據(jù)處理和數(shù)據(jù)活動過程中面對的場景更為復雜，而且在快速的迭代更新中，這就是第二個場景的復雜性。因此，我們在一些傳統(tǒng)的場景中歸納總結(jié)出來規(guī)則，面對新場景的時候，或許面對著非常大的適用困難。于是，在這樣的背景下形成了第三個復雜性，就是訴求的復雜性。”

 

　　“舉例來說，哪怕是主體單一的情況下，這個主體在不同階段的訴求是不一樣的，在一定的階段可能會更加關注自身的隱私，自身的個人信息的保護，在一定場景中可能會更傾向于對某種經(jīng)濟利益或者其他類型的利益的追求，所以在這樣的情況下我們面對著非常復雜的情形或者說在新階段中，我們需要有一個非常寬闊的視野去看待這個現(xiàn)象。”吳沈括說。

 

　　如何保護數(shù)字經(jīng)濟發(fā)展？用AI對抗AI

 

　　針對如此之多的復雜問題，我們應該怎么做？專家們給出了不同的建議。

 

　　首先，是充分的激勵機制。

 

　　在吳沈括看來，數(shù)據(jù)業(yè)務和數(shù)據(jù)流轉(zhuǎn)利用過程中，知識、能力的不對稱導致很多情況下透明度不足，進而導致了信任度不足，“國內(nèi)國際跨部門跨行業(yè)的主體之間形成有效的信任度，是我們對數(shù)字化生活給予有效信賴的基礎。在有了充分的信用度之后，我們需要一個必要的激勵度，目前來看，以數(shù)據(jù)驅(qū)動的各類創(chuàng)新在不斷推動（經(jīng)濟的發(fā)展），在這個過程中，如何確保，以及如何最大限度地激勵在數(shù)據(jù)流轉(zhuǎn)利用等各類數(shù)據(jù)活動中做出了貢獻的主體的價值，給它必要的推動，是我們需要特別重視的點。”

 

　　“我們欣喜地看到《數(shù)據(jù)安全法》以及未來要出臺的《個人信息保護法》正在給數(shù)字經(jīng)濟的發(fā)展制定一些規(guī)則，這是市場急需的，但不是事無巨細的，可能只能做到原則性的。至于如何落實，可能需要細則，需要透明度，需要讓企業(yè)實際有動力落實這個機制，例如對其聲譽有顯性化激勵，這就需要配套的措施，而不只是懲罰。”魏凱表示。

 

　　此外，通過技術來幫助解決安全問題也是專家們共同的觀點。

 

　　在魏凱看來，前幾年，大數(shù)據(jù)的應用側(cè)重于做報表，做大屏幕，給決策者直觀的相關數(shù)據(jù)。但是現(xiàn)在大數(shù)據(jù)的技術應用往往不是這樣，而是已經(jīng)深入到?jīng)Q策閉環(huán)里去了。“以前的報表，看了以后采取決策仍然要靠人拍板，而現(xiàn)在很多大數(shù)據(jù)的風控，大數(shù)據(jù)的精準廣告，其實人都不在閉環(huán)里面，人只要把規(guī)則定好，數(shù)據(jù)驅(qū)動就可以閉環(huán)自動執(zhí)行。”

 

　　“現(xiàn)在，一種新的模式正在崛起，如區(qū)塊鏈的技術允許我們不再把數(shù)據(jù)集中起來也能夠享受數(shù)據(jù)融合的紅利，當前這類技術正在快速升溫，這就有可能創(chuàng)造一種新的大數(shù)據(jù)的應用模式。”魏凱表示。

 

　　趙聞飆表示，傳統(tǒng)風控受制于技術成本、數(shù)據(jù)規(guī)模和算法效能，許多場景還是專家經(jīng)驗驅(qū)動，而不是數(shù)據(jù)智能驅(qū)動。“支付寶每天有數(shù)億筆交易，面對如此龐大的計算量，一旦決策產(chǎn)生延遲，就給了黑產(chǎn)可乘之機。因此，發(fā)展面向可信人工智能技術的下一代風控技術體系成為了我們的必由之路。”

 

　　他舉例稱，通過人工智能與金融風控的深度融合，支付寶的AI大腦AlphaRisk能夠在零人工干預的全自動模式下，對風險進行毫秒級的響應。例如，在網(wǎng)絡欺詐風險識別場景下，當系統(tǒng)識別到用戶遇到詐騙風險時，AI機器人會以小于0.1秒的速度向用戶呼出“叫醒電話”。此外，在快速響應當下風險的同時，AlphaRisk還具備自學習、自適應的能力，從而將安全從靜態(tài)的被動防守，轉(zhuǎn)變?yōu)閯討B(tài)的主動對抗。

 

　　貝殼財經(jīng)記者還發(fā)現(xiàn)，在談論數(shù)字經(jīng)濟發(fā)展的同時，多位專家都將安全視為了經(jīng)濟發(fā)展木桶潛在的“短板”，認為需要充分重視數(shù)字經(jīng)濟時代的風險防控。

 

　　“以前我們發(fā)展任何產(chǎn)業(yè)的時候都是包容審慎，而現(xiàn)在更多的是審慎包容。以前是效率優(yōu)先，安全其次，先發(fā)展起來再說?，F(xiàn)在看來，安全可能就是木桶上的短板，我國互聯(lián)網(wǎng)產(chǎn)業(yè)、規(guī)模、技術發(fā)展已經(jīng)很大很快了，如果追求安全問題，一定會犧牲市場，一定會犧牲效率，但從長遠的角度看，我認為這種做法是沒有問題的。”朱巍表示。