隨著移動互聯(lián)基礎設施的大力建設和移動終端設備的廣泛普及,以海量數(shù)據(jù)為基礎的算法推薦技術(shù)與網(wǎng)約車、網(wǎng)絡購物、靈活用工等應用場景的深度融合,給數(shù)字經(jīng)濟高質(zhì)量發(fā)展注入強大動能。然而,算法推薦服務的廣泛應用也可能引發(fā)算法黑箱、算法歧視、信息繭房等問題,對市場秩序、消費者福利以及經(jīng)營者權(quán)益產(chǎn)生不利影響。
近期,全國首例算法推薦案——北京市海淀區(qū)人民法院對北京愛奇藝科技有限公司(下稱“愛奇藝”)訴北京字節(jié)跳動科技有限公司(下稱“字節(jié)”)侵害《延禧攻略》(下稱“延劇”)信息網(wǎng)絡傳播權(quán)一案作出判決。案中,原告愛奇藝訴稱,字節(jié)將用戶上傳的截取自延劇的短視頻向公眾傳播并推薦,侵害了愛奇藝對延劇享有的信息網(wǎng)絡傳播權(quán)。經(jīng)審理,法院認定字節(jié)構(gòu)成幫助侵權(quán),并判定賠償200萬元。
該案作為全國首例算法推薦案,引發(fā)了對提供算法推薦服務的平臺應承擔何等注意義務及責任的廣泛探討,對算法推薦侵權(quán)責任的明確,將更有利于算法推薦技術(shù)的合理合法應用,同時也為算法推薦服務提供者提出了警醒,有助于引導有關(guān)行業(yè)和平臺合規(guī)運營。
算法推薦侵權(quán)歸責面臨困境
當前,算法推薦侵權(quán)案件面臨“責任鴻溝”,所謂“責任鴻溝”是算法自主學習使得算法的設計者和運營者未能預測未來及其運行產(chǎn)生的后果,人對機器的行動并沒有足夠的控制權(quán),因此無法要求其承擔傳統(tǒng)的機器制造者和操作者的過錯責任。依照傳統(tǒng)的歸責原則,一個法律主體只有在其知曉自己的行為及其后果,并且可以自由選擇是否作為的時候,才應該承擔法律責任。
“責任鴻溝”在愛奇藝訴字節(jié)一案中亦有體現(xiàn),在案中字節(jié)在辯稱其已盡到合理注意義務時提出,涉案信息流推薦技術(shù)不會識別視頻具體內(nèi)容,其無選擇推薦涉嫌侵權(quán)內(nèi)容的主觀意愿,不存在法律意義上的推薦行為??傮w而言,其意在主張推送侵權(quán)視頻是算法推薦技術(shù)所為,字節(jié)不具有主觀過錯。
由此,算法推薦的“技術(shù)中立”成為了許多平臺企業(yè)規(guī)避侵權(quán)責任的抗辯理由,若放任平臺借助技術(shù)中立規(guī)避其應承擔的相應責任,不僅可能導致受害者無法得到其應有的補償,還有可能導致算法推薦技術(shù)泛濫,成為平臺企業(yè)規(guī)避法律責任的“擋箭牌”,不利于相關(guān)行業(yè)的健康有序發(fā)展。那么應如何認定算法推薦侵權(quán)的法律責任呢?
算法推薦侵權(quán)歸責的類型化簡析
算法推薦侵權(quán)的法律責任認定應當結(jié)合個案具體情形進行判斷,此處將區(qū)分幾種情形進行分析,明確不同類型的情形中算法推薦侵權(quán)的責任認定、責任分配以及責任承擔的方式。
在涉及算法推薦侵權(quán)的案件中,侵權(quán)行為的發(fā)生通??赡軤可嫒齻€主體,包括算法開發(fā)者、算法使用者、算法消費者。其中,算法開發(fā)者是指開發(fā)設計算法推薦技術(shù)的主體;算法使用者是指使用算法推薦技術(shù)為用戶提供算法推薦服務,對算法的運行過程具有控制力、支配力的主體;算法消費者則是在數(shù)字經(jīng)濟背景下應運而生的一種新型的消費者,是通過智能算法接入互聯(lián)網(wǎng)、物聯(lián)網(wǎng)等網(wǎng)絡空間,并在算法作用下為生活消費購買商品或接受服務的消費者,其具有身份上的多重性。
在人工智能算法技術(shù)廣泛適用的情景下,所有參與其中的主體,無論是開發(fā)者、使用者抑或消費者,其身份和作用的界定只是相對的,是一個動態(tài)變化的過程。故在實踐中對算法推薦侵權(quán)責任的認定和承擔,須結(jié)合個案發(fā)生場景予以分析,特別是對責任主體的識別需抱持開放多元的態(tài)度,再根據(jù)算法推薦是否直接導致侵權(quán)行為發(fā)生,以及不同主體在該算法推薦服務場景下的角色和作用予以責任劃分,大抵分為兩類情形予以考察。
1.算法推薦直接導致侵權(quán)發(fā)生。
在此情形中,損害結(jié)果是算法推薦技術(shù)運行所致而非人為所致。此時,侵權(quán)行為法律責任的認定與分配,首先,需要考察算法推薦技術(shù)在設計上是否存在導致侵權(quán)損害發(fā)生的因素,并考察這些因素是否源于算法開發(fā)者的主觀方面。即便算法推薦技術(shù)的自動化運行和深度學習過程無需人為干預,但在算法推薦技術(shù)的開發(fā)與設計中能夠嵌入算法開發(fā)者的主觀意圖,使得算法能夠在無需人為幫助的情況下,實現(xiàn)算法開發(fā)者欲達到的特定目的。若算法推薦技術(shù)本身存在導致侵權(quán)損害發(fā)生的因素,則可以推定算法開發(fā)者存在主觀過錯,其應當對侵權(quán)損害的發(fā)生負有一定的法律責任。
其次,需要考察算法使用者是否存在主觀過錯。當平臺企業(yè)作為算法使用者而非開發(fā)者時,即便其因算法黑箱無從得知算法可能潛在的侵權(quán)風險,其對算法的運行也具有實際的控制力,因此,負有一定的注意義務,當其在知道或應當知道算法推薦技術(shù)的運行會導致侵權(quán)行為發(fā)生,仍放任該侵權(quán)算法運行時,存在主觀過錯,同樣需要承擔相應的法律責任。
在此類情形中,一般不涉及算法消費者的法律責任,因為算法消費者僅是接受算法推薦服務的對象,對算法推薦技術(shù)無直接控制力。當然,在算法互動場景中,無論是開發(fā)者、使用者抑或消費者的身份皆可能發(fā)生變化,因此,在一些情形中,算法消費者的身份也會發(fā)生轉(zhuǎn)化而需要承擔相應的法律責任。譬如,用戶主動上傳內(nèi)容或主動關(guān)閉個性化推薦都會對算法推薦的精準性產(chǎn)生影響,此時算法消費者與算法使用者的身份發(fā)生交融,成為算法推薦行為的共同實施者,由此可能需要對相應的行為效果承擔責任。
再如,若算法消費者獲得的是開源算法,當其在原算法基礎上進行編輯時,可能會改變算法的原有運行邏輯和用途,此時算法消費者會轉(zhuǎn)變?yōu)樗惴ㄩ_發(fā)者,若侵權(quán)行為的發(fā)生與其編輯行為有關(guān),則需要承擔法律責任。
此外,還需要注意的是,人工智能算法的自學習能力,會基于算法消費者的行為或者上傳的數(shù)據(jù)不斷調(diào)整和優(yōu)化算法,此時,算法消費者其實也在參與算法的開發(fā),可視為算法的輔助開發(fā)者,然而,與真正的算法開發(fā)者不同,其是被動地參與算法的開發(fā),無法真正參與算法的編輯過程,由此形成的算法并不包含算法消費者的主觀意圖。
因此,即便算法因自動化學習導致侵權(quán)行為發(fā)生,這些被動的算法開發(fā)者并不存在主觀過錯,因而無需承擔與真正的算法開發(fā)者相同的法律責任,但是如果存在該類算法消費者主觀故意的上傳虛假信息,誘導算法使用的情況,甚至存在利用算法獲取不正當利益,將算法消費行為演化為妨礙、破壞算法的行為時,則應承擔相應的侵權(quán)責任,甚至嚴重的將面臨刑事責任。
對于侵權(quán)責任的分配,則需要考察對侵權(quán)發(fā)生存在主觀過錯的主體數(shù)量,若侵權(quán)行為由兩個或者兩個以上的主體所致,當這些主體存在共同故意或者過失時,或者雖無共同故意、共同過失,但其侵害行為直接結(jié)合發(fā)生同一損害后果的,構(gòu)成共同侵權(quán),則需由這些主體承擔連帶責任。若兩個或兩個以上的主體沒有共同故意或者過失,但其分別實施的數(shù)個行為間接結(jié)合發(fā)生同一損害后果的,應根據(jù)過失大小或者原因力比例,各自承擔相應的法律責任。
2.算法推薦間接致使侵權(quán)發(fā)生。
在此類情形下算法推薦技術(shù)和服務并非是導致侵權(quán)損失發(fā)生的直接原因,僅起到間接作用。前述愛奇藝訴字節(jié)一案則屬于此類案件,字節(jié)所采用的信息流推薦技術(shù),僅起到了向用戶精準、高效推薦的作用,其本質(zhì)上是該公司向用戶提供網(wǎng)絡服務的輔助工具,不會直接導致侵權(quán)損失的發(fā)生,只會導致侵權(quán)結(jié)果進一步擴大。
與第一類情形類似,在第二類情形中同樣需要對算法開發(fā)者、算法使用者以及算法消費者的法律責任進行區(qū)分認定。與第一類情形不同的是,在第二類情形中的侵權(quán)損失主要由人為所致。以愛奇藝訴字節(jié)為例,作為發(fā)布涉案侵權(quán)短視頻的消費者,其在明知或應知愛奇藝擁有該作品獨家版權(quán)的情況下,發(fā)布涉案侵權(quán)視頻,具有一定的主觀過錯,侵害了愛奇藝的作品信息網(wǎng)絡傳播權(quán)。
值得注意的是,字節(jié)所使用的算法是協(xié)同過濾推薦算法,該方法的核心思路是用戶喜好相似,則點擊行為也接近。通過內(nèi)容推薦收集到一定的用戶點擊量后,就會進行協(xié)同過濾推薦。這意味著,瀏覽和搜索涉案侵權(quán)視頻的算法消費者,實際上也參與到了算法的使用過程中,同時具備算法使用者的身份。
然而,算法使用者的身份并不當然導致這些消費者承擔法律責任,因為此案中算法使用者的目的僅為瀏覽而非傳播涉案侵權(quán)視頻,且其被動參與算法使用過程,算法推薦特定涉案視頻并不屬于這些算法消費者(使用者)的主觀意愿,僅是源于協(xié)同過濾推薦算法原有設計者的初衷。
故此,雖然該案中算法消費者和算法使用者對侵權(quán)損失的發(fā)生、擴大、加重共同發(fā)揮了作用,但是由于算法消費者與算法使用者在主觀意圖、過錯,應負有的相關(guān)義務,以及對算法推薦的實際控制及行為效果的獲益等方面均有不同,即對侵權(quán)損失的形成、原因及效果比例上不盡相同,故在責任認定、分配及承擔上亦應不同。值得注意的是,未來對算法消費者的相應責任應予關(guān)注。
一般情況下,網(wǎng)絡服務提供者對用戶個體的侵權(quán)行為適用“通知—刪除規(guī)則”,然而,在愛奇藝訴字節(jié)一案中,平臺在侵權(quán)過程中獲得了巨大流量收益和競爭優(yōu)勢,即取得競爭優(yōu)勢與流量、經(jīng)濟利益與引發(fā)更大侵權(quán)風險并存,故從比例原則來看,理應承擔更高的注意義務,采取更加有效的措施來阻止侵權(quán)行為發(fā)生,若僅要求其承擔“通知-刪除”義務,并不能達到有效制止、預防侵權(quán)行為發(fā)生的實質(zhì)效果。
算法(推薦)使用者積極扎實做好合規(guī)
愛奇藝訴字節(jié)一案作為我國算法推薦侵權(quán)第一案,不僅為將來隨著算法推薦技術(shù)廣泛應用而增多的算法推薦侵權(quán)案件提供指引,也為算法推薦服務行業(yè)作出了警示,“技術(shù)中立”已難以為算法推薦服務提供者提供“避風港”,其需承擔更多的注意義務以規(guī)避法律風險。
今年1月4日,國家網(wǎng)信辦等四部門聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》(下稱《規(guī)定》)進一步細化了算法推薦服務者的義務。《規(guī)定》于今年3月1日起施行。
《規(guī)定》明確要求算法推薦服務提供者應當建立健全用于識別違法和不良信息的特征庫,完善入庫標準、規(guī)則和程序。發(fā)現(xiàn)違法信息的,應當立即停止傳輸,采取消除等處置措施,防止信息擴散。這對作為算法推薦服務提供者或使用者的平臺企業(yè)提出了更高的責任承擔、義務履行及風險防范要求。
鑒于此,作為算法使用的主要主體和推薦服務的主要提供者,平臺企業(yè)應不斷提升算法推薦合規(guī)水平和合規(guī)能力,嚴格遵守《規(guī)定》所明確的義務,建立事前審查和實時完善多場景合規(guī)的立體、動態(tài)的規(guī)則體系,加強算法推薦服務版面頁面生態(tài)管理,建立完善人工干預和用戶自主選擇機制,尤其是對于在首頁首屏、熱搜、精選、榜單類、彈窗等重點環(huán)節(jié)應當重點把關(guān),避免侵權(quán)行為影響進一步擴大化。同時,也需加大對自動識別違法侵權(quán)內(nèi)容的算法識別技術(shù)的研發(fā)。總體而言,平臺企業(yè)在享受算法技術(shù)為企業(yè)帶來巨大紅利的同時,也需承擔相應的義務與責任,提升防范算法侵權(quán)風險的技術(shù)水平和治理能力。
(陳兵系南開大學競爭法研究中心主任、法學院教授,中國新一代人工智能發(fā)展戰(zhàn)略研究院特約研究員;林思宇系南開大學競爭法研究中心博士生)
近日,位于貴港市覃塘區(qū)的豪博新材料科技公司車間,全自動生產(chǎn)設備有序運轉(zhuǎn),一車車3厘米貼面板整裝待發(fā),即將出口到越南等東盟國家。3厘米更多
2022-03-14 16:50:34近日,濉溪經(jīng)濟開發(fā)區(qū)李莊村轄區(qū)的星河小區(qū)70盞新路燈亮了,夜間明亮的路燈暖了村民的心。李莊村轄區(qū)的星河小區(qū)是回遷小區(qū),相關(guān)配套設施相更多
2022-03-14 16:47:59新春伊始,四鋪鎮(zhèn)20個村193個自然莊吹響了開展人居環(huán)境大整治大提升比學趕超的集結(jié)令,廣大黨員干部積極行動起來,瞄準難點發(fā)力攻堅、瞄準更多
2022-03-14 16:44:43春風催新綠,植樹正當時。3月2日上午,五溝鎮(zhèn)組織全體機關(guān)干部職工、部分人大代表、新時代文明實踐所志愿者、青年志愿者、巾幗志愿者在白尤更多
2022-03-14 16:41:32濉溪縣近日召開城鎮(zhèn)臨街門頭店招設置工作安排部署會暨城鎮(zhèn)臨街門頭店招與廣告設計培訓會,進一步規(guī)范城鎮(zhèn)臨街門頭店招與戶外廣告設置,提升更多
2022-03-14 16:39:022021年以來,濉溪縣法律援助中心不斷探索新路徑,創(chuàng)新工作方法,全力維護城鄉(xiāng)困難群眾合法權(quán)益,高質(zhì)量完成上級下達的各項任務目標,法律援更多
2022-03-14 16:31:40,濉溪縣民政局組織巾幗志愿者到濉溪經(jīng)濟開發(fā)區(qū)敬老院開展愛心志愿服務活動,用實際行動踐行雷鋒精神,以別樣方式慶祝三八婦女節(jié)。在敬老院更多
2022-03-14 16:29:17濉溪縣應急管理局聯(lián)合社會救援力量開展共訓共練應急演練活動?;顒蝇F(xiàn)場展出了大小型無人機、汽油無齒鋸、雷達生命探測儀、發(fā)電機、海事衛(wèi)星更多
2022-03-14 16:26:48近日,在全省供銷社三屆三次理事會議暨三屆三次監(jiān)事會議上,濉溪縣供銷合作社聯(lián)合社以第三名的優(yōu)異成績獲2021年度全省供銷系統(tǒng)綜合業(yè)績考核更多
2022-03-14 16:20:06全縣文明創(chuàng)建動員大會召開后,濉溪縣城管局作為創(chuàng)建全國縣級文明城市的主創(chuàng)部門,立即把創(chuàng)建工作擺到局黨組重中之重的工作位置,統(tǒng)一思想、更多
2022-03-14 16:16:42