9.9元一鍵生成個人寫真，效果堪比實體照相館。近日，一款AI相機快速出圈，在社交媒體刷屏。隨著AIGC(生成式人工智能)大模型的應用越來越多，數(shù)據(jù)非法獲取、數(shù)據(jù)泄露及惡意濫用等法律風險也層出不窮。

網(wǎng)絡空間不是“法外之地”。為應對技術迭代帶來的挑戰(zhàn)，人民法院加強網(wǎng)絡空間人格權(quán)益保護，推進網(wǎng)絡空間治理法治化。

新技術帶來數(shù)據(jù)隱私泄露風險

先上傳20張照片，付費9.9元就可以開始線上排隊等待系統(tǒng)生成寫真。在“妙鴨相機”走紅之際，其觸及用戶隱私的使用條款引發(fā)爭議。

“妙鴨相機”用戶服務協(xié)議的相關授權(quán)許可規(guī)定：妙鴨相機不但可以使用用戶AI生成的內(nèi)容作為再訓練數(shù)據(jù)，還永久的、不可撤銷的、可轉(zhuǎn)讓的、可轉(zhuǎn)授權(quán)的使用用戶上傳的內(nèi)容，哪怕是在元宇宙等虛擬空間。

而后團隊致歉，更改用戶服務協(xié)議并承諾用戶上傳的照片只會用于數(shù)字分身制作，不會提取也不會用于識別和其他用途，且分身制作完成后自動刪除。

近期，有關AIGC監(jiān)管文件快速出臺。7月13日，網(wǎng)信辦聯(lián)合7部門發(fā)布了《生成式人工智能服務管理暫行辦法》，其中規(guī)定“不得非法留存能夠推斷出用戶身份的輸入信息，不得根據(jù)用戶輸入信息和使用情況進行畫像，不得向他人提供用戶輸入信息”。這一規(guī)定將于8月15日正式落地。

在用戶隱私存在風險的同時，濫用AIGC模型還可能生成欺騙性內(nèi)容，也引發(fā)擔憂。

AIGC給出假信息怎么辦？8月3日，北京互聯(lián)網(wǎng)法院發(fā)布涉網(wǎng)絡暴力案件審理情況報告。報告指出，隨著社交網(wǎng)絡不斷發(fā)展以及新技術的應用，新型網(wǎng)絡暴力手段更新較快、層出不窮，以人肉搜索、合成虛假照片、制作表情包、傳播“AI換臉”視頻等形式發(fā)生的網(wǎng)絡暴力愈演愈烈。

“AI換臉”并不是新物種，它是利用人工智能等信息技術手段，操縱、修改視頻、影像數(shù)據(jù)，將某人的面部更換為他人的面部，但保留身體動作等軀干特征，并在此基礎上形成高度逼真的圖像、視頻等。

《法治日報》記者注意到，杭州互聯(lián)網(wǎng)法院等曾審理過因“AI換臉”App利用深度合成算法侵害他人肖像權(quán)的案件，判決App開發(fā)者賠禮道歉并賠償損失。

法院加強對侵權(quán)行為干預處置

“隨著互聯(lián)網(wǎng)的發(fā)展，廣大網(wǎng)絡用戶喜歡在網(wǎng)絡上分享自己的生活，與此同時也出現(xiàn)了個人信息泄露、遭受網(wǎng)絡暴力等現(xiàn)象，此類以影射方式貶損他人，侵犯他人名譽權(quán)的案件不在少數(shù)。”北京互聯(lián)網(wǎng)法院少年法庭庭長孫銘溪介紹說。

北京互聯(lián)網(wǎng)法院發(fā)布的涉網(wǎng)絡暴力案件審理情況報告顯示，該院堅持民法典立法精神，在權(quán)利人的人格權(quán)益受到侵害或妨害時，對于人格權(quán)請求權(quán)的審查，不以構(gòu)成過錯或?qū)嶋H損失等侵權(quán)責任為條件，受害人僅需證明人格權(quán)益遭受侵害或妨害即可，降低了權(quán)利人的舉證負擔，有效遏制了損害的進一步擴大，強化了對權(quán)利人人格權(quán)的救濟與保護。

朋友圈盜圖冒充他人，發(fā)送不良信息是否構(gòu)成侵權(quán)？

在劉某訴趙某網(wǎng)絡侵權(quán)責任糾紛案中，原告劉某與被告趙某為大學同學，并互為微信好友。被告持續(xù)兩年多時間復制原告發(fā)布在朋友圈、微博的照片及文字，發(fā)布在自己注冊的、仿冒原告的微博賬戶中，營造仿冒微博賬戶為原告使用的假象。

被告利用仿冒微博賬戶給其他用戶私信發(fā)送無法辨認、面部模糊的女性暴露照片，讓其他用戶誤以為色情圖片的主角為原告，或認為原告使用該微博賬號從事違法交易。原告發(fā)現(xiàn)后，向北京互聯(lián)網(wǎng)法院提起訴訟，主張自己名譽權(quán)遭到侵害，要求被告賠禮道歉、賠償損失。

法院經(jīng)審理認為，在本案中，被告長期盜用原告朋友圈照片及文字在其注冊的微博賬戶中發(fā)布，容易使讀者認為該賬戶為原告持有，并利用該微博賬戶給其他用戶私信發(fā)送無法辨認面部的女性暴露照片，該行為必然致使他人對原告的社會評價降低，侵害原告的名譽權(quán)。

最終，法院判決被告在媒體上刊登致歉聲明向原告賠禮道歉，賠償原告精神損害賠償金和律師費。

“對于如何判斷網(wǎng)絡信息針對的對象是否為特定人，并不必須要求侵權(quán)言論指名道姓，只要原告能證明在特定情況下，具有特定知識背景的人有理由相信該陳述針對的對象是該人即可。”孫銘溪指出，民事主體享有名譽權(quán)，任何組織或個人不得以侮辱、誹謗等方式侵害他人的名譽權(quán)。若遭遇網(wǎng)絡侮辱、誹謗等侵權(quán)行為，可及時尋求司法救濟。

及時發(fā)禁令限制虛假信息傳播

“北京互聯(lián)網(wǎng)法院涉網(wǎng)絡暴力的案件主要為以名譽權(quán)、隱私權(quán)、個人信息權(quán)益等人格權(quán)益受到侵害為由提起的網(wǎng)絡侵權(quán)責任糾紛。”北京互聯(lián)網(wǎng)法院副院長趙瑞罡說。

自2018年9月至今，該院以自然人為原告、以判決形式審結(jié)的該類案件共465件作為統(tǒng)計分析樣本發(fā)現(xiàn)，從權(quán)利類型來看，在網(wǎng)絡侵害人格權(quán)案件中，單獨主張名譽權(quán)糾紛257件，占比55.3%；單獨主張隱私權(quán)糾紛7件，占比1.5%；單獨主張個人信息權(quán)益糾紛12件，占比2.6%。

“侵權(quán)主體難以直接鎖定、侵權(quán)行為復雜多樣和侵害后果難以量化是此類案件審理的主要難點。”趙瑞罡表示，面臨網(wǎng)絡暴力司法治理的新形勢，該院堅持強化人格權(quán)益網(wǎng)絡保護工作，依法保障網(wǎng)暴受害人權(quán)利，堅決懲治網(wǎng)絡暴力侵權(quán)行為，依法落實和強化平臺責任承擔，依法確定“網(wǎng)絡大V”的核實注意義務，不斷探索完善涉網(wǎng)暴案件的裁判理念和規(guī)則。

此外，北京互聯(lián)網(wǎng)法院積極探索在涉網(wǎng)暴案件中“人格權(quán)禁令”制度的具體適用，對于符合民法典第九百九十七條規(guī)定的“民事主體有證據(jù)證明行為人正在實施或者即將實施侵害其人格權(quán)的違法行為，不及時制止將使其合法權(quán)益受到難以彌補的損害”情形的，根據(jù)權(quán)利人申請，依法及時作出人格權(quán)侵害禁令。

記者注意到，在一起網(wǎng)絡侵權(quán)責任糾紛案中，侵權(quán)人在開庭前及庭審后持續(xù)通過網(wǎng)絡賬號以每晚定點直播形式公開發(fā)布大量涉嫌侵權(quán)的內(nèi)容，北京互聯(lián)網(wǎng)法院依權(quán)利人申請，及時對侵權(quán)人作出人格權(quán)侵害禁令。

“北京互聯(lián)網(wǎng)法院將進一步通過發(fā)布涉網(wǎng)絡暴力典型案例、開展多種形式的普法活動、制作線上普法視頻等方式，向社會明確傳導‘網(wǎng)絡空間不是法外之地’的理念，引導廣大網(wǎng)民共建美好精神家園。”趙瑞罡說。