分類: 最新資訊 說說詞典 編輯 : 大寶123 發(fā)布 : 04-07

閱讀 :134

來源：封面新聞封面新聞?dòng)浾?邊雪AI繪畫，AI視頻，AI對(duì)話……在AI正加速滲透現(xiàn)代人的生活的當(dāng)下，以DALL-E、Midjourney和Stable Diffusion等AI圖像生成器，或Bard、ChatGPT、Chinchilla和LLaMA等生成式 AI，正迎來裂變式增長(zhǎng)的用戶。通過將智能的機(jī)器學(xué)習(xí)算法與數(shù)十億條人類生成的內(nèi)容相結(jié)合，這些系統(tǒng)似乎可以做任何事情：從根據(jù)字幕創(chuàng)建一個(gè)極度逼真的圖像，或是通過已公開的用戶照片合成一張新的自拍照，用視頻中的一個(gè)人的肖像替換另一個(gè)人也只需要?jiǎng)觿?dòng)手指。在這個(gè)由AI構(gòu)成的“新世界”中，生成式AI創(chuàng)建的內(nèi)容高度逼真，普通人越來越難準(zhǔn)確區(qū)分真人和 AI 生成內(nèi)容，偽造、扭曲現(xiàn)實(shí)、造謠將變得越來越容易，有圖也不是真相，有視頻可能也不是真相——它們需要先證明自己是真的才行。Midjourney 生成的災(zāi)難現(xiàn)場(chǎng)照片。只需幾十張照片，AI就能精準(zhǔn)復(fù)制出你的樣子人工智能技術(shù)日益發(fā)展，深偽技術(shù)（deepfake，即基于人工智能的人體圖像合成技術(shù)）也在人們生活中更加常見，而且更常被濫用。最近，喜歡拍照的王洛奇（化名）迷上了AI寫真。“給自己拍照，老公怎么訓(xùn)練也練不出來，自從用上了AI生成軟件，‘喂了’大概50張自己之前拍過的照片，并根據(jù)這些照片訓(xùn)練lora模型后，寫真再也不愁沒有好的攝影師拍了。”王洛奇告訴封面新聞?dòng)浾撸褂肁I生成的寫真，相似度應(yīng)該在95%以上。“我拿了一張AI生成的寫真去問了女兒照片中的人是誰？孩子表示這就是媽媽呀，還問我什么時(shí)候拍的。”因?yàn)樵谕趼迤孢M(jìn)行AI寫真訓(xùn)練時(shí)，使用的照片大多是在泰國旅行時(shí)拍的，還有幾張穿泰服的，結(jié)果AI生成的寫真極具異域色彩。“我嘗試了用AI生成點(diǎn)賽博朋克風(fēng)的照片，都是泰里泰氣的，充滿異域感的賽博朋克風(fēng)。”當(dāng)被問到AI生成的照片是否有明顯的缺點(diǎn)時(shí)，王洛奇想了想告訴封面新聞?dòng)浾撸骸捌鋵?shí)AI寫真的近景和中景都很無敵了，要非說缺點(diǎn)，就是遠(yuǎn)景的全身照臉部會(huì)有點(diǎn)垮，不知道是不是訓(xùn)練素材數(shù)量不太夠還是生成照片的像素太低導(dǎo)致的。”制作真實(shí)人物的虛假視頻技術(shù)正變得越來越容易獲得。生成人工智能的進(jìn)步將很快意味著，虛假但視覺上令人信服的內(nèi)容將在網(wǎng)上激增，從而導(dǎo)致信息生態(tài)系統(tǒng)更加混亂。近日，一位女網(wǎng)友在網(wǎng)上曬出自己在地鐵列車的照片被別有用心的網(wǎng)友下載，并用AI技術(shù)“一鍵脫衣”，造謠圖隨后在網(wǎng)上廣泛傳播。此事引發(fā)網(wǎng)友關(guān)注并沖上熱搜。事實(shí)上，照片的女主角是一名博主，所謂的“裸照”是她去年7月在某平臺(tái)分享的一張照片。原圖中她衣著正常，沒有任何不妥之處，但被人用AI軟件一鍵脫衣，故意全網(wǎng)散播。但更嚴(yán)重的是，如果AIGC內(nèi)容不斷訓(xùn)練后，將能夠輕松地將視頻或圖片視為雖然虛假但難以分辨的偽證，來損害當(dāng)事人的利益和名譽(yù)。該名小紅書博主發(fā)布穿著正常體恤和短褲的照片，卻被人用AI軟件“一鍵脫衣”并且將照片在網(wǎng)絡(luò)上瘋傳。AI時(shí)代，加水印能保護(hù)用戶隱私嗎？據(jù)外媒報(bào)道，在 Dall-E 生成的特朗普被捕的假照片病毒式傳播后，專門研究圖像取證的計(jì)算機(jī)科學(xué)家、伯克利計(jì)算機(jī)科學(xué)教授Hany Farid主張對(duì) AI 圖像進(jìn)行視覺指定：是時(shí)候該給這些數(shù)字照片貼上可識(shí)別的標(biāo)簽。當(dāng)社會(huì)關(guān)注聚焦于生成人工智能將如何進(jìn)步，有合理且技術(shù)上可行的干預(yù)措施可減輕AI工具的濫用。Hany Farid在接受記者采訪時(shí)表示：“我認(rèn)為解決這個(gè)問題的有效方法之一，就是添加水印。”標(biāo)記文件和其他物品以證明其真實(shí)性、表明所有權(quán)和反偽造的歷史由來已久。以龐大的圖像檔案庫Getty Images為例，Getty Images為其目錄中的所有數(shù)字圖像添加了可見水印，允許客戶在保護(hù)公司資產(chǎn)的同時(shí)自由瀏覽圖像。不可察覺的數(shù)字水印也可用于數(shù)字版權(quán)管理，將水印添加到數(shù)字圖像中。例如，每次調(diào)整第10個(gè)圖像像素，使其顏色（通常是 0 到 255 范圍內(nèi)的數(shù)字）為偶值。因?yàn)檫@種像素調(diào)整非常小，所以水印是難以察覺的。由于這種周期性模式不太可能自然發(fā)生，而且很容易驗(yàn)證，因此可用于驗(yàn)證圖像的來源。即使是中等分辨率的圖像也包含數(shù)百萬像素，這意味著可以將附加信息嵌入到水印中，包括對(duì)生成軟件進(jìn)行編碼的唯一標(biāo)識(shí)符和用戶 ID，值得注意的是，這種相同類型的水印可以應(yīng)用于音頻和視頻。理想的水印是不易察覺的，并且對(duì)裁剪、調(diào)整大小、顏色調(diào)整和轉(zhuǎn)換數(shù)字格式等簡(jiǎn)單操作也有彈性，這些水印可以通過在所有訓(xùn)練數(shù)據(jù)上添加，并被拷貝到生成人工智能系統(tǒng)中，這樣在該軟件上生成的內(nèi)容將包含相同的水印。根據(jù)OpenAI 公開發(fā)布的內(nèi)容顯示，該公司正在試驗(yàn)一個(gè)系統(tǒng)來為ChatGPT 的創(chuàng)作添加水印，但段落中的字符不能像數(shù)值那樣進(jìn)行調(diào)整，因此文本水印采用不同的形式。基于文本的生成式AI是基于生成句子中產(chǎn)生下一個(gè)最合理的單詞。例如，從“一個(gè)AI系統(tǒng)可以……”這個(gè)句子片段開始，ChatGPT將預(yù)測(cè)下一個(gè)單詞應(yīng)該是“學(xué)習(xí)”“預(yù)測(cè)”或“理解”。與這些單詞相對(duì)應(yīng)出現(xiàn)在下一個(gè)句子中出現(xiàn)的單詞的可能性是有一定概率的。ChatGPT從它所訓(xùn)練的大量文本中學(xué)習(xí)這些概率。生成的文本可以通過秘密地標(biāo)記單詞子集，然后將一個(gè)單詞的選擇偏向于同義詞標(biāo)記單詞來標(biāo)記水印。例如，可以使用帶標(biāo)簽的單詞“領(lǐng)悟”來代替“理解”。通過以這種方式定期選擇偏置的單詞，基于標(biāo)記單詞的特定分布為文本體加水印。海外社交平臺(tái)截圖。科技的邊界也需法來明確高水準(zhǔn)“AI畫師”Stable Diffusion曾為自己設(shè)置了一個(gè)Safety Checker，這是一個(gè)自動(dòng)審核圖片安全性的程序，一旦監(jiān)測(cè)到生成的圖像涉嫌違規(guī)，即它在內(nèi)容政策里寫明的不得用來生成的“引人不適的、色情、仇恨、暴力等圖像”，機(jī)器就會(huì)攔下這張圖片。但開元的Stable Diffusion可以通過用戶調(diào)節(jié)來管邊自動(dòng)審核功能，在關(guān)閉該功能之后，任何可能涉及仇恨、暴力、色情的描述違禁詞都可以被作為生成照片的描述。據(jù)外媒報(bào)道，旨在創(chuàng)建媒體認(rèn)證標(biāo)準(zhǔn)的協(xié)作項(xiàng)目的內(nèi)容來源和認(rèn)證聯(lián)盟(以下簡(jiǎn)稱：C2PA) ，最近發(fā)布了一個(gè)開放規(guī)范來支持視聽內(nèi)容可以被驗(yàn)證為人工生成。隨著 Adobe、微軟、英特爾、BBC 等多家技術(shù)公司加入這項(xiàng)工作，C2PA 已做好充分準(zhǔn)備，以生產(chǎn)有效且廣泛部署的身份驗(yàn)證技術(shù)。對(duì)人類生成的內(nèi)容和人工智能生成的內(nèi)容進(jìn)行聯(lián)合簽名和水印處理，雖然不能防止一切形式的濫用，但可以提供一定程度的保護(hù)。任何安全措施都必須不斷調(diào)整和完善，因?yàn)椤皩?duì)手”會(huì)找到將最新技術(shù)武器化的新方法。近日，江蘇首例“人臉解封”侵犯公民個(gè)人信息案公開審理，鄭某在被害人不知情的情況下從他人處購買包含姓名、身份證號(hào)碼、照片、視頻等個(gè)人信息然后操作圖片形成動(dòng)態(tài)視頻來進(jìn)行人臉核驗(yàn)解封他人賬號(hào)，幫助詐騙團(tuán)伙實(shí)施犯罪。被告人鄭某因犯侵犯公民個(gè)人信息罪被判有期徒刑八個(gè)月，緩刑一年，并處罰金人民幣40000元，作案工具予以沒收。該案目前已生效。法官指出，侵犯公民個(gè)人信息犯罪是互聯(lián)網(wǎng)黑灰產(chǎn)業(yè)鏈的上游犯罪，其直接侵害的是公民的隱私及信息安全，行為涉及面廣、危害嚴(yán)重。此外，購買或下載非官方授權(quán)或當(dāng)事人同意的個(gè)人信息文件后，在微信群等社交媒體上進(jìn)行轉(zhuǎn)載、傳播，亦會(huì)侵犯公民隱私權(quán)甚至涉嫌違法犯罪。所以廣大市民在看到相關(guān)涉及公民個(gè)人信息的名單時(shí)，不能進(jìn)行轉(zhuǎn)載、傳播，亦應(yīng)及時(shí)提醒親戚朋友刪除，避免二次傳播給涉事公民造成更嚴(yán)重侵害。“要遏制AI合成的亂象，得政府監(jiān)管部門、平臺(tái)、網(wǎng)民多方形成合力，多管齊下，一個(gè)都不能少。”北京航空航天大學(xué)法學(xué)院副教授、北京科技創(chuàng)新中心研究基地副主任趙精武曾表示，作為服務(wù)的提供者，AI合成平臺(tái)必須承擔(dān)主體責(zé)任。《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對(duì)AI合成的服務(wù)提供方作出了多項(xiàng)規(guī)定，比如，AI合成平臺(tái)必須要求內(nèi)容創(chuàng)作者實(shí)名認(rèn)證，監(jiān)督創(chuàng)作者標(biāo)明“這是由AI合成”之類的標(biāo)識(shí)，以免誤導(dǎo)公眾；在提供“換臉”技術(shù)前，應(yīng)該征得“被換臉”者的同意；并完善數(shù)據(jù)管理、保障個(gè)人信息安全。《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》要求深度合成服務(wù)提供者和技術(shù)支持者加強(qiáng)訓(xùn)練數(shù)據(jù)管理和技術(shù)管理。如同垃圾郵件、釣魚網(wǎng)站伴隨著互聯(lián)網(wǎng)的誕生而難以清除，在AIGC逐漸普及的當(dāng)下，抵御在使用生成AI的各種形式的濫用，何為現(xiàn)實(shí)何為AI生成的“真假之辯”，似乎也是一場(chǎng)“持久戰(zhàn)”。

下一篇:ChatGPTPlus停售風(fēng)波：算力不足是偽命題，數(shù)據(jù)才是關(guān)鍵 下一篇 【方向鍵 ( → )下一篇】

上一篇:好快！大華朱辛莊地塊戶型圖過程稿疑似流出 上一篇 【方向鍵 ( ← )上一篇】