爲了反擊賽博侵權,有人開始用工具給AI“投毒”了?

文/一碗葫蘆

看到這張圖,你的第一想法是什麼?

 ——那麼這張呢?

是的,不知道你看沒看出來,這兩張圖均爲AI繪圖軟件Midjourney V5.2所生成的AI作品。

但老實說,在看第一張圖片時,我還在爲其中過於完美的皮膚和頭髮細節質疑這到底是不是AI作品;

而當看到第二張圖片的時候,我已經毫無懷疑的覺得——這是一張真實的畫作了。

自從前幾個月Midjourney更新到第五個版本(目前已更新到v5.2)之後,AI作品的最後一道難題——“AI不會畫手”也隨之被攻克。

你會發現,最近的AI圖片的細節越來越完善,似乎看不出一點問題。

AI圖片和真實作品的邊界,似乎已經變得越來越模糊了。

AI學會畫手前後


但在另一邊,隨着AI作品越來越難以分辨,關於AI作品是否造成侵權的問題也變得愈加嚴峻。

還記得去年12月的時候,由於最大的藝術作品網站Artstation由於公開支持上傳AI作品,遭到了藝術家們的集體抵制;

Artstation的事件可以說是打響了藝術家反AI的第一槍

而當AI這股風吹到了國內,國內的畫師們也因爲平臺侵權等問題在Lofter、小紅書上掀起了一場反AI的抗議,到如今依舊有很多用戶呼籲停止利用AI進行創作。

當時Lofter的版面

爲了避免自己的作品被拿去“煉丹”,不少畫師試圖用投餵“鬼圖”的方式污染AI數據庫。但由於計算機算法和人力的速度相差懸殊,畫師們試圖以自發行動來影響AI的行爲,似乎也有些“以卵擊石”了。

那麼,既然AI繪圖是基於互聯網技術進行的,那麼有沒有可能,大家也可以利用這種技術來“反AI”呢?

你別說,最近還真的有人做出了一款專門用來給AI“投毒”的工具——Nightshade。

Nightshade是芝加哥大學團隊開發的一款數據污染工具,可以用來反擊“AI在未經創作者允許的情況下利用其作品來訓練模型”的這種行爲。

那麼它要如何污染AI數據庫,從而影響AI生成的作品呢?

——直白點講,就是給AI“投毒”

類似於創作者們給數據庫喂“鬼圖”的行爲,這個工具可以給畫作打上一種“隱形”的標記,意爲“下毒”。而一旦這些被下了毒的畫作被非法抓取到數據庫中進行訓練的話,那麼這整個訓練模型就會“中毒”,生成一些“文不對題”的混亂圖片。

例如,當用正常的AI訓練模型,它或許能夠給你生成一張滿意的圖片。而當你在數據庫被污染之後再進行訓練,那麼它輸出的可能是類似於“狗變成貓”、“車變成牛”這類和需求完全無關的圖像。

使用AI生成狗的圖片


使用AI生成車的圖片 沒被污染的AI圖(前)被污染後的AI圖(後)


同時,隨着這些圖片的“毒效”增強,生成的圖片也會變得更加千奇百怪。當數據庫裏有50張“毒圖”時,生成的圖片就會變得和需求不一樣;而當庫裏足足有300張毒圖時,生成的圖片則會完全不相關。

從上往下依次爲沒被污染,50張、100張、300張毒圖輸出的圖片

而這個“下毒工具”厲害到連圖片的風格都能改變,如果數據庫中的毒性夠大,你甚至能夠看到類似“奇幻風格到點彩畫法”、“卡通畫風到印象派”這樣的轉變——不得不說,這生成的圖片和原來的需求不能說是完全不同,只能說是毫不相關了。

奇幻→點彩


抽象派→動漫


卡通→印象派


在如此強大的反AI工具公佈之後,自然也引起了創作者圈子中的一場轟動。

不少創作者都開始自發的分享並介紹起了Nightshade,希望大家能夠好好利用這個工具,能夠在和AI的這場戰爭中打一個好的“翻身仗”。

也有很多網友表示,即便自己迫於需求使用AI工具,但是也很高興能夠看到出現制衡AI侵權現象的工具,能夠讓AI“問心無愧”的生成大家真正需要的作品。

但在另一方面,由於AI技術發展得實在是太快了,所以不少人對這個尚未成熟的技術還是報以消極的態度。

有不少認爲,既然可以“下毒”,那麼肯定還有“解毒”的方法。所以通過對圖片下毒的方式,最終或許也會被使用AI工具的人們逆向解決。

而從長遠來看,這種使用技術反擊的方式只會成爲創作者們無法承受的“軍備競賽”——利用互聯網技術互相制衡,但無論結局怎樣,最後都會兩敗俱傷。

就好像《賽博朋克2077》中的故事一樣,爲了抵禦流竄的AI,人們建立起一道“黑牆”隔絕現實和失控的網絡空間。但沒有什麼防火牆是絕對可靠的,隨着技術的升級,這道牆必然在內外的鬥爭中不再牢固。

而要說創作者與AI之間的這場拉鋸戰,是否會如“黑牆”內外的人們一樣,持續進行科技發展下的較量?我們不得而知。

《賽博朋克2077》中的黑牆

但無法否認的是,在這段時間裏,這個給AI作品“下毒”的工具,一定能夠成爲創作者們反擊AI侵權行爲的有力武器。

更多遊戲資訊請關註:電玩幫遊戲資訊專區

電玩幫圖文攻略 www.vgover.com