By accepting you will be accessing a service provided by a third-party external to https://www.incgmedia.com/
開放下載測試版！AI 反被 AI 誤？！芝加哥大學研究團隊 SAND Lab 推出免費工具 Glaze，保護藝術家作品免受 AI 模仿
AI 可說是現今最為火紅的話題之一，2022 年 4 月開發商 OpenAI 推出 AI 繪圖升級版本模型 DALL-E 2，使用者只需輸入文字，即可生成與文字內容相應的圖片，但此模型當時並未開放給大眾使用。直到 7、8 月 Midjourney 和 Stable Diffusion 的出現，因一般人也能輕鬆使用，在社群上掀起了一波熱潮，發展出諸多所謂的「AI 藝術」。而隨著 AI 技術不斷地發展革新，加上後續也爆出訓練 AI 工具的圖片來源可能涉及了竊取智慧財產權的行為，爆出許多爭議與負面消息，造成許多藝術家反彈。近日，芝加哥大學研究團隊 SAND Lab 開發一款名為「Glaze」的工具，將可保護藝術家作品免受 AI 模仿。
與訴訟發起人舊金山藝術家等千位藝術家合作研發
芝加哥大學研究團隊 SAND Lab 由電腦科學系教授 Ben Zhao 和 Heather Zheng 領導，成員有芝加哥大學電腦科學系博士生 Jenna Cryan、Shawn Shan、Emily Wenger 以及助理教授 Rana Hanocka。芝加哥大學教授 Ben Zhao 表示，以往藝術家們會將個人作品分享到網路上，以用來行銷、廣告自己的創意，如今他們十分害怕將自己的作品投入至「越來越像自己的怪物」，這也間接影響他們以往的商業模式。為此，研究團隊與 1,100 多位藝術家合作，其中還包含前陣子訴訟發起人之一舊金山藝術家 Karla Ortiz，研究開發一款名為 Glaze 的小工具，旨在阻止 AI 模型學習特定藝術家的風格。
藝術家真的需要這個工具，無論是情感上或財務上，AI 這項技術對他們的影響是十分真實的。在與一些系所老師交談後得知，有些學生甚至為此感到產業沒有未來，因而申請退學。而許多領域專業人士則得承受著個人創作風格被剝奪的事實。
by 芝加哥大學電腦科學系教授 Ben Zhao
早於 2020 年，SAND Lab 就開發了一種可隱藏個人照片的演算法 Fawkes，使這些照片無法用於訓練臉部辨識模型，後來該項研究被紐約時報和數十家國際媒體報導，該軟體獲得了近百萬次下載。因此，當 2022 年 DALL-E、Midjourney 等類似工具爆紅時，SAND Lab 開始收到來自多位藝術家的來信，表示希望藉由 Fawkes 來保護他們的作品。
然而，僅僅將 Fawkes 改成適用於藝術作品的工具，仍然略顯不足，無法有效防止 AI 模型模仿。以人臉來說，僅有眼睛顏色、鼻子形狀等少數特徵，模型通常會根據這些特徵進行識別，所以只要稍微擾亂這些特徵，就能達到有效的保護。但是藝術家的作品風格是透過大量特徵來定義，例如：筆觸、調色、陰影或紋理等。為了有效地掩蓋藝術家的作品，必須確定構成獨特個人風格的最重要特徵為何。
我們不需要改變作品中的所有物件，才能保護藝術家，我們只需要改變風格特徵，所以我們必須想出一種方法，將風格特徵與作品中物體分割出來，再用特定手法來破壞風格特徵。
by 芝加哥大學電腦科學系博士生 Shawn Shan
讓 AI 自欺欺人，成功突破 AI 模仿的輪迴
為找到解決方案，研究團隊靈機一動，想到一種讓 AI 對付 AI 的方法。「風格轉移」演算法算是 AI 生成藝術模型中的一部份，於是他們將現有圖像，像是人物肖像、靜物或風景畫，以立體主義、水彩風格或梵谷、林布蘭知名藝術家風格等特定模式，重新創建作品，而圖像內容內容保持不變。 Glaze 就是透過此方法來運作，把原始作品的風個轉換成別種風格，產生不同風格特徵後，就足以愚弄這些模仿藝術的 AI 模型，同時讓原始藝術在肉眼看來幾乎沒有變化。Ben Zhao 表示：「我們先讓 AI 模型告訴指證出圖像中哪些部分與風格最相關，接著我們利用這些資訊來誤導 AI 辨識出與原先作品截然不同的風格。」所以當 AI 繪圖工具輸入這些偽裝圖像，要求生成某個藝術家風格的新圖像時，會生成出不太成功的偽造品，其風格會介於原先作品與調整過後之間，即使該 AI 模型是以調整前與調整後的圖像組合進行訓練，模仿起來也不會太過於準確。
研究團隊幾周內將推出免費版本，供藝術家使用
對於許多藝術家來說，絕對是個天大的好消息，因為他們擔心 AI 模型已經從先前發表的作品當中學到了足夠的知識，可以進行準確地偽造。Ben Zhao 根據此表示，由於這些 AI 模型必須不斷地從網站上抓取新的數據，所以偽裝圖像的增加最終會毒害他們重現藝術家風格的能力。研究團隊表示，在開發 Glaze 的每一過程中都與藝術家密切合作，首先先針對 1,000 多名藝術家進行調查，了解他們對 AI 藝術的擔憂，以及會如何影響他們的職涯與在網路上發布作品的意願。接著，團隊主要以 4 位藝術家以及過往歷史上共 195 位藝術家作品進行測試，並組成一個藝術家焦點小組來評估該軟體在破壞 AI 模仿的表現。在最後結果中，有超過 90% 的藝術家表示他們願意在發布作品時使用該軟體。目前也正在開發免費下載版本，使藝術家在發佈作品前能輕鬆在家透過幾分鐘的時間對圖像進行偽裝。
在調查過程中發現大多藝術家已開始對 AI 採取了行動，他們開始下架或是上傳解析度較低的作品，但這些方式反而會對他們的工作造成不利，因為這就是他們找工作的方式。使用 Glaze，對圖像的干擾越多，保護效果就越好。當我們詢問藝術家他們對什麼感到滿意時，不少人表示選擇了最高級別，他們寧可容忍巨大的干擾，也不願自己的作品風格被偷走，因為這將會帶來毀滅性的後果。
by 芝加哥大學電腦科學系博士生 Shawn Shan
點此觀看 Glaze 研究論文，或是於 SANDLab 網站上閱讀更多相關資訊。
團隊日前已開放下載 Glaze 測試版，點此安裝。
資料來源：80 Level、UCHICAGO CS NEWS。文章由映 CG 所有，如需轉載請聯絡我們。
