歡呼“賽博女菩薩”誕生的人，準(zhǔn)備好上供了嗎？

近幾天，互聯(lián)網(wǎng)上四處流傳著一條關(guān)于“女仆之夜：金雞湖游艇Party”的神秘信息。

這種活動(dòng)原本并沒有什么值得注意的地方，無(wú)非是提供給都市男女們的一次昂貴的夜生活機(jī)會(huì)，唯一具備吸引力的，可能就只有“配備隨身女仆一名”幾個(gè)大字了。但有趣的是，活動(dòng)主辦方提供給顧客挑選的女仆照片，在具備相當(dāng)高水準(zhǔn)的同時(shí)，又有著許多的古怪。

乍一看下，這些照片都沒什么問題。只不過，活動(dòng)的主辦方在做圖技術(shù)上顯然缺乏火候，那些手掌明顯畸形了的美女，怎么看都不像個(gè)正常人。

實(shí)際上，她們也的確不是正常人，甚至都不是人——每一張照片，都是AI在經(jīng)過訓(xùn)練之后生成的。對(duì)近幾個(gè)月來(lái)AI繪圖風(fēng)潮有所了解的讀者老爺們，應(yīng)當(dāng)能從這些與克蘇魯“澀圖”如出一轍的畸形手掌上，嗅到不少熟悉的氣息。

用AI生成的照片來(lái)騙顧客上船，這種無(wú)本萬(wàn)利的手法，成了國(guó)內(nèi)網(wǎng)友們見證下的第一起“使用AI詐騙”的案例。

雖然活動(dòng)主辦方也迅速被警方約談，事情告一段落，但串聯(lián)起近幾年的AI發(fā)展歷史，以及在這個(gè)過程前后出現(xiàn)的一些事件，我們仿佛能在這兩類事件中看到一種清晰的邏輯關(guān)系，當(dāng)他們彼此勾連的時(shí)候，AI繪畫這個(gè)事物的一體兩面，總給人一些頗為深遠(yuǎn)的意味。

去年下半年，AI繪畫在全世界的互聯(lián)網(wǎng)上投下了一顆“原子彈”，炸碎的是人類對(duì)AI只在涉及邏輯的領(lǐng)域笑傲江湖的固有認(rèn)知。

當(dāng)我看到毫無(wú)繪畫基礎(chǔ)的中等偏下老師，在電腦上鼓搗五分鐘就出了套“王道白毛蘿莉圖”，還沒他安裝NovelAI來(lái)得費(fèi)勁的時(shí)候，我就知道這很可能是我生平僅見的一次“技術(shù)爆炸”。

中等偏下老師的作品

果不其然，短短幾個(gè)月，AI繪畫的發(fā)展屢屢突破人們的想象。

在我還以為AI不懂“澀澀”，只會(huì)在一連串的指令代碼下生成一些仿佛從克蘇魯片場(chǎng)來(lái)的怪物，針對(duì)的是對(duì)人類來(lái)說為時(shí)過早的XP時(shí)，飛速進(jìn)步的它們已經(jīng)能夠產(chǎn)出一些質(zhì)量極高的“澀圖”。而操控它們的國(guó)內(nèi)“魔法師們”為此制定的一部?？闯Ｐ碌摹对胤ǖ洹?，甚至引來(lái)不少國(guó)際友人的頂禮膜拜。

那時(shí)關(guān)于“畫師從此失業(yè)”的討論一度甚囂塵上，人類依靠AI生成便能實(shí)現(xiàn)“澀圖自由”的美好明天，似乎即將到來(lái)。

然而，在一眾“賽博列文虎克”的挖掘下，AI繪畫暴露出的諸多弱點(diǎn)——薩菲羅斯不會(huì)游泳只會(huì)站在海面上，樋口円香不會(huì)吃面，美少女們不會(huì)吃蛋糕等等——讓這場(chǎng)繪畫界的“智械危機(jī)”變得有些微妙，似乎AI便技止于此了。

而在各種各樣的“AI繪圖笑話”與層出不窮的二次元“澀圖”相映成趣的幾個(gè)月后，AI繪畫卻在悄無(wú)聲息間完成了真人領(lǐng)域的突破，靠著橫空出世的AI Coser，將次元壁撞成了一地玻璃渣。

雖然如果你仔細(xì)分辨的話，不少AI生成的真人照片仍然有著一定的破綻，仍然是AI繪畫的那些老毛病，比如一些細(xì)節(jié)上的衣物效果，以及永遠(yuǎn)繞不過去的“手”的問題等。

但……不可否認(rèn)的是，那些有著強(qiáng)烈視覺沖擊力的部分，仍然能夠吸引你大量的注意力，讓你無(wú)從判斷其可疑之處。

正經(jīng)人誰(shuí)看手臂?。?

在幾個(gè)月前AI繪畫流行期間，不少人大肆鼓吹其將草稿豐富為成品圖的功能，也有相當(dāng)多“真人照片二次元化”的有趣應(yīng)用，還鬧出過“AI認(rèn)為世上沒有黑人”這種沒品笑話。而在當(dāng)下完成了維度躍升的AI繪畫，則進(jìn)一步展現(xiàn)出了它強(qiáng)大的創(chuàng)作能力，從草稿到成圖，從二次元美少女到現(xiàn)實(shí)世界的AI Coser，AI在繪畫領(lǐng)域已經(jīng)越來(lái)越“無(wú)所不能”。

更讓人吃驚的是，“真人化”并不是當(dāng)下AI的終點(diǎn)。讓“不存在的真人”動(dòng)起來(lái)已經(jīng)不是什么天方夜譚的事情，即便目前只能看到以GIF形式呈現(xiàn)的作品，但這毫無(wú)疑問已經(jīng)邁出了“AI真人影片”的第一步。

幾個(gè)月前就已經(jīng)有過的感慨，在看到那一個(gè)個(gè)栩栩如生的AI Coser之后，又要再發(fā)出一次——大人，時(shí)代真的變了。

如果說“澀澀”是互聯(lián)網(wǎng)的第一生產(chǎn)力，那么當(dāng)下的AI繪圖，帶來(lái)的無(wú)疑便是賽博時(shí)代的生產(chǎn)力大爆炸，無(wú)法滿足于無(wú)窮無(wú)盡且可高度自定義的二次元“澀圖”的“LSP”們，想必能在諸多AI Coser身上，看到“澀澀自由”的曙光。

許多人鐘愛的“勒肉”效果，已經(jīng)有穩(wěn)定產(chǎn)出的可能

在各大社交媒體上，我們常常將那些大方展示自己“Nice Body”的無(wú)私博主，尊稱“女菩薩”。而以AI繪畫當(dāng)下的境界，它完全足以稱之為“賽博女菩薩”，從二次元到三次元，高度定制，沒有創(chuàng)作邊界。在滿足稀奇古怪XP的道路上狂飆，大慈大悲，普度眾生，每一位“LSP”都能從中獲得救贖。

已經(jīng)有“賽博女菩薩”開始上崗了

只是，讓我們回到一開始的“女仆之夜：金雞湖游艇Party”上，一個(gè)疑問油然而生——“賽博女菩薩”的誕生值得歡呼，但如果這位“女菩薩”想騙你上供，那該怎么辦？進(jìn)一步，如果這位“女菩薩”想要傷害你，又該怎么辦？

當(dāng)下的AI繪圖作品，因?yàn)閯?chuàng)作者的全民化，所以絕大多數(shù)仍處于公共分享的領(lǐng)域。但以其發(fā)展之迅猛，能力之全面，成品之出色，它不可阻擋地會(huì)出現(xiàn)在消費(fèi)領(lǐng)域，成為商品供需鏈的一環(huán)。

正常來(lái)說，按照消費(fèi)的邏輯，既然Onlyfans上的“女菩薩”能夠通過上傳照片與視頻來(lái)讓用戶付費(fèi)，那么同樣的模式也能夠平移到AI作品及其客戶身上，關(guān)鍵只在于付費(fèi)者自身的意愿，所謂“千金難買我樂意”，只要他們?cè)敢猓@似乎就是個(gè)公平的交易。

著名同人作品販賣網(wǎng)站DLsite上，AI生成作品已經(jīng)是個(gè)相當(dāng)普遍的標(biāo)簽，明碼標(biāo)價(jià)

但問題在于，不是每個(gè)消費(fèi)者都有能力在充分鑒別了商品之后，根據(jù)自己的消費(fèi)預(yù)期去消費(fèi)的。抱著吃“現(xiàn)做飯菜”的預(yù)期，也付出了給“現(xiàn)做飯菜”的金額的人，自然不會(huì)想要吃到料理包。如果真吃到料理包了，對(duì)他們來(lái)說，自然會(huì)產(chǎn)生一種樸素的“上當(dāng)了”的心理。

前兩天《白夜極光》與“卜爾Q”用AI繪圖當(dāng)商稿所引起的爭(zhēng)議，便起于此。

官方都放出了修改后的版本，結(jié)果“卜爾Q”自己放了個(gè)未修版“自爆”

《白夜極光》本是一個(gè)拿“150位繪師匠心打造”當(dāng)賣點(diǎn)的游戲，但一張備受關(guān)注的情人節(jié)賀圖，卻出現(xiàn)了明顯的AI繪圖痕跡，而且還是畫師本人帶頭使用了AI繪圖，這對(duì)奔著畫師本人的“創(chuàng)作”來(lái)的玩家，無(wú)疑是一種欺騙。

創(chuàng)作的過程本身就是不透明的，畫師必須通過出眾的個(gè)人風(fēng)格與高質(zhì)量的作品，才能夠跨過這層不透明，與粉絲間建立起信賴關(guān)系。而“卜爾Q”的做法，便很輕松地扯斷了自AI繪圖出現(xiàn)后，粉絲與畫師之間那日益脆弱的信任鏈條，把其他未有明顯證據(jù)支撐他們使用了AI繪圖的畫師，卷入了一場(chǎng)“獵巫行動(dòng)”。

許多畫師都在這一期間被迫“自證清白”

而AI帶來(lái)的，還遠(yuǎn)不止繪畫領(lǐng)域的信任鏈條斷裂。隨著技術(shù)的發(fā)展，AI繪圖的越發(fā)逼真，一切互聯(lián)網(wǎng)上產(chǎn)生的圖片，都會(huì)面臨真實(shí)性上的質(zhì)疑——尤其是在AI已經(jīng)能夠模擬真人照片的效果之后。

最近土耳其和敘利亞大地震，波及范圍較廣，災(zāi)情也很嚴(yán)峻，因此全世界范圍內(nèi)都有很多關(guān)于這次地震的募捐。然而在這些募捐項(xiàng)目中，卻開始出現(xiàn)“AI繪圖詐騙”的案例，一些人通過AI生成的消防員與受災(zāi)兒童在倒塌大樓前擁抱的“照片”，在推特上大肆煽動(dòng)人們的同情情緒。這張“照片”在推特上一度廣泛流傳，不少對(duì)AI繪圖缺乏認(rèn)知的網(wǎng)友們，還十分諷刺地附上了“見證希臘與土耳其之間的友誼”“一張照片勝過千言萬(wàn)語(yǔ)”之類的推文。

離譜的是，這個(gè)騙局根本沒有多少說服力，照片上的消防員的六根手指很快就被發(fā)現(xiàn)，而他們所給出的虛擬貨幣賬戶，經(jīng)過國(guó)外媒體的調(diào)查，也被證實(shí)了從2018年開始就出現(xiàn)在一些詐騙與垃圾推文中，甚至出現(xiàn)在一些社交媒體的色情內(nèi)容里。

BBC中文網(wǎng)《土耳其敘利亞地震：賑災(zāi)募捐里的AI與TikTok騙局》節(jié)選

客觀地說，這些案例所展現(xiàn)的，其實(shí)不是AI的風(fēng)險(xiǎn)，而是人類自身的陰暗面，AI在這當(dāng)中只是作為工具，平等地給所有人提供服務(wù)。

沒有AI，游艇派對(duì)的籌辦者仍然可以找到一些網(wǎng)上到處都是的素人照片來(lái)蒙混過關(guān)；沒有AI，這次土耳其敘利亞地震的募捐騙子，仍然能夠扒出一些以往的災(zāi)難現(xiàn)場(chǎng)照片來(lái)騙取捐款。

我們不能夠簡(jiǎn)單地評(píng)判一個(gè)工具的好壞，因?yàn)楣ぞ呤侵行缘?，如刀能傷人亦能做飯，水能載舟亦能覆舟。但我們也需要正視新工具帶來(lái)的風(fēng)險(xiǎn)，尤其是像AI這種低成本、高效率、高回報(bào)，本質(zhì)上是解放互聯(lián)網(wǎng)生產(chǎn)力的劃時(shí)代工具。

由于AI繪圖的“原創(chuàng)性”，隨著它產(chǎn)出的作品真實(shí)性越來(lái)越高，真實(shí)信息與騙局的界限也將越來(lái)越模糊，“龐氏騙局”會(huì)越來(lái)越像“天上掉餡餅”，交友APP上俊男美女的比例也將顯著提升。

而AI能做到的，還遠(yuǎn)遠(yuǎn)不止這些。讓很多事情變得更便捷只是一方面，另一方面，它“無(wú)中生有”的能力，也將讓很多未曾預(yù)料到的傷害到來(lái)。

上周，“參考消息網(wǎng)”因ChatGPT的爆火而采訪了“ChatGPT之父”薩姆·奧爾特曼，在關(guān)于“GPT帶來(lái)的最讓人害怕的事情”這一問題上，薩姆·奧爾特曼的著眼點(diǎn)不僅僅在于ChatGPT這個(gè)聊天智能，他說：

“至于嚇人的事？我當(dāng)然一直非常關(guān)注利用開源圖像生成器生成復(fù)仇式色情的行為。我認(rèn)為這將造成巨大的、可以預(yù)見的危害?！?

“參考消息網(wǎng)”2月15日?qǐng)?bào)道《他是暴火的ChatGPT之父，他如何看待ChatGPT？》節(jié)選

這是關(guān)于AI早已有之卻又一直掩蓋在狂熱的、關(guān)于技術(shù)進(jìn)步的討論下的問題。

在AI繪圖尚未顯現(xiàn)其影響力之前，AI換臉曾在各大社交網(wǎng)絡(luò)掀起過一陣風(fēng)潮，全網(wǎng)紅極一時(shí)的“肌肉金輪”，便是AI換臉的產(chǎn)物。這一技術(shù)帶來(lái)的神奇效果與在鬼畜領(lǐng)域的出色發(fā)揮，為當(dāng)時(shí)的人們所津津樂道。

而與“肌肉金輪”成鮮明對(duì)比的，則是在著名的P開頭黃黑網(wǎng)站上，被專門開辟出來(lái)的“換臉”分區(qū)，以及斯嘉麗·約翰遜等著名演員對(duì)AI換臉的控訴。

在今天，你以相關(guān)關(guān)鍵詞搜索，仍然能夠看到換臉后的成人視頻

除了AI換臉外，幾年前Telegram還出現(xiàn)過一個(gè)名為“DeepNude”的AI程序，你只要給他發(fā)送一張照片，他就能自動(dòng)幫你“脫掉衣服”，生成對(duì)應(yīng)的裸照，還支持一鍵轉(zhuǎn)載與分享。據(jù)相關(guān)研究機(jī)構(gòu)“Sensity”統(tǒng)計(jì)，僅截止至2020年7月，這一機(jī)器人就生成并分享了超過10萬(wàn)張照片。

作為一個(gè)工具，AI在平等地給所有人提供服務(wù)，顯然也就在平等地威脅所有人。

它的萬(wàn)能、易用與便捷，讓它已經(jīng)具備了一定的“創(chuàng)作者”的功能，但它作為工具，顯然不會(huì)具備大部分“創(chuàng)作者”所具備的“底線”。

盡管很多AI繪圖軟件限制了“澀澀”內(nèi)容的產(chǎn)出，尤其是“未成年色情”內(nèi)容的產(chǎn)出；盡管像“勘云工造”這類AI真人圖像生成方，鄭重聲明了對(duì)明星、公眾人物肖像模型訓(xùn)練的禁止。

但打開Pixiv最火熱的“NovelAI”標(biāo)簽，我們?nèi)匀荒茉谡故卷?yè)面看到眾多連“合法蘿莉”都談不上的“露骨幼女”。

生產(chǎn)力的發(fā)展，帶動(dòng)的是整個(gè)社會(huì)的認(rèn)知轉(zhuǎn)變。正如私有制是現(xiàn)代家庭的起源，正如iPhone4永久改變了人們對(duì)手機(jī)的認(rèn)知，越發(fā)先進(jìn)、強(qiáng)大的AI工具的出現(xiàn)，改變的絕不會(huì)僅僅是我們對(duì)“創(chuàng)作”這件事情的理解。

AI的混沌，是互聯(lián)網(wǎng)本身的混沌，也是人類自身的混沌。它如同一個(gè)放大器，讓許多原本難以實(shí)現(xiàn)的想法有了實(shí)現(xiàn)的可能，也讓很多正常人都難以接受的事物，更加容易地出現(xiàn)——最簡(jiǎn)單的例子，便是人見人愛的“賽博女菩薩”。

它是好的，很多機(jī)械式的勞作，乃至創(chuàng)造性的工作，都能夠在它的幫助下提升效率——比如，最近銀河老師就高度肯定了ChatGPT在毫無(wú)感情的微博推廣寫作上的能力。

但同時(shí)，它也是危險(xiǎn)的。毫無(wú)節(jié)制、毫無(wú)底線的使用，顯然也觸及了人類的道德原則與經(jīng)濟(jì)利益。

它的出現(xiàn)如靈光乍現(xiàn)，發(fā)展如烈火烹油，以至于到現(xiàn)在為止，我們都沒能夠建立起成熟的約束機(jī)制，來(lái)防止其被肆無(wú)忌憚地濫用。有的，只有各大公共社交媒體迫于輿論壓力的打壓，比如AI換臉視頻大肆傳播期間，F(xiàn)acebook等社交軟件對(duì)其的封殺。

對(duì)于如何供奉“賽博女菩薩”，我想我們還需要經(jīng)過很長(zhǎng)一段時(shí)間的討論。