编辑【导读(dú)】生成式AI火(huǒ)了以(yǐ)后，限制输出内(nèi)容的就只剩人(rén)们的想象(xiàng)力了(le)。这不，两个高中生用AI生成裸照，疯狂在道德(dé)的(de)底线游走。

生成式(shì)AI爆火(huǒ)之后，人们发现，这(zhè)AI还(hái)真的什么都能生成啊。

从ChatGPT生(shēng)成语段和用户自如(rú)对话，到AI生(shēng)成图像，再(zài)到搭(dā)载GPT-4的微(wēi)软全家桶连ppt都能一键生成，好像没有什么东(dōng)西(xī)是生成式AI做不到的了。

能是一方面，怎么加以利用(yòng)变(biàn)现又是另一码事了。

这(zhè)不，国(guó)外几个不知天高地厚的(de)大学生(shēng)，竟然(rán)用(yòng)AI生成裸照在(zài)Reddit上卖(mài)。

甚至(zhì)还大(dà)赚了一笔。

AI卖「黄」？

图片(piàn)的(de)这个姑娘(niáng)叫(jiào)Claudia，她有着乌(wū)黑的长发，甜美的笑容。在社交媒体上，她会update自己的心情，觉得自己美美哒(dá)。

然而(ér)在Reddit上，只要你跟(gēn)她私聊(liáo)，她就卖你裸照。不得不说，在(zài)Reddit上(shàng)她还挺火。可惜(xī)，Claudia是(shì)个(gè)假的。社(shè)交媒体上(shàng)的所有照片，包(bāo)括(kuò)上(shàng)面这(zhè)张，全都是(shì)用AI生(shēng)成的。据两位(wèi)合(hé)成媒体领域(yù)的研究人(rén)员说，这一组(zǔ)Claudia的照片都是冲着坑蒙拐骗去的(de)。

总有人看不出这是AI，然后为此(cǐ)买单。最(zuì)近，像Midjourney和Stable Diffusion这(zhè)种能生成图片的AI发展(zhǎn)非常快，他们(men)所展现出(chū)的创造性备受瞩目。但(dàn)在Claudia之(zhī)前，绘图AI一般都是靠生成一些逼真(zhēn)的艺术作品或者美丽(lì)的画作夺人(rén)眼球。在(zài)Claudia之后，人们(men)认识到用AI生(shēng)成假人的(de)图片的功能，还有(yǒu)这(zhè)个让人意想不到的变现手段。

其实(shí)很多(duō)年以来，一(yī)部分新技术(shù)的发展(zhǎn)都跟色情行业(yè)有(yǒu)那么一点(diǎn)关(guān)系，AI图像(xiàng)生成看来(lái)也没能(néng)免俗。目前，Reddit上(shàng)有好几千个账户都在搞(gǎo)AI图像生成——而且大部分生成(chéng)的都是女性。带来(lái)的影响就(jiù)是，改(gǎi)变了人(rén)们对于模特，和一部分演(yǎn)员(yuán)的需求，同时加深了人们对(duì)于物化女性(xìng)这个议题的担(dān)忧。

有人(rén)匿名表示(shì)，「反(fǎn)正也遇不(bù)到真人(rén)，就算不是AI生成的也遇(yù)不到真人(rén)，那她(tā)究竟是真是假又怎么样呢？」Claudia的账户并(bìng)没有做出回应。但是有两位大学(xué)生表示(shì)，自己是(shì)该(gāi)账户(hù)的管理(lǐ)者。在接(jiē)受「滚石」杂志采访(fǎng)时表示，他们从Claudia这个账户挣了100美元(yuán)。研究人员继续出发，根据(jù)一些AI图像(xiàng)生(shēng)成(chéng)器(qì)留下的蛛丝马(mǎ)迹，确定(dìng)了几个(gè)女性用(yòng)户的在线(xiàn)资料。他们判断，这些头像是AI生成的。

就像(xiàng)是Claudia的账户一样，这些账户也在(zài)Instagram、Reddit、推特和OnlyFans等论坛(tán)上分享女性(xìng)的(de)裸照，并(bìng)标明(míng)付费以解(jiě)锁(suǒ)更(gèng)多图片(piàn)。研究人员联系了(le)这些账户(hù)后这些账户没(méi)有对该问(wèn)题(tí)做出任何(hé)相关回应。由(yóu)于大部(bù)分AI图像(xiàng)生(shēng)成(chéng)的时候并没有任(rèn)何水印，所以普通用(yòng)户无法进行辨别(bié)。所以，有大量的用户(hù)被这些免费(fèi)图片吸引(yǐn)，给这些账户留言。因为，他们(men)相信这些照片是真的(de)（也(yě)许是(shì)因为不在乎）。

为(wèi)啥这么逼(bī)真(zhēn)？

AI生成图像的原理其实并不复杂(zá)。