IT之家的朋友们，大家好，我是雨仔。自从 AI 引领新时代革命浪潮，“眼见为实”这一真理的信服力大大降低。因为 AI 这玩意儿能生成万物，无论是对话、文件，还是图片、视频，都不在话下，并且效果丝毫不亚于专业人士，肉眼很难辨别真假。其出神入化、以假乱真的效果造福了无数打工人，也让大众感受到新兴科技的魅力。只是和大多前沿技术一样，有人把 AI 当作纯粹的生产力工具，也有人为了一己私欲用在了歪门邪道上。最近在 Reddit 论坛中，一个名为 Claudia（克劳迪娅）的 19 岁少女火到没边，她经常大秀自拍，与网友们进行互动。从照片来看，她是很标致的西方美女，不仅颜值出众，身材也很火辣，经常晒出多张性感的照片。甚至她还发布过裸照，让一众外国 LSP 欲罢不能。
如此开放的姿态，难免会让人上头，不少网友试探性地发私信称愿意购买更多私密照片。结果得到了爽快的答复，只要你钱给的够大方，她就一点都不矜持。只是，正当越来越多的人沉迷克劳迪娅的美色时，有懂行人士在他们头上泼了一盆冷水：“对于那些不明真相的人，我要扼杀你的幻想，这实际上是一个 AI 作品。” 同时，也有更多网友指出了不对劲的地方：眼睛无神、锁骨奇怪、光线不符合物理特征......
后来，有两个自称是克劳迪娅账号运营者的大学生主动联系媒体“自爆”。他们坦白克劳迪娅确实是 AI 的杰作，通过 AI 绘图软件生成。之所以这样做，是因为看到一名男子在网络上利用美女照片赚了 500 美元（约合人民币 3400 元）。在他们看来，绝大多数的网友根本不具备分辨真人和AI模拟的能力，很容易被忽悠。据他们透露，靠着用 AI 生成“克劳迪娅”的小图片，这俩大学生轻轻松松赚了大概 100 美元（约合人民币 690 元）。真相大白天下后，Reddit 论坛中的舆论立刻分化成冰火两重天。有怒不可遏的，表示自己被骗财骗感情；有不以为然的，觉得大饱眼福就足够了。此事流传到其他平台后，则引发了网友们更热烈的讨论：利用 AI 生成图片没有问题，但拿着 AI 图去欺骗他人并赚钱就另当别论了。有外国网友表示，这两个大学生钻了网友们对 AI 不甚了解的空子，伪装成真人，还用 AI 图拿去牟利，不仅跨越了道德底线，而且已经是诈骗了。
其实，自从 AI 技术大行其道以来，就有人频频利用 AI 去欺骗大众。今年年初，网络上盛传一则“江苏苏州金鸡湖有游艇女仆 party”的消息。网传海报中印有女仆的照片，显示参与者会配备随身女仆一名，需缴纳 3000 元。然而后来经证实，所谓的女仆照片全是 AI 模仿真人生成的图片，由于太逼真，让不少人上当受骗。还有人更进一步，利用 AI 生成女性照片并在社交平台上创建账号，去和不明真相的网友搞网恋。他们通过精心制作的照片和甜言蜜语的话术哄骗网友，并以恋爱的名义索要财物。这些人用 AI 欺诈，不仅有违风俗道德，有的已经在违法的边缘了。除了拿 AI 生成美女勾引网友，还有拿 AI 画作去参加摄影比赛的小机灵鬼。在 2023 年度索尼世界摄影奖的创意类大奖中，德国一艺术家的“黑白摄影作品”获奖。但事后他承认其作品是由 AI 生成的，并不是传统的摄影照片，因此拒绝领奖。虽说他坦白的举动姑且算是有底线，但用 AI 作品冒充摄影照片违反了规定，是典型的欺骗行为，已经被比赛委员会撤稿了。或许会有人疑惑，纵使 AI 出神入化，但终究只是冰冷的技术，为何能瞒天过海；就算骗得过常人，怎么强如专业评委，都无法分辨呢？对此，在一定程度上来说，和 AI 绘画的原理密不可分。AI 绘画并非是简单的“缝合怪”，将多个图片的元素生硬拼凑在一起，其原因和 ChatGPT 相似，收集大量已有作品对训练数据的学习，让 AI 模型理解和提取图像的基本特征、内容、风格，最终通过算法生成新的作品。将其类比成人，就是阅尽天下画作，对绘画的一切都了如指掌的大师，功底炉火纯青。所以它能够根据给到的关键词，在新的图像中融合和组合这些特征，以生成与输入相关的图像；并且在生成图像后，还可以进阶调整，从而让效果更上一层楼。目前市面上的 AI 绘画应用诸如 Parti、Midjourney、Stable Diffusion 都具备这样的特质，不仅技术强大，还可以通过使用者反复调整引导词再精益求精。最终呈现出来的作品，自然能做到鱼目混珠。就拿克劳迪娅来说，就是通过 Stable Diffusion 生成的，俩大学生透露，他们只输入了“素颜、黑发、长发”等简单的描述词，再调整了一下背景，就完事。再靠着话术和 AI 图，找到了赚钱的新风口......
总之，AI 技术发展至今，虽还没到全盛时期，但已经让人叹为观止。但同时，由于其鬼斧神工并降低了使用门槛，也引发了物化女性、骗财、诈骗等一系列严峻问题，轻则违背道德，重则违反法律。AI 的能力毋庸置疑，会对人类的生活带来深远的影响，可问题在于，技术本中立，但其方向由人控制。技术没有上限，同样，人心也没有下限。目前，AI 技术的潘多拉魔盒才刚刚打开，就已经引发了危机，倘若再放任其至完全开启，没准儿后果将更加不堪设想。所以说，相信在未来 AI 会发挥出更大的能量，但如何确保让道德、法律底线始终凌驾于它之上，需要人类共同面对。前途是光明的，道路是曲折的，曲折的道路该如何通过，是问题，亦是难题。参考资料新智元 - 离谱！两高中生用 AI 生成裸照，疯狂[变现]更多阅读今日还有窃贼有新技术抹掉 iPhone Apple ID 密码、全国首例“戒酒芯片”植入人体、皮衣黄推出新 AI 等新闻，感兴趣的可以点击下方卡片查看。
关注微信
