《华尔街日报》：Lensa AI头像应用遭女性和有色人种用户强烈抵制

克丽丝特尔·拉斯特对Lensa应用生成的部分AI肖像感到惊艳，但另一些则令她不安。图片来源：左至右：克丽丝特尔·拉斯特提供，詹·斯坦科拍摄上周，当看到社交媒体上涌现大量艺术风格肖像后，克丽丝特尔·拉斯特注册了名为Lensa的修图应用免费试用。她上传了10张头像照片，支付5.99美元获得了基于这些素材由AI工具在一小时内生成的100张新图像。

这位芝加哥女演员表示，这些图像让她意识到自己可以塑造的角色类型。“其中一张让我觉得’完全能想象自己出演《布里奇顿》’，我可以学英式口音，能演古装剧”，她说道。另一些则将她塑造成超级英雄模样：“我能在下一部《黑豹》里亮相。“她在拥有48万粉丝的TikTok视频中分享了部分肖像。

当她再次上传15张包含全身照的照片后，应用生成的某些图像令她不适：畸形的四肢和手掌、孩童般的特征（她说"有点恶心”）、更瘦削的脸型，以及更浅的肤色和瞳色。

“我大半生都在努力欣赏自己棕眸之美，而这个社会始终推崇蓝绿眼睛，“拉斯特女士表示。

尽管Lensa是一款已有四年历史的应用程序，但由于其所谓的魔法头像功能，本月它迅速登上了App Store的榜首，这一功能在互联网上引起了轰动。根据其母公司Prisma Labs Inc.的数据，自11月推出新功能以来，已有超过1700万人下载了Lensa。

Lensa的人工智能工具依赖于神经网络，这是一系列模仿人脑的算法。它通过使用从互联网上抓取的大量图像和文本数据库进行训练，因此对模式敏感，并能模仿创意风格。当用户向应用程序提供他们的照片和性别时，它会根据这些输入创建艺术作品。这些艺术作品包括“仙女公主”、“半机械人”、“动漫”和“宇航员”等标签。

虽然许多人像交换可爱的自拍和有趣的模因一样交换这些照片，但其他人则指出了这些图像的缺点。用户们谈到收到的肖像显示出夸大的身体特征，通常是沿着性别界限，并推广不切实际的美丽标准。

太平洋西北地区的一位科技高管莎拉·怀特表示，她支付了三批图像的费用，总共收到了350张。每次，她都提交了自己的不同照片——有些是全身照，一批只显示她的脸——试图理解为什么她会收到高度性化的图片。

“有很多是完全裸露上身的，”她说，尽管她上传的只是她完全穿着的照片。她说，其中大多数夸大了特征，比如放大胸部或缩小腰部——这是其他女性在网上提出的抱怨。“大概有一百张这样的照片我很喜欢——如果从肩膀以下看起来合适的话，”她补充道。

Prisma Labs的发言人拒绝就具体用户的使用体验发表评论，该公司注册于美国加州森尼韦尔，总部位于塞浦路斯。“如果有人在应用上的个人体验未达预期，我们深表歉意，”该发言人表示，“不言而喻，最终效果很大程度上取决于输入内容的质量。”公司称正在采取措施解决有关露骨内容的担忧。

华盛顿大学研究人工智能、偏见与伦理学的助理教授Aylin Caliskan（使用they/she代词）表示，听闻用户收到此类图片并不意外。Caliskan博士指出，研究发现为这些工具提供支持的在线图像数据库、语言与视觉模型中存在与性别和种族相关的偏见。

“视觉领域尤其容易出现过度性化的问题，这通常涉及所有非白人男性或非男性的群体，”他们补充说，如果人工智能基于这些图像进行训练，就可能“延续通常占主导地位群体的默认表现形态”。

在针对近期质疑发布的常见问题解答中，Prisma Labs表示其工具的基础模型“基于未经筛选的互联网内容训练”。“因此它反映了人类在创作图像时带入的偏见。开发者也承认社会偏见存在的可能性，我们同样如此，”Prisma Labs声明该功能不面向未成年人。公司联合创始人兼首席执行官Andrey Usoltsev上周向《华尔街日报》表示，无论是Prisma Labs还是其AI模型开发者Stability AI都“不可能有意施加任何表现偏见”。

安娜·霍恩表示该应用的生成结果与她的肤色并不总是一致。左侧虚拟形象更接近她本人。图片来源：安娜·霍恩提供英国博士生安娜·霍恩认为肖像中体现她的黑人特征很重要。“看到这些照片时我简直不敢相信，‘就这？我花钱就买了这个？’“她说。

“很多照片看起来都像白人女性，“霍恩女士说，“唯一能看出取材自我的地方，就是那些白人女性都有丰满的嘴唇…但很多照片的肤色完全不对。”

Lensa允许用户自选"男性”、“女性"或"其他"性别。虽然不少人批评虚拟形象强化了性别刻板印象，但也有用户赞赏其强化自我认同的功能。

“这确实给跨性别男性和女性带来了性别认同的愉悦感，“这些形象让他们更显阳刚或柔美，因为他们首先就选择了这种性别认同。“伦敦艺术家杰克·埃尔维斯说道，他的作品运用AI探索变装表演与性别流动性，人称代词使用they/he。

“当然，这些技术都存在固有缺陷。我认为最大问题在于它试图用标准化模型涵盖所有可能性。“他补充道。

澳大利亚皇家墨尔本理工大学新闻学讲师蒂托·安比约表示，他对该工具的效果并不满意。

“从别人发布的图片来看，效果并没有我预期的那么好，”他说道，并指出AI在描绘手臂和手部时相比人脸存在明显缺陷。

但加州雷东多海滩一家工业设计智库的首席创意官凯文·贝休恩，却惊叹于该工具"捕捉到我某些标志性特征"的惊人能力。

依托人工智能生成内容的工具（如Lensa和Dall-E）令用户着迷的同时，也引发了关于隐私、伦理、版权和合理使用的讨论。

Lensa所采用的系统因未对训练数据中的原创艺术家进行补偿而受到批评。Prisma实验室声明其工具生成的图像"并非对特定艺术家作品的复制”。

哈佛法学院讲师、伯克曼克莱因互联网与社会中心网络法律诊所副主任杰西卡·菲尔德表示：“将这些工具融入我们对艺术创作的整体认知可能需要时间，随着技术发展，相关讨论也将持续深化。”

联系本文作者萨拉·阿什利·奥布莱恩请致信[email protected]