企业将使用生成式AI，但他们会告诉你吗？——《华尔街日报》

谷歌DeepMind旗下用于识别AI生成图像的工具SynthID于周二以测试版形式发布，与谷歌云合作推出。图片来源：Jonathan Raa/Zuma Press谷歌DeepMind新推出的识别人工智能生成图像的工具，引发了企业应在何时向客户标注AI生成内容的问题。

该工具名为SynthID，于周二以测试版形式发布，与谷歌云合作推出。

SynthID的工作原理是为谷歌云文本转图像生成器Imagen创建的图像添加水印。通过扫描图像的数字水印，该工具可以评估图像由Imagen创建的可能性。

谷歌云人工智能和行业解决方案副总裁June Yang表示：“我们是首家让客户能够直接在像素图像中嵌入水印的云服务提供商，这种水印人眼不可见，且不会影响图像质量。”

人工智能研究实验室谷歌DeepMind和云计算服务提供商谷歌云同属Alphabet旗下。

目前该应用仅适用于图像，但该公司表示未来可能扩展到音频、视频和文本领域。

企业一直在探索将生成式AI应用于各类面向客户的场景，包括生成广告标语、撰写新闻稿、制作广告牌图像、协助头脑风暴产品服务新名称，以及规划照片拍摄或汇总客户产品评价等。

然而，企业对于何时向客户告知他们正在与AI撰写的营销文案互动存在分歧。例如，部分企业认为这至关重要，而另一些则主张只要内容准确，来源无关紧要。

与社交媒体上政客或名人的篡改图像不同，广告中虚构角色是由人类还是AI创造可能并不重要。

总体而言，业界倾向于在通常需要署名的场景（如公开发表图片的摄影师）或内容使用了可能涉及版权材料的训练模型时进行披露。但当企业使用自有数据且公众通常不期待注明作者或来源时（如广告），披露的必要性则较低。

“只要内容准确就行，对吧？这才是客户关心的，”精选国际酒店集团首席信息官布莱恩·柯克兰表示，“在我们这个行业，内容质量和准确性才是关键——来源没那么重要。”

西北大学凯洛格管理学院管理与组织学助理教授哈蒂姆·拉赫曼指出，当企业能基于自有数据训练生成模型并确保内容准确原创时，可自行决定是否披露使用生成式AI的情况。

他提到，企业早已在不披露撰稿人的情况下外包文案工作，公众对此并无披露预期。类似争议也曾出现在图片编辑平台Adobe Photoshop兴起时，而如今多数企业不会特别说明使用的图片是否经过PS处理。

然而，拉赫曼指出，若企业使用基于公开数据训练的公共模型却未作披露，可能引发法律风险——尽管相关法规尚未明确，但该模型可能使用了受版权保护的训练材料。

柯克兰表示，精选国际酒店集团在推进任何应用场景前，都需要精心筛选并确保模型训练数据的安全性以保证准确性。

软件公司Laserfiche的企业战略高级副总裁兼首席信息官托马斯·费尔普斯称，公司禁止员工将AI生成内容署名为个人作品，并要求在所有使用场景中明示AI生成内容。

软件巨头SAP的首席营销与解决方案官朱莉娅·怀特认为，披露内容来源也是企业建立客户信任和保持透明度的有效方式。

水晶珠宝品牌施华洛世奇的首席数字信息官莉娅·桑德雷格强调：“我们最终必须对消费者负责，对人类负责——必须说明这些内容的来源。”

支付公司Fleetcor首席信息官斯科特·杜福尔预测，在需要标注人类作者的场景中，披露生成式AI的使用将成为标准做法。

他表示：“在企业资料中注明统计数据来源、研究出处或作者摄影师署名已是惯例，对AI生成图像给予同等透明的归属标注并无本质区别。”

致信伊莎贝尔·布斯凯特，邮箱：[email protected]

刊登于2023年9月1日印刷版，标题为《企业考虑披露是否使用人工智能》。