《 Wall Street Journal: Salesforce推出新技术工具以弥合"AI信任鸿沟"

Salesforce表示，其新技术将通过保护专有数据等方式，帮助客户企业安全使用ChatGPT等生成式AI工具。

对Salesforce而言，说服企业信息技术负责人相信生成式人工智能在其数字环境中使用是安全的至关重要，因为该公司正致力于维持今年启动的业务转型计划。其最新财报显示盈利与收入均超华尔街预期，首席执行官马克·贝尼奥夫特别强调了公司在应对近期销售放缓和激进投资者施压时的成本削减举措。

该软件公司于周一宣布新平台。此举正值首席信息官及其他企业高管们日益担忧如何在使用生成式AI时避免让专有数据成为公开大型语言模型的训练素材。摩根大通和威瑞森等公司已禁止员工使用公开版ChatGPT。威瑞森表示担心员工输入ChatGPT的客户信息或源代码可能丧失所有权。

在纽约市周一举办的活动中，Salesforce高管们阐述了生成式AI对企业存在的风险——包括难以控制企业数据的访问权限——同时推出了名为"爱因斯坦GPT信任层"的新工具，称该工具有助于解决此类担忧。

贝尼奥夫在活动期间表示，与他交谈过的每一位CEO都提到了“AI信任鸿沟”——即他们“渴望快速推进”这项技术的愿望与大型语言模型在企业环境中引发的问题之间的矛盾。

“我们在AI领域最重要的工作就是打造可信且符合伦理的人工智能，”贝尼奥夫强调，“从我们的视角来看，一切的核心在于信任。”

Salesforce表示，该新工具能清除用户提示（即员工输入AI模型的内容），并阻止模型保留如个人身份信息等客户数据。该工具可应用于企业自有的大型语言模型，或来自亚马逊、Anthropic等供应商的模型。这项新技术是Salesforce AI Cloud套件的一部分，该套件将生成式AI嵌入其旗舰客户关系管理软件、旗下通讯应用Slack以及其他数据可视化、营销和客户服务工具中。

“信任是一个被低估却至关重要的话题，”IT研究与咨询公司Futurum Research创始合伙人兼首席分析师丹尼尔·纽曼指出，“Salesforce意识到生成式AI应用本身的差异化程度，远不及用户对数据与技术的信任来得重要。”

尽管如此，部分科技高管仍持谨慎态度。支付公司FleetCor Technologies全球首席信息官斯科特·杜福尔表示，尽管公司使用Salesforce软件，但他不打算率先采用其新AI功能。“作为一家庞大复杂的机构，我们至少要看到明确的性能验证后才会测试新方案，”杜福尔说道。

其他大型科技公司也推出了工具来帮助客户使用生成式AI。甲骨文周二表示，计划与AI初创公司Cohere联合发布一项生成式AI服务，该数据库公司称该服务将包含数据所有权保证和数据溯源工具。微软今年早些时候将其Copilot生成式AI嵌入商业软件，并表示其模型能保障企业的安全与隐私控制。

在主要技术供应商中，人们希望生成式AI能重振IT支出——由于企业在经济不确定性中削减技术预算，该领域已遭受打击。首席信息官们还一直承受着来自首席财务官和董事会精简开支的压力。

根据标普全球市场财智的预估，今年全球基于生成式AI技术的收入预计将达到37亿美元，到2028年将增长至360亿美元。

在周一的活动中，Salesforce高管们探讨了生成式AI对企业带来的风险。图片来源：Belle Lin/华尔街日报IT研究与咨询公司高德纳的副总裁分析师Kyle Davis表示，对首席信息官而言，Salesforce的信任工具可视为管理多个大语言模型（LLM）的"中央控制面板"。企业会希望使用不同LLM来处理编写代码或起草邮件等任务，因此拥有统一控制面板很有益处，Davis说道。

应用分析公司Amplitude的首席数字和信息官切特娜·马哈詹表示，在使用任何大型语言模型之前，她需要了解供应商及其合作伙伴如何处理客户数据。

总部位于加州圣何塞的电信设备制造商Infinera的高级副总裁兼首席信息官威廉·帕克斯指出，IT领导者现在就需要探索生成式人工智能，否则可能面临落后的风险。

帕克斯称，Infinera正在与微软的生成式AI技术合作，但在更新使用政策出台前已暂停内部使用ChatGPT。他担忧的问题包括公司数据无意间转移到云端，以及处理生成式AI工具产生的错误数据或"幻觉"。

Salesforce表示其新技术能擦除用户提示（即员工输入AI模型的内容），并防止模型保留客户数据。图片来源：《华尔街日报》Cam Pollack分析师表示，与提供解决方案以减轻生成式AI相关企业数据风险的初创公司和小型供应商相比，成熟的企业技术公司在获得客户认可方面具有优势，尤其是对新兴技术而言。纽曼认为，Salesforce的声誉加上其掌握的大量关键客户数据，可能有助于赢得客户信任。

Salesforce表示，其AI Cloud套件按年合约计算每年费用为36万美元。该公司的信任工具将于本月投入使用，而其他嵌入生成式AI的工具将在今年或明年推出。

联系Belle Lin，邮箱：[email protected]；联系Angus Loten，邮箱：[email protected]

更正与补充根据标普全球市场财智的数据，基于生成式AI技术的全球收入预计到2028年将增长至360亿美元。本文早期版本错误地称该数字到2028年将增长至260亿美元。（已于6月13日更正）