Alafia AI将超级计算机搬上您的办公桌 - 彭博社

Austin Carr

2025-04-23

巴塞罗那MWC25科技展上的人工智能(AI)标识。

摄影师：Angel Garcia/彭博社欢迎阅读《科技深一度》，我们的每日通讯为您带来彭博社全球记者关于科技行业的报道与分析。今天，Austin Carr将探讨能让您在办公桌前轻松使用强大人工智能工具的算力新进展。

全球科技动态

**Meta反垄断案：**Instagram联合创始人Kevin Systrom作证称，这款照片分享应用本可以独立发展壮大，无需被这家社交巨头收购——这可能强化美国政府针对Meta的垄断指控。

**苹果人事变动：**随着这家iPhone制造商急于追赶竞争对手并为数字语音助手注入人工智能功能，Siri新任负责人已对管理团队进行调整。

**华为的进展：**这家智能手机制造商通过开发智能驾驶软件，在中国竞争激烈的电动汽车市场赢得了主导地位。

重新估值

帮助儿童学习编程的核桃编程正在考虑是否要通过美国首次公开募股(IPO)筹集1亿美元，这是多家考虑在华尔街上市的中国科技公司之一，尽管存在贸易紧张局势和市场不稳定性。

面向大众的人工智能

Alafia Aivas是一款价值9.5万美元的超级计算机，可完美置于您的办公桌上。这款设备搭载了专为人工智能处理设计的高性能芯片和图形处理器，主要面向医生、药物研发人员和其他医学研究者。但在本月早些时候波士顿的一场生物技术会议上，我有幸体验了最新款Aivas原型机的一个非严肃用途：完全离线状态下与深度求索的聊天机器人对话。

脱离网络使用AI应用程序是种奇妙体验，仿佛将机器人的大脑像硬盘或U盘般物理接入电脑。多数情况下，与OpenAI的ChatGPT或亚马逊Alexa交互需要联网：您的问题通常会被发送至某个遥远的数据中心，然后答案几乎瞬间传回手机或笔记本。然而得益于大语言模型和计算效率的惊人进步，在家中甚至口袋里拥有AI超级计算机的设想，比想象中更接近现实。

Alafia AI公司创始人卡米洛·布斯卡隆戏称Aivas像是苹果与英伟达的结合体。这款入门级工作站（顶配版售价25万美元）之所以昂贵，是因为它拥有约28,000个GPU核心和2TB内存等高价组件。它专为分析组织样本图像寻找癌症迹象等复杂企业级任务设计。这位英伟达和亚马逊云服务资深人士表示，就AI专项处理而言，Aivas"堪比约十年前最强大的超级计算机"。

为了向我这样的外行展示其能力，Buscaron从一个热门数据库下载了深度求索的R1推理模型，该数据库支持在本地计算机上运行开源大语言模型。他表示下载404GB版本后，仅用五分钟就在Aivas设备上成功运行R1。在我亲身体验时，其响应速度与深度求索的iPhone应用不相上下，既能流畅对话，也能满足我突发奇想索要甜点食谱的需求。

Buscaron将Alafia的专业设备视为医院和研究机构的替代方案——这些机构要么自建庞大的本地服务器，要么将算力外包给云端。但Aivas的紧凑设计（想象一个连接在白色高箱体上的流线型屏幕）正映射着消费级硬件的发展趋势：1960年代占据整个房间的尖端大型机，其性能如今已被区区iPhone碾压。所谓的"AI PC"也遵循着相似的发展轨迹——只不过进步速度更为惊人。

实际上，Buscaron下载的R1版本可能根本用不上Aivas的全部性能。深度求索发布该模型后不久，技术爱好者们就成功在两台Mac Studio上运行其变体，后来甚至只需单台设备。另有工程师用价值约6000美元的自制硬件实现了部署。与此同时，科技巨头们正通过强化设备性能与优化大语言模型效率来提升终端计算能力——谷歌首席执行官桑达尔·皮查伊上周五刚演示过其新款模型仅需单个消费级GPU即可运行。

可以肯定的是，这类模型会经过称为"蒸馏"和"量化"的优化过程，通过牺牲整体精度和能力来缩小规模。它们通常仍能处理流畅对话、生成文本图像、总结文档，并回答关于历史、物理或其他训练数据的问题——只是达不到在线完整版本的复杂程度。而且由于无法联网，别指望它们能提供今日新闻或昨日体育比分。我在Aivas上使用的简化版R1模型能回答甜点食谱问题，主要是通过逻辑和模式匹配，而非真正掌握了互联网上完整的糕点百科全书知识。

但Buscaron表示，如果专门为聊天机器人优化Alafia设备，凭借其算力完全可以运行更大规模、未经过度蒸馏或量化的LLM模型。事实上，他预计未来5到10年内，主流消费设备将普遍实现离线运行ChatGPT级别的体验。而且价格远不会达到六位数。

引述

“一个不了解实时信息或会编造内容的超级助手毫无意义。”

尼克·特利

OpenAI ChatGPT负责人

在谷歌反垄断审判中作证时解释为何OpenAI寻求合作将谷歌搜索技术整合入ChatGPT。### 阅读

今日科技娱乐领域阅读量最高报道：

特斯拉撤回了先前对2025年销售增长的预测，理由是贸易政策、整体经济环境以及“政治情绪变化”——这暗指首席执行官埃隆·马斯克作为美国总统唐纳德·特朗普削减政府开支和解雇联邦雇员计划的关键人物，其日益下降的公众支持率。这家电动汽车制造商还报告了第一季度利润和销售额，均未达到分析师的预期。

动态

1.35亿美元国家科学基金会研究资助金额被削减，这是马斯克的政府效率部门行动的一部分，包括用于打击网络虚假信息和AI深度伪造项目的资金。

AV俱乐部

Northwood联合创始人兼首席执行官布里吉特·门德勒加入彭博科技，讨论这家太空初创公司的最新融资轮次和增长战略。

彭博活动

加入彭博的马克·古尔曼（《开机》作者）和希琳·加法里（Q&AI专栏作者），与彭博执行编辑汤姆·贾尔斯于5月1日在旧金山讨论AI如何颠覆科技行业。更多信息请点击此处。