人工智能能否被信任独立工作？ - 南华早报青年邮报
scmp
人工智能（AI）可以撰写故事、解决数学问题，甚至能在人类最爱的游戏中击败人类。未来，AI或许还会成为你的新“同事”，即AI代理。
什么是AI代理？
AI代理能在无需人类过多协助的情况下学习信息并做出决策。
多年来，AI代理已逐步发展，能够承担日益复杂的任务（见图表）。许多公司正努力打造最优秀的AI代理，但大多数仍处于研发阶段。
这项技术与AI聊天机器人有何不同？AI聊天机器人能回答问题，但与AI代理的能力相比仍显简单。
若给AI代理分配任务，它们会制定最佳方案，并能在不同平台上完成任务。你只需发出初始指令，它们便会在工作完成前不再打扰你。
AI代理有哪些不同类型？
以下是三种AI代理及其应用示例：
- **计算机操作代理（CUAs）**可同时帮你预订餐厅、在线购物等。CUAs会扫描网页并通过输入、点击和滚动完成任务。例如，OpenAI于一月推出的Operator代理，目前仍在完善中。
- 多代理系统由多个AI代理协同处理复杂任务。例如Anthropic开发的功能，利用多个Claude AI代理进行研究。在该系统中，每个AI代理会根据发现实时调整研究方向。这类似人类的信息检索方式，但多个AI代理协作使过程更加高效。
- 混合代理让人与AI代理协作。用户可确保AI代理做出合理决策，类似微软Copilot通过AI为用户提供建议的模式。有人认为，当AI代理需做出高风险决策时，保持人类参与尤为重要。
我们能信任AI代理吗？
如果AI代理正在自主决策并采取行动，我们需要确保它们安全运作。
去年12月，世界经济论坛发布了一份关于AI代理的报告。报告指出AI可能制造虚假信息、表现出偏见并产生误解。
该报告强调在推出AI代理前测试研究其影响的重要性。
随着AI系统日益复杂，若想充分利用其优势，我们必须应对相关风险。
赞助商
在PST，我们为各年龄段学习者提供有趣且易获取的科技教育。我们的使命是点燃对技术的热情，使他们能自信驾驭数字世界。Preface邀请您参加AI知识测试——您对这项新技术了解多少？点击此处了解更多。
查看我们的内容，请关闭广告拦截器点击此处查看说明订阅YP教师通讯
获取直接发送至邮箱的教师资讯
注册即表示您同意我们的条款与条件和隐私政策评论
青年邮报我们涵盖香港学生、校园生活、体育和本地教育的最新新闻、观点和故事，同时追踪热门话题和冷门动态。