人工智能代理有望改变这一点。将它们视为具有脚本和明确目标的人工智能模型。一般来说，这些代理分为两类。
第一种称为基于工具的代理，可以通过自然语言（而不是编程）引导完成数字任务。例如，它在 10 月份推出了一款代理，这是大型人工智能模型开发商的首个此类代理。这种代理可以将指令（例如“帮我填写这张表格”）转换为具体的动作，在计算机上移动光标打开网页浏览器，导航查找相关页面上的数据，并使用这些数据填写表格。也发布了类似的代理，据报道计划在明年 1 月推出自己的版本。
另一种类型的代理称为模拟代理，它可以被视为旨在模仿人类行为的人工智能模型。第一批研究这些因素的人是社会科学研究人员。他们想要进行一些在真人身上难以实施的实验，因为成本高、操作不切实际或存在伦理问题，所以他们使用人工智能来模拟实验对象。斯坦福大学博士生 Joon Sung Park 及其团队发表了一篇被广泛引用的论文《生成代理：人类行为的交互式模拟》(: of Human)，这一趋势在 2023 年得到了巨大的推动。 。
近日，Park 和他的团队在 arXiv 上发表了一篇题为《千人生成代理模拟》（Agent of 1,000）的新论文。在这项研究中，研究人员要求 1000 名参与者与人工智能进行两小时的采访。随后，该团队成功创建了模拟代理，能够高精度地再现每个参与者的价值观和偏好。
这里有两个非常重要的进展值得注意。首先，很明显，领先的人工智能公司已经意识到，仅仅构建令人惊叹的生成式人工智能工具已经不够了，他们现在必须开发能够为人们完成实际任务的代理。其次，这些人工智能代理越来越容易模仿真人的行为、态度和个性。过去两种不同类型的代理——模拟代理和基于工具的代理——可能很快就会合并成一种全新的形式：既可以模仿个性又可以代表人类行事的人工智能模型。
研究正在进行中。 Tavus 等一些公司正在帮助用户创建自己的“数字双胞胎”。但该公司首席执行官 Raza 设想更进一步，开发可以担任治疗师、医生和教师等角色的人工智能代理。
如果此类工具变得便宜且易于构建，将会出现许多新的道德问题，尤其是两个问题。首先，这些代理可能会导致更多个人和有害的深度伪造。目前的图像生成工具已经可以很容易地从一张照片中创建未经同意的色情内容，但如果复制一个人的声音、偏好和个性变得很容易，危机只会变得更糟。 （帕克告诉我，他和他的团队花了一年多的时间在他们最新的研究项目中思考类似的道德问题，与斯坦福大学的道德委员会进行了多次讨论，并制定了参与者如何撤回他们的数据和贡献的政策。）
第二个问题是一个基本问题：我们是否有权知道我们正在与人工智能代理还是人类对话？如果你完成了对人工智能的采访，并提交了你的声音样本，以创建一个听起来像你、做出像你一样反应的代理，你的朋友或同事是否有权知道他们正在与它交谈？不跟你说话吗？相反，当你打电话给你的手机服务提供商或医生办公室并且一位乐于助人的客户服务代表接听电话时，你是否有权知道你正在与人工智能交谈？
这个未来看似遥远，但事实上并非如此。当我们实际上处于这种情况时，可能有更紧迫和相关的道德问题需要解决。在那之前，你可以阅读更多关于人工智能代理的文章，并思考一下：人工智能面试官在两个小时内能对你了解多少？
原文链接：
