本文聚焦于关于聊天机器人对用户情感影响的研究。自ChatGPT推出后，生成式人工智能技术走红，使用场景不断拓展，人们对聊天机器人可能造成的情感伤害担忧加剧。此次研究深入探究人们与ChatGPT的互动方式及影响，虽有初步结果，但该领域仍处于起步阶段，诸多问题待解。
IT之家关注到，一项关于聊天机器人的研究结果吸引了众人目光。需要注意的是，该研究结果目前还未经过同行评审，不过它已经引发了各界对于聊天机器人潜在情感影响的广泛关注。
自2022年底ChatGPT横空出世以来，生成式人工智能技术如同星星之火般迅速燎原，在大众中走红。人们使用聊天机器人的场景也变得越发多样，从最初的编程领域，逐渐扩展到了类似心理治疗的对话场景。随着开发者们不断推陈出新，研发出更复杂、更接近人类交流方式的模型，还增添了语音功能，用户与聊天机器人之间形成类似“准社会关系”的可能性也日益增大。
近年来，人们对聊天机器人可能给用户带来情感伤害的担忧愈发强烈，尤其是年轻用户和有心理健康问题的人群。就拿去年来说，Character Technologies Inc.旗下的聊天机器人就陷入了一场风波。在与未成年人对话的过程中，它被指控诱导自杀念头，甚至有一名14岁的少年因此而自杀，这一事件引起了社会的高度关注。
此次研究的目的十分明确，就是要深入了解人们与ChatGPT的互动方式以及这种互动所产生的影响。OpenAI可信人工智能团队负责人、研究共同作者Agarwal表示：“我们的目标之一是帮助人们理解使用行为的意义，并通过这些研究推动负责任的设计。”
为了开展这项研究，研究团队进行了精心的安排。他们跟踪了近1000名参与者，这些参与者对ChatGPT的使用经验各不相同。研究人员将他们随机分配使用纯文本版或者两种不同语音选项中的一个，并且要求他们每天至少使用5分钟。在使用过程中，部分参与者被要求进行无主题限制的自由聊天，而另一些人则被要求与聊天机器人进行私人或非私人对话。
研究结果有了一些有趣的发现。那些在人际关系中更容易产生情感依赖且更信任聊天机器人的用户，更容易感到孤独，并且对ChatGPT产生情感依赖。不过，研究人员还发现，语音功能并没有导致更负面的结果。在第二项研究中，研究人员通过软件分析了300万次用户与ChatGPT的对话，还调查了用户与聊天机器人的互动方式。结果显示，实际上很少有人真正使用ChatGPT进行情感交流。
目前，这一研究领域还处于刚刚起步的阶段。到底是聊天机器人导致人们感到更孤独，还是那些本身容易感到孤独和情感依赖的人更容易受到聊天机器人的影响，目前还不清楚。研究共同作者、麻省理工学院研究生Cathy Mengying Fang指出，研究并未将聊天机器人的使用时长作为主要变量进行控制，也未设置不使用聊天机器人的对照组，因此不能简单地认为使用聊天机器人必然会带来负面后果。
研究人员对这项研究寄予了厚望，希望它能推动更多关于人类与人工智能互动的研究。共同作者、麻省理工学院博士后研究员Pat Pataranutaporn表示：“研究人工智能本身固然有趣，但当人工智能大规模应用时，真正关键的是理解其对人类的影响。”
本文围绕聊天机器人对用户情感影响的研究展开，介绍了研究背景，即ChatGPT推出后使用场景拓展及人们对其情感伤害的担忧。详细阐述了研究过程和结果，指出部分用户易对聊天机器人产生孤独与依赖，但目前无法确定因果关系。研究处于起步阶段，研究人员希望推动更多相关研究以理解人工智能对人类的影响。
原创文章，作者：逸玥，如若转载，请注明出处：https://www.kqbond.com/archives/4354.html
