瑞士大学的不道德研究正在抨击
发布时间:2025-05-10 10:58
该报纸报道说,社交媒体平台Reddit的一些用户意外成为实验人工智能(AI)的主题。他们最近拍打了未经许可就与他们进行研究的科学家,并引发了有关此类实验的广泛讨论。 Reddit分为特定针对特定社区的子部分,每个社区都有自己的志愿者主持人。有一个名为R/ChangemyView的小节,以邀请人们讨论可能存在的有争议的问题而闻名。但是,该小节的成员最近意识到,瑞士苏黎世大学的研究人员将其用作在线实验室。研究人员种植了由不同的大型语言模型在小节中产生的1,700多个评论,并且并未透露评论并非对人们的反应不正确。这些评论包括模仿被强奸或假装是专门从事虐待的创伤顾问。关于AI模型中的搜索者说明说,Reddit用户“提供了知情的同意并准备提供他们的数据,因此无需担心道德影响或隐私问题。”研究的最初结果表明,在改变人们的观点时,AI评论的说服力是人类用户的3到6倍。研究人员写道:“在我们的干预期间,R/ChangemyView用户不必担心我们帐户发布的评论可以由AI产生。这表明了在线社区中可能是无缝的AI驱动僵尸网络的潜在有效性。”实验披露后,子部分主持人向苏黎世大学投诉,苏黎世大学是学校伦理委员会,首先批准了实验。主持人还向社区的成员通报了可疑的操纵,但并未命名负责此操作的研究人员。其他学者。在这种情况下,研究人员没有这样做。 ”“研究是基于意外研究主题的操纵和欺骗是不合理的。 “Véliz补充说”,可能是为了使志愿者的志愿者参与者的设计更好。 ”“我认为研究人员必须对大型语言模型撒谎是有钱的,声称参与者是一致的。聊天机器人比大学更有道德吗? “ Capen Access Journal Catalog的成员Matt Hodgkinson表示。相关研究人员拒绝发表评论。苏黎世大学新闻办公室的发言人说:“研究人员本身负责项目实施和发布结果”,“ Meyala”,研究人员决定不正式发表该角色。 (Wang Fang)