哈希力量归集文库路径访问: 首页 > AI认知课 > 新知 • 科技财经洞见

热议新冠疫情的推特用户,可能有一半是机器人

佚名 ☉ 文 收录源:MIT科技评论 2020-05-24 @ 哈希力量

【小哈划重点:他们随后使用机器学习和网络分析技术,来确定哪些账户传播了虚假信息,又有哪些存在机器人账户的嫌疑,其中也包括由人控制,但借助辅助工具,短时间内实现大批量转发、快速回复和超高频率发文的账户——这种账号又被称为“cyborg(半机器人)”,行为通常带有很强的目的性。】

社交平台是热点信息和重大新闻的关键获取渠道之一,尤其是在当下新冠疫情大流行时期。3jT哈希力量 | 消除一切智能鸿沟

一个公认的事实是,出于各式各样的目的,无论是国内的微博,还是国外的推特,平台上经常会有机器人账号,也就是所谓的“僵尸账号”出没。不过,这些伪装成真人的虚假账号通常不会占据太大比例。3jT哈希力量 | 消除一切智能鸿沟

以推特为例,卡内基梅隆大学计算机科学系教授凯瑟琳·卡莉(Kathleen M. Carley)带领团队分析过,在美国出现值得关注的自然灾害和政治事件时,平台上的互动通常有 10%-20%是机器人账号参与的。3jT哈希力量 | 消除一切智能鸿沟

然而,另一项同样来自卡莉教授的最新调查显示,在与新冠病毒有关的话题讨论中,虚假推特账户的参与比例可能高达45%-60%,活跃程度是平时的3-5倍,而且有组织痕迹,行为模式更加复杂,隐藏得更深。3jT哈希力量 | 消除一切智能鸿沟

它们中的一大部分都是今年2月份创建的,非常热衷于参与新冠疫情讨论,包括传播错误医疗建议,夸大不实信息,转发病毒起源的阴谋论,并且积极推动居家令的终止和呼吁“重开美国(Reopen America)”。3jT哈希力量 | 消除一切智能鸿沟

研究人员认为,他们虽然使用了老套的方法来增加影响力,但其策略已经奏效:自美国疫情进入暴发期以来,推特上的相关话题讨论呈现出极大的两极分化态势。3jT哈希力量 | 消除一切智能鸿沟

3jT哈希力量 | 消除一切智能鸿沟

图 | 卡内基梅隆大学计算机科学系教授凯瑟琳·卡莉(来源:卡内基梅隆大学)3jT哈希力量 | 消除一切智能鸿沟

有许多因素可以解释这一变化。疫情在全球大规模流行,意味着更多人会受到更大的利益驱动,转而利用危机来赚取政治利益和资本。与此同时,越来越多的机构正在开展影响力运动,施加强大的力量来主导不实信息的传播。3jT哈希力量 | 消除一切智能鸿沟

但是卡莉教授指出,最值得担心的一点并非机器人账号的数量,而是它们愈发复杂的行为模式,不仅使其更难被发现,还进一步增强了破坏力。3jT哈希力量 | 消除一切智能鸿沟

在有意培养下,如今的僵尸账号与其他账号之间的联系更加深入,交际网络更广,从而使假消息更容易广泛传播。它们还会采取更多策略针对美国的高风险群体,比如移民和少数群体,并且拉拢发表或参与讨论仇恨言论的真实账号,帮助他们组建和加入Facebook Group这样的在线群体,有意引导他们的情绪。3jT哈希力量 | 消除一切智能鸿沟

在最新的调查分析中,研究团队收集了自今年1月以来的2亿多条推文,全都与冠状病毒或COVID-19等关键词有关。3jT哈希力量 | 消除一切智能鸿沟

他们随后使用机器学习和网络分析技术,来确定哪些账户传播了虚假信息,又有哪些存在机器人账户的嫌疑,其中也包括由人控制,但借助辅助工具,短时间内实现大批量转发、快速回复和超高频率发文的账户——这种账号又被称为“cyborg(半机器人)”,行为通常带有很强的目的性。3jT哈希力量 | 消除一切智能鸿沟

研究人员所使用的系统可以寻找16种不同操作模式,都是虚假账户身上常见的行为习惯,包括“桥接”两个在线社群,用集中关注的方式“支持”一个账户以提升影响力,以及“爆破”一个在线社群致其解散。3jT哈希力量 | 消除一切智能鸿沟

3jT哈希力量 | 消除一切智能鸿沟

图 | 自动发推工具的宣传图(来源:YouTube)3jT哈希力量 | 消除一切智能鸿沟

经过分析,他们发现了100多种版本的新冠病毒“假故事”。凭借精心编织的假故事,机器人账号不仅吸引了大量注意力和关注者,还在转发推文中占据了极高的比例。3jT哈希力量 | 消除一切智能鸿沟

在排名前50的转推账号中,有高达82%是机器人账号。如果范围扩大到前1000名,这一比例下降到了62%,但仍然超过半数,其影响力不可小觑。这些虚假信息对社交网络环境的污染和破坏可想而知。3jT哈希力量 | 消除一切智能鸿沟

现在研究团队的工作重心已经转向Facebook,Reddit和YouTube,以了解假信息如何在多个平台之间传播。这项工作仍处于初级阶段,但一些令人意外的模式已经显现。3jT哈希力量 | 消除一切智能鸿沟

首先,他们发现许多“假故事”最早起源于常规网站或博客,然后才被节选或转载到社交平台上加以放大。不同类型的故事也有不同的出处模式,比如声称病毒是生化武器的通常是那些以“披露黑料”或“炮制假新闻”著称的网站,运营方大多来自美国境外。与之相反的是,类似于“抵制居家令,重开美国”的言论主要来自美国境内的博客和Facebook主页。3jT哈希力量 | 消除一切智能鸿沟

其次,研究团队还意识到,不同平台的用户应对此类内容的方式非常不一样。以Reddit论坛为例,管理者更倾向于戳破并禁止虚假信息。当Facebook上的“重开美国”号召流传到 Reeddit论坛上时,有的用户会主动发言抵制其传播。3jT哈希力量 | 消除一切智能鸿沟

3jT哈希力量 | 消除一切智能鸿沟

图|  呼吁 “重开加州” 的游行(来源:Watchara Phomicinda/Orange County Register/AP)3jT哈希力量 | 消除一切智能鸿沟

在虚假信息中,关于治愈和预防病毒的迷惑资讯最为普遍,包括从注射漂白剂到服用类固醇在内的一系列概念。3jT哈希力量 | 消除一切智能鸿沟

值得注意是,像是“注射漂白剂可以杀死病毒”这样一段说辞,对不同人的作用也不一样,甚至是截然相反的:有的人觉得很滑稽,为了讽刺而转发,有的人却会信以为真地转发。3jT哈希力量 | 消除一切智能鸿沟

因此,即使因为讽刺和滑稽而传播这种虚假信息,如果不明确说明,也可能会造成意想不到的破坏性。3jT哈希力量 | 消除一切智能鸿沟

至于如何解决这一系列问题背后的根源——虚假账号泛滥,卡莉认为“没有简单的方法”。单纯地禁用或删除账号是徒劳的,因为背后的人会创建更多账号,禁用无法解决任何问题。3jT哈希力量 | 消除一切智能鸿沟

虚假信息在任何时刻都会出现,尤其是危机和灾难降临时,几乎无法避免。每个人在接收信息和网上互动时,都应该认真思考互动的内容和方式。有时,直接点出这是虚假信息,或许就能阻止其进一步传播。3jT哈希力量 | 消除一切智能鸿沟

“很多虚假信息通过影射、暗示或不合逻辑的表述来完成,很难被发现,”卡莉补充称,“我们需要研究人员、企业和政府共同努力,进行协调,以提出更有效的策略和措施。我认为需要某种综合监督小组,因为没有人可以独自完成这一切。”3jT哈希力量 | 消除一切智能鸿沟



收录源追溯链接或暂略


本文收录后固定可引用URL链接
    http://www.haxililiang.com/toutiao/abcdi/2020-05-24/31968.html


☉ 文库同一主题内容智能推荐 ☉
哈希力量 ☉ 人机智能科普文库