旗下微信矩阵:

揭秘美国社交灰产

一些Devumi的客户承认,他们之所以购买机器人,是因为他们的职业生涯取决于社交媒体的影响力。经济预测专家Jason Schenker至少已经购买了26万粉丝,他说:“如果你没有一个显著的存在感,没有人会认真对待你。”
2018-01-30 17:00 · 微信公众号:猎云网 福尔摩望

  现实生活中的Jessica Rychly是一个来自明尼苏达州的青少年,有着甜美的笑容和一头波浪般的头发。她喜欢阅读,喜欢说唱歌手Malone。当在Facebook或Twitter上时,她有时会沉溺于无聊之中,有时也会和朋友们开开玩笑。而她也会像大多数青少年一样,会在自己的社交媒体上放上一张自拍照。

  但是,她的朋友或家人并不知道Twitter上还有另一个Jessica存在。虽然她们有着同一个名字,同样的照片和同样奇怪的简介,但是另一个Jessica却在极力推荐着加拿大的房地产投资、加密货币和一个Ghana的电台。

  这一帐号会关注或转发使用阿拉伯语或印度尼西亚语的帐号,而真实的Jessica却不会讲这些语言。虽然她只是一名17岁的高三生,但是她的假帐号却在频繁地推荐着色情图片,转发名为Squirtamania和Porno Dan的帐号。

  所有这些账户都是属于一个名叫Devumi的不起眼美国公司的客户,该公司已经在用于社交媒体欺诈的一个黑暗全球市场中获利数百万美元。Devumi向任何想要出名或拥有网络影响力的名人和企业等出售Twitter粉丝和转发。

“纽约时报”的一项调查发现,该公司估计至少有350万个自动化账户,每一个账户都被售出多次。该公司已经为客户提供了2亿多Twitter粉丝。

  像Rychly女士那样模仿真实人物的帐号,表明了一种大规模的社交身份盗用活动。根据纽约时报的一项数据分析,至少有5.5万个账户使用了包括未成年人在内的真实Twitter用户的姓名、个人资料图片、家乡和其他个人信息。

  如今已经19岁的Rychly说:“我不希望我的名字或照片出现在这些账户中。我不敢相信甚至有人会出钱干这样的事。这太可怕了。“

  这些帐号是在网络影响蓬勃发展的经济中假币,触及了几乎每一个可以将大众进行货币化的行业。由政府、犯罪分子和企业家部署的假帐号目前正在侵入社交媒体网络。

有人曾计算过,Twitter的活跃用户中有4800万是仿造真实人物的自动化帐号(近15%),虽然该公司声称这一数字要低的多。

  去年11月,Facebook向投资者透露,它至少有两倍于之前估计的假冒用户数量,表明有多达6000万个自动化帐号可能漫游在世界上*的社交媒体平台。这些假账户,也被称之为机器人,可以帮助改变广告受众和重塑政治辩论。它们可以欺诈企业,破坏其声誉。然而,它们的产生和销售都处于法律的灰色地带。

  弗吉尼亚州民主党参议员兼参议院情报委员会成员的Mark Warner说:“在社交媒体平台上欺诈性的账户和互动仍持续存在,而这些欺诈性的服务也逐渐专业化,这些现象表明我们还有许多工作要做。”参议员情报委员会一直在调查Facebook、Twitter和其他平台上存在假帐号的情况。

虽然社交媒体公司受到越来越多的批评,民选官员也对此进行了越来越多地审查,但有关僵尸粉的交易在很大程度上仍然是不透明的。虽然Twitter和其他平台禁止购买僵尸粉,但Devumi等几十个网站仍在公开销售。市场价值与使用服务人数密切相关的社交媒体公司,纷纷制定了检测和消除虚假账户的规定。

  Devumi的创始人German Calas否认自己的公司在销售僵尸粉,并表示自己对从真实用户身上窃取社会身份信息的事一无所知。Calas在11月的一封电子邮件中表示:“这些指控是错误的,我们也不了解任何有关这些活动的信息。”

“纽约时报”审核了该公司的商业和法庭记录,发现Devumi拥有超过20万的客户,包括真人秀明星、专业运动员、喜剧演员、TED演讲者、牧师和模特。记录显示,在大多数情况下,是他们自己购买了粉丝。

此外,还有一些是他们的员工、代理人、公关公司、家人或朋友购买的。一个粉丝的价格仅几毛钱,有时甚至更少。而Devumi则会提供Twitter粉丝、YouTube的观看次数、SoundCloud播放量和LinkedIn上的支持量。

  演员John Leguizamo购买了Devumi的僵尸粉。计算机亿万富翁Michael Dell和橄榄球解说员、前乌鸦队后卫Ray Lewis也是。曾经的泳装模特、如今掌管了5亿美元授权帝国的Kathy Ireland和“美国忍者战士”节目的主持人Akbar Gbajabiamila也有数十万Devumi僵尸粉。即使是Twitter的董事会成员Martha Lane Fox也有一些。

  当Facebook、Twitter和谷歌正在应对政治操纵和虚假新闻的泛滥时,Devumi的僵尸粉也成为了这场在线政治斗争中的士兵。Devumi的客户包括了特朗普的狂热支持者和激烈批评者,既有自由主义专家,又有右翼堡垒Breitbart的记者。寻求撤销威斯康星州代表Paul Ryan的钢铁工人Randy Bryce在2015年购买了Devumi的僵尸粉,当时他是一名博客主和一名劳工活动家。财政部长Steven Mnuchin的妻子Louise Linton为了自己的演艺生涯也购买了僵尸粉。

Twitter发言人Kristin Binns表示,公司通常不会暂停涉嫌购买机器人的用户,部分原因是企业很难知道是谁做出了这些购买行为。Twitter也不会对泰晤士报所提供的虚假账户是否违反了公司的反假冒政策作出表态。

  Binns说:“我们将继续努力解决平台上出现的恶意自动化账户和虚假或垃圾账户。”

  与一些社交媒体公司不同,Twitter并不要求账户对应一个真实的人。为了更容易的设置和控制大量账户,它还允许更加自动化的访问权限。

  专注于根除僵尸网络的网络安全公司Distil Networks的创始人Rami Essaid说:“社交媒体是一个充斥着一半僵尸一半真人的虚拟世界。你不能将每一条推文都当作真理,不是所有一切都是像看上去那样的。

  这其中就包括Devumi本身。

网红经济

  去年,有三十亿人登录了Facebook、WhatsApp和新浪微博等社交媒体网络。整个世界集体对人际联系的渴望不仅重塑了财富500强,还颠覆了广告业,同时也创造了一个新的地位标签:关注、点赞和好友的人数。

对于一些艺人和企业家来说,这种虚拟地位是一种现实世界的货币。社交网络上的粉丝数量会帮助确定谁会聘请他们,他们为预定或支持支付多少钱,甚至潜在客户如何评估他们的业务或产品。

  粉丝数量的高低对于所谓的网红来说也是至关重要的,这些网红是由业余时尚和YouTube等新兴市场产生的,每年会获得广告商数十亿美元的赞助费。网红影响的人越多,他们赚的钱也就越多。根据一家连接网红品牌的公司Captiv8收集的数据,一个拥有10万粉丝的网红,一条推广推文平均可以赚取2000美元,而一个拥有100万粉丝的网红则可能会赚取2万美元。

  真正的名气往往转化为真正的社交媒体影响力,因为粉丝们会关注和喜欢他们所喜欢的电影明星、名人厨师和模特。但这也是有捷径的。在诸如Social Envy和DIYLikes.com等网站上,只需要多一些信用卡,就可以在几乎所有的社交媒体平台上购买大量关注。大多数这些网站会提供他们所描述的“积极”或“有机”的粉丝,但从来没有说明是否是真实的人类。一旦购买,这些粉丝就可以成为一个强大的工具。

  搜索引擎优化软件公司Moz的创始人Rand Fishkin表示:“当你看到关注量或转发量上升时,你会认为这个人很重要,或者这条推文很受欢迎。因此,你也可能会去转发或关注这个人。”

  Twitter和Facebook也会受到类似的影响。帮助企业打击网络滥用、机器人和欺诈行为的安全公司Smyte的联合创始人Julian Tempelsman说:“社交平台在推荐时会疑问自己推荐的东西是否受欢迎,而关注量就是社交媒体平台评判这一问题的因素之一。”

  在谷歌上搜索如何购买更多的粉丝,常常出现的*个结果就是Devumi。当你点击了链接后,你会看到一个列出了曼哈顿地址的精美的网站,上面显示着来自客户的推荐和退款保证。

  最重要的是,Devumi声称,自己的产品受到社交媒体平台的欢迎。“我们只使用Twitter推荐的推广技术,因此您的账户永远不会有被暂停或处罚的风险,”Devumi的网站承诺道。

  为了更好地了解Devumi的业务,我们也选择成为了客户。4月,泰晤士报在Twitter上建立了一个测试账户,并向Devumi支付了225美元用于购买2.5万个粉丝,相当于一个粉丝一美分。正如广告中所宣传的那样,这前1万人看起来就像是真实的人。他们有照片和全名,有自己的家乡和非常真实的简介。其中一个账户看起来就像是来自明尼苏达州的Rychly。

  但是在仔细观察后,其中一些细节似乎经不起推敲。这些账户名称包含着多余的字母或下划线,或者不容易注意的字母替换,比如用大写字母“L”代替小写字母“l”。

如何发现Devumi机器人

  接下来的1.5万个粉丝看起来就更容易让人怀疑了,没有个人资料照片,名字也是由字母、数字和文字片段所组成。

  8月,一名纽约时报的记者通过电子邮件询问Calas,他是否会回答有关Devumi的问题。Calas没有作出回应。一边是Twitter禁止销售或购买粉丝和转发,一边是Devumi承诺给予客户*的酌情权。

  该公司网站上写道:“你的信息是保密的,我们的粉丝看起来就和其他粉丝一样,关注过程也是很自然的。除非你告诉他们,否则没有人会知道实情。”

购买机器人

  但纽约时报所审核的公司记录,显示了Devumi及其客户更喜欢隐瞒什么。

  大多数Devumi最知名的买家都在社交媒体上销售产品、服务或者推荐自己。在采访中,他们的解释各不相同。他们购买粉丝是因为他们对此感到好奇,或者对为自己或客户创造高关注量感到压力。Devumi的一名客户、女演员Deirdre Lovejoy说:“每个人都这样做。”

  有人说他们相信Devumi提供的是真正的潜在粉丝或顾客,而其他人则承认他们知道或怀疑Devumi在使用虚假账户。有几个人表示,他们后悔自己购买了粉丝。

  英国赛艇运动员兼奥运金牌得主James Cracknell也曾从Devumi那里购买过5万名粉丝,他说:“这是一种欺诈行为,通过有多少人喜欢或关注来评判一个人是一件不健康的事情。”

  Ireland女士在Twitter上拥有超过100万的粉丝,她经常使用这个帐号来推荐与她有代言协议的公司。对来自威斯康星州的American Family Insurance来说,Ireland是一个颇具影响力的“品牌推广大使”,他们会花钱请她来帮助推销产品。

  但是在去年1月的时候,Ireland只有16万粉丝。根据Devumi的记录,2月份的时候,她所拥有的品牌代理机构Sterling/Winters的一名员工花费了大约2000美元,购买了30万粉丝。这名员工在接受采访时承认,他后来又做了多次购买。纽约时报的分析发现,Ireland的许多推文似乎都是由机器人操作的。

  一名发言人表示,这名员工是在没有Ireland女士授权的情况下进行的购买。在纽约时报询问有关购买的情况后,这名员工已经被停职。发言人Rona Menashe说:“我知道他认为自己是在履行自己的指责,但这不应该是他做的事情。”

  同样的,英国电子商务先驱、国会议员和Twitter董事会成员Lane Fox女士也指责自己的“流氓员工”在一年多的时间里进行了一系列的购买粉丝行为。她拒绝透露这名员工的姓名。

  纽约时报所联系的几位Devumi客户或其代表都拒绝发表评论。还有很多人没有作出回应。

  有一些人则否认了自己在Devumi的购买行为。其中包括Lewis先生的私人助理Ashley Knight,他的电子邮件地址出现在了25万粉丝的订单上,而特朗普的好友、激励演讲者Eric Kaplan的个人电子邮件地址则与8个订单有关。在纽约时报用电子邮件向他询问之后,属于名人面包师Paul Hollywood的Twitter账户被删除了。随后,Hollywood回复道:“账户不存在。”

Devumi的网站

  两年多年,民主党公关顾问、CNN撰稿人Hilary Rosen从Devumi手中买下了超过50万的僵尸粉。Rosen此前曾在美国唱片协会担任主席十多年。在一次采访中,她将这些购买行为描述为自己曾做过的实验。根据公司的记录,她从2015年到2017年间进行了数十次买粉行为。

  其他买家则表示,他们面临着来自雇主要求增加社交媒体粉丝的压力。一位年轻的自由撰稿人Marcus Holmlund最初对国际模特经纪公司Wilhelmina雇用他来管理社交媒体感到非常兴奋。但是Holmlund说,当Wilhelmina的Twitter账户的关注增长速度不够快时,一位主管告诉他要么买粉要么另找一份工作。2015年,虽然有些疑虑,但是他开始每个月从自己的口袋里掏钱买粉。

  Holmlund于2015年末选择了离职,他说:“我感到非常糟糕,总是处于被解雇的威胁之中,害怕自己以后再也无法在时尚行业工作了。从那以后,每当有人问我这是否是一个骗局时,我会告诉他们这不会提高他们的关注度。”(Wilhelmina的发言人拒绝发表评论。)

  一些Devumi的客户承认,他们之所以购买机器人,是因为他们的职业生涯取决于社交媒体的影响力。经济预测专家Jason Schenker至少已经购买了26万粉丝,他说:“如果你没有一个显著的存在感,没有人会认真对待你。”

  Devumi除了向名流和网红出售粉丝之外,还向营销和公关机构进行了销售。来自洛杉矶的品牌策略师Phil Pallen在社交媒体上为客户提供“增长和广告运动”。公司记录显示,Pallen至少有过十次买粉的行为。例如,他从2014年开始,为发明家、“鲨鱼坦克”的主持人Lori Greiner购买了数万名粉丝。

  Pallen最初否认了这一行为。在纽约时报联系了Greiner之后,Pallen说他曾用这家公司做了一些试验,但很早以前就已经停止使用了。Greiner的律师表示,她在获悉*次的购买行为后就已经要求Pallen停止了。

  不过,有记录显示,Pallen于2016年为Greiner购买了更多的Devumi粉丝。

窃取与转卖

  于2014年创建的虚假Rychly账户出现在数百名客户的订单中。这一账户转发了经济学家Schenker和青少年网红Arabella Daho的推文。电视节目《Taken》的明星Clive Standen也涉及了Rychly被盗用的社会身份。此外还有名人面包师Hollywood、法国一人DJ Snake和Ireland女士。

  虚假的Rychly帐号还转发了至少5个与美国色情作品制作人Dan Leal有关的帐号。根据对Devumi记录的审核,Leal近年来至少从Devumi手中购买了15万名粉丝。

  Leal在一封电子邮件中说,为他的业务购买粉丝可以产生足够多的新收入来支付费用。Leal说,他并不担心会被Twitter处罚。他写道:“无数的公众人物、公司、音乐艺术家都在买粉,如果Twitter要清除有买粉行为的人,那就几乎没有人剩下了。”

  纽约时报的分析发现,Devumi至少售出了数万个类似的高质量机器人。在某些情况下,一个真正的Twitter用户会被转换成数百个不同的机器人,每个机器人相对于原始帐号都会有一些微小的变化。

机器人家族

  这些假帐号借用了来自美国各州和几十个国家的成年人和未成年人的Twitter帐号,既有高活跃的用户,也有那些数月或数年没有登录的账户。

  作为一名大学生和有抱负的电影制片人,Sam Dodd在马里兰州上高二的时候注册了一个Twitter帐号。在他毕业之前,他的Twitter信息就被复制到了一个机器人帐号中。

  直到去年,这个虚假的帐号一直处于休眠状态,但是它却突然开始不断的转发Devumi客户的推文。今年夏天,假冒的Dodd帐号转发了很多色情账号,包括Leal的Immoral Productions和一个赌博网站。

  Dodd说:“我不知道他们为什么要拿走我的身份,我只是一个20岁的大学生。我不是很出名。”但是,即使不为人知,Dodd的社会身份在网红经济中也是有存在价值的。在12月发布的价格中,Devumi以每个不到2美分的价格销售了高质量的粉丝。最后这一账号卖给了约2000名客户,也就是说,Dodd的社会身份可以给Devumi带来约30美元的盈利。

  像Dodd这样被窃取社会身份的Twitter用户对于Devumi的品牌来说至关重要。通常,客户会先收到高质量的机器人,之后就是数百万廉价且低品质的机器人。

  在向Calas发送了电子邮件之后,纽约时报的记者拜访了Devumi网站上列出的曼哈顿地址。整栋大厦拥有几十个租户,包括一个诊所和一个工会组织。但是,Devumi及其母公司Bytion似乎并不在其中。大厦的发言人表示,Deviu和Bytion都没有在那里租赁过。

  就像Devumi出售的粉丝一样,他们的办公室也是虚假的。

神秘之人

  在现实生活中,Devumi坐落在佛罗里达州西棕榈滩墨西哥餐厅上方的一个小型办公室中,旁边是一个堆放着垃圾箱、停放着车辆的小巷。Calas就住在附近的一间阁楼里。

  在他的LinkedIn简介中,Calas被描述为“连续创业者”,在技术业务方面拥有很长的工作经验,也在MIT获得了高级学位。但Calas这样的人物也是现实与幻想的混合物。

  Calas现年27岁,成长于南佛罗里达州。根据他在Internet Archive中个人网页的早期版本,他在青少年时期开始学习网页设计,并为当地企业建立网站。

  最终,他自学了搜索引擎优化的技术。据学校发言人说,他在上高中的时候,就开始在棕榈滩州立学院上课,并于2012年获得副学士学位。Calas声称自己在几年之内已经打造了几十个在线业务,为1000万用户提供服务,目前这些业务都在Bytion的名下。

  Calas去年在招聘网站Glassdoor上写道:“我用1000元开创了自己的公司,没有投资者,只有对成功的热情。”

  随着Calas的野心越来越大,他的粉饰技能也越来越好。一份2014年发布在网上的简历副本显示,他于2000年获得了普林斯顿大学的物理学学位,而当时他只有10岁。此外,他还获得了MIT计算机博士学位。但是两所学校的代表都表示,他们没有查到Calas上学的记录。他目前的LinkedIn页面显示自己拥有MIT的国际商业硕士学位,而MIT并未提供这一学位。

  据纽约时报采访的前雇员称,Devumi的营业额很高,Calas会将业务严格的划分。即使他们从事同一个项目,员工也不知道自己的同事在做什么。

  前雇员因为担心诉讼或者他们与Calas的公司有保密协议,而要求匿名。但他们的评论在Glassdoor上得到了回应。一些前雇员表示,Calas不爱说话,而且要求他们在个人设备上安装监控软件。

  根据公司记录,数十名Devumi的客户服务和订单执行员工都来自于菲律宾。雇用海外承包商可能会帮助Calas压低成本。但是这似乎也使他容易遭受同样的社会身份盗用。

  去年八月,Calas起诉了一名菲律宾承包商Ronwaldo Boado,他之前曾在Devumi担任助理客户支持经理。在因为与其他团队成员争吵而被解雇之后,Boado控制了一个Devumi电子邮件账户,上面列出了超过17万个客户订单。然后,Boado自己创造了一个假冒的Devumi。

  他的山寨公司使用了一个类似的名字——DevumiBoost,并复制了Devum的网站设计。假冒的Devumi甚至列出了同样的曼哈顿地址。在去年七月的一段时间里,Boado冒充Devumi员工,向数百名Devumi客户发送电子邮件,通知他们订单需要在DevumiBoost上重新处理。然后,他冒充客户,用不同的别名给Devumi发邮件,要求Devumi取消原来的订单。根据Calas的说法,Boado试图窃取自己的客户。

  Calas的诉讼还透露一些其他的事情:Devumi似乎并没有自己的机器人。该公司会从批发市场上购买虚假的社交媒体帐号。

社交供应链

  在网络上一些晦涩难懂的网站中,世界各地的匿名机器人制造商都在联系着像Devumi这样的零售商。虽然个人客户可以从Peakerr、CheapPanel和Ytbot等表达直接的网站上购买,但是它们使用起来不太友好。例如,有些人不接受信用卡,只接受像比特币这样的加密货币。

  但是,每个网站都会批量销售用于各种社交媒体平台和不同语言的粉丝、点赞和分享。他们出售的账户可能会被反复转手。同一个帐号甚至可以从多个卖家那里获得。

  根据一位前雇员的说法,Devumi根据价格、质量和可靠性从不同的机器人制造商那里购买机器人。例如,在Peakerr上,1000个高质量、带有照片的英文机器人的花费要比一美元多一点。而Devumi则会收取17美元的费用。

  根据公司记录,这样的价格差异使Calas能够创造一笔不小的财富。在短短的几年时间里,Devumi向至少3.9万个客户销售了大约2亿个Twitter粉丝,占据了600万美元销售额的1/3。

  上个月,Calas要求纽约时报提供发现复制真实用户的机器人例子。在收到10个账户的名字后,同意接受采访的Calas要求更多的时间来分析这些账户。然后,他停止回复电子邮件。

  Twitter发言人Binns表示,该公司并没有主动审查账户是否在冒充其他用户。相反,公司的工作重点是识别和暂停违反Twitter垃圾邮件政策的帐号。她说,以12月为例,该公司每周平均发现640万个可疑帐号。

  纽约时报所提供的所有样本帐号都因为违反了Twitter的反垃圾邮件政策而被关闭。她说:“我们采取了行动,从平台上暂停了账户的活动。与此同时,我们希望能够积极地打击平台上的垃圾邮件。”

  在纽约时报的文章发表之后,该公司也于周六暂停了Devumi的帐号。

  然而,Twitter并没有实施看似简单的保护措施,来遏制僵尸机器人的制造。许多商业网站都要求任何注册新账户的人通过发垃圾邮件测试。也正是如此,Twitter现在拥有大量未使用的帐号,其中包括可能由机器人制造商控制的休眠帐号。

  前员工表示,公司安全团队多年来更多关注真实用户的滥用行为,包括种族歧视和性别歧视以及骚扰活动等。直到最近他们发现了俄罗斯黑客部署了Twitter机器人网络来传播分裂内容和垃圾信息,Twitter才开始把注意力转向了虚假账户。

  在2015年末离职的Twitter安全和用户安全工程师Leslie Miley说:“Twitter作为一个社交网络的设计,几乎没有问责制。”

  一些批评人士认为,Twitter针对淘汰机器人的企业激励措施太过于激进。在过去两年中,该公司一直在努力推动用户增长。而外界的研究人员也在估计该平台上的活跃用户中有多少实际上是机器人。

  网络安全专家Essaid说:“我们正在与完全不受管制、封闭的生态系统进行合作。他们存在着不正当的动机。他们想监视它,让它看起来不那么明显,但他们又想从中赚钱。”

  1月,在经历了近两年推广Devumi客户的时间后,虚假的Jessica Rychly帐号终于被Twitter的安全标记。最近,这一账户被终止了。

  但真实的Rychly也许很快就会选择放弃Twitter。

  她说:“我可能要删除我的Twitter账户。”

【本文由投资界合作伙伴微信公众号:猎云网授权发布,本平台仅提供信息存储服务。】如有任何疑问,请联系(editor@zero2ipo.com.cn)投资界处理。