简体中文 繁體中文 港澳繁體 台灣正體
0

中国使用人工智能审查网上群聊敏感话题

30 阅 - - 社会 - 来源:环球邮报
字体: . .

中国似乎已大规模升级了其强大的在线审查制度,用以更严厉地封锁群组里的敏感话题,同时允许更自由地进行私人聊天。一名专家说这是一个使用人工智能来扼杀冲撞中共言论的一个飞跃。

多伦多大学的研究人员发现,中国的互联网封锁越来越复杂,它提供了一个洞悉这个国家专制监管机构如何越来越精通于扼杀他们所谓的不良言论,同时限制对他们删除言论在国内外激起的愤怒。

多伦多大学蒙克全球事务学院(Munk School of Global Affairs)公民实验室的研究人员研究了应用程序微信(WeChat)。在中国,微信是电子通讯的主动脉,它由中国最大的网络公司之一腾讯所拥有。他们发现了一个复杂的微信管理系统,它能够根据情况改变审查程度。

对于两人直接聊天的用户及用不是中国的电话号码注册的用户,基本上不会进行审查。

但是对于在中国的公司、朋友、供应商和活动人士之间的一种常见沟通形式——群聊,则面临更严格的管理。进入微信群,与天安门广场屠杀、一些政府官员、脱离共产党或与法轮功精神运动相关的信息完全消失。

对于当前事件,该系统可以快速的进行封锁,并且它已变得如此复杂,以致于它会允许单独提及“6月4日”——天安门屠杀的日期——但不会出现任何“6月4日”,“学生”和“民主运动”这些词汇相组合的信息。

在香港中文大学研究大陆通信技术的教授邱林川(Jack Qiu)看来,这确认了北京已从简单的使用禁用词黑名单转变到使用算法,以闪电般的速度,对不同的人在不同的时间不同的地点审查不同的东西。

“这是新一代的审查技术。其主干是一个智能系统,就是通常所说的机器学习”,邱教授说。“所以审查系统本身可以自学。”

以前,微信的用户们曾被警告说他们触碰了被禁的话题。现在,这些信息只是消失了,既不会通知发出者,也不会通知接收者。

对群组对话更严厉的限制表明,审查人员的主要目标是阻止人们组织起来,而不是仅仅与朋友讨论事件。

“在群组聊天中,一条信息有潜力抵达500名用户,因此这也有更大的潜力做动员”,公民实验室的研究经理、新报告的作者之一Masashi Crete-Nishihata说。“一个应用程序,两个系统:微信如何在中国使用一个审查政策,在国际上使用另一个。”

研究人员测试了26,821个与敏感话题相关的关键词,例如骚乱、政治争端、天灾人祸、人权、法轮功和高层官员的财富。

管理微信是中国政府的首要任务之一,因为在通信中没有其他应用程序或网站能赶上微信的重要性。微信已成为中国数字化生活的中心,与银行、购物、支付账单、游戏、送礼和商务交融。它的用户数量超过8亿。

多年来当局似乎能够直接读取通过微信传输的任何通信内容。用户引证说有时他们的讯息几乎是实时遭到警方的调查,表明该系统对于政府来说几乎完全是透明的。当爆发抗议时,那些在街上的人发现他们的账号很快就被停用了,或是他们登陆群聊的功能被封掉。

除了铁拳控制中国的新闻界之外,中国也迅速采取行动,删除通过微信传播的文章、博客帖子和其他内容。

中国的技术升级超越了管理言论范围,它还开始使用大数据技术来开发一个“社会信用”系统来衡量一个人在政府眼中的可信度,进行评级可能深刻影响到那些被视为挑战党的路线的人的生活。

但公民实验室这份新的报告还表明,决然要监禁活动人士和让批评者无声的中国(政府)正在用该系统审查绝大多数的用户。在26,821个被测试的词当中,只有两个词在私下交谈中被禁,这两个词是简体和繁体的“法轮功”,而这两个词也不是总是被封锁。在某些时间段,没有关键词受到审查。

在对微信内置网络浏览器的单独测试中,研究人员在互联网上提取了100万个最受欢迎的网站。只有41个对中国用户封锁。国际用户没有遇到障碍。因此,似乎中国的公司正在建立双系统来征服外部世界,即使像西方公司,如Facebook,也正在准备新的审查工具以期进入中国市场。

腾讯正在“建立一个分叉的社交媒体平台,对不同的观众看上去是不同的,并扩大其对中国大陆用户在中国境外的控制,跟随他们到任何地方”,公民实验室负责人Ronald Deibert说。

如果部分原因是包括采用一个机器学习系统的话,邱教授说,一个好处是它有减少假阳性反应的能力,例如避免把一个对乳腺癌的讨论作为色情信息来封锁。

“当系统很笨的时候,会杀掉太多东西”,他说。

但在更广泛的情况下,他说,这种机器驱动的审查“更恐怖,因为这个系统更有效。它更精准,但同时它可以很集中。它的目标是防止公民的行动主义或形成有意义的异议声音。”