新学期新气象——新老师，新书包，新暗恋对象——还有能收集你社交媒体推文的新算法。

Blake Prewitt是密歇根州Battle Creek市Lakeview学区的主管，他说，她每天早上起来都要看20封由社交媒体监视系统发来的邮件，这个系统于今年早些时候启用。这个系统用关键词加机器学习技术标记出Twitter和其他社交平台中带有过激言论或提及该学区的推文。

最近几个月，警报邮件报告了一起潜在的校外绑架案——Prewitt检查了学校的摄像头看看是否能帮助警察——还有一条是学生家属关于着装要求的评论——工作人员已经和他们取得联系了。Prewitt 说，这个系统能帮助他保护4000名学生和500名工作人员的安全。「如果某人在推文里威胁另一个人，我们会和家长同学协力，防校园暴力于未然，」他说。

乔治亚州的Firestorm公司开放了这个系统，他们还帮学校做安全与危机响应机制。和其他公司一样，这个公司说自己的社交媒体监控工具能帮助学校遏制从色情短信、校园霸凌到枪击案等所有事情。Firestorm 的监控平台标记了的一条推文是这么说的：「每次我和妈说话，最后我一定会不耐烦，她一定会生气，哪怕我已经很克制了。」这个公司还有几条假的推文范例，程度不断加重，从「我女朋友把我甩了，我的生命结束了。」到「啪，啪。真希望你们能把我当回事。再见🔫。」

今年早些时候，发生在佛罗里达州Douglas高中的枪击案成为了这个细分市场的爆发点。枪击案发生一个月以后， 为学校和其他机构提供社交媒体监控的Social Sentinel 公司的CEO Gary Margolis 说，他们的业务「爆炸式增长」，并声称，他们的算法在案件发生前就标记了凶手的推文。 Firestorm的首席运营官Hart Brown对连线杂志说道，今年早些时候，该公司的系统标记了一条学生发的带图推文，图片里是一个装满武器的书包。这所学校的校长随即抓住了这名同学并搜出了武器。这所学校拒绝发表评论。

对于管理者来说，学生分享在社交平台上的内容当然很有用。但这里也存在着一个争议：软件能否——或者说如何——准确或合理(ethically)地抓取信息。

Amanda Lenhart 是New America基金会的研究人员，她的研究主题是年轻人如何使用互联网。他说，学校希望监控社交媒体这个想法可以理解。「管理者担心校园内的安全与秩序，但社交媒体上的内容——他们无法控制——却可以随时影响到这个空间，」她说。不过，Lenhart 也警告道，对孩子，青年以及社交媒体人的研究已经证明：成年人很难从外部理解这些内容的涵意。

「即便你让人直接来看，他们都未必懂他们在看什么，」Lenhart 说，「让算法来就更不行了，他们无法理解这个语境。」即便自然语言处理的技术最近几年发展迅猛，但离真正可用还有很长一段距离。社交媒体监控的误报可能会浪费学校时间，还会恶化学生与教职工之间的关系，Lenhart 说。

Desmond Patton 是Columbia的教授，他认为，如果使用得当，社交媒体监控能发挥作用。「我觉得这是个机会，学校可以利用这项技术服务学生和老师，但我会谨慎地使用这项技术。」Patton 说，他也是 Social Sentinel 的顾问。他的实验室与社工合作，通过机器学习，寻找流露负面情绪的推文以减少芝加哥的黑社会暴力活动。

Patton 还担心，提供给学校的技术无法正确解读黑人小孩的语言，导致他们受到学校管理人员过多的关注。他和Lenhart 都说，学校监控社交媒体这事，不能遮遮掩掩的，要公开。

Social Sentinel 和 Firestorm 都说他们的顾客对此有决定权，并强调，他们只会扫描空开的推文，针对特定地区和特定主题，不针对个人。在Lakeview的学校里，学生也有社交媒体的课程，课程内容包括隐私设定，但对于该地区使用软件监控学生这事，并没有提及。两家公司都说自己的软件收录了全国不同地区的俗语，并且会经常更新语料库。

Lakeview的同学们9月4日就要返校了。Prewitt作为学区主管工作繁忙，但他说自己不介意花时间每天看这些被标记的推文，虽然有的推文没啥关联。他回忆道，有一天早上，他看到一条关于枪击的警报，心脏立刻加速——最后结果证明真的和学校有关。「总是有很多事情要做的，我宁愿手头上的情报多一点，」他说。

本文译自 WIRED，由 Dkphhh 编辑发布。

PREV : 钻石和黄金哪个更稀有？
NEXT : 1973年MIT一模型做出预言：文明将在2040年走到终点