科学家开发了#MeTooBots来对抗工作场所的性骚扰-但我们不应该依赖它

 
在进行中的Code Code系列中，我们正在探索技术是否(以及如何)保护个人免受性侵犯和性骚扰，以及它如何帮助和支持幸存者。
要命名一个不依赖电子邮件或Slack等其他工作场所消息传递平台的行业，几乎是不可能的。在线即时消息无疑给工作场所带来了革命性变化，将自己定义为一种协作工具，无论公司规模大小，它都可以鼓励团队内部的开放性。它为犯罪者提供了一种新的更轻松的方式，使其在工作时间内谨慎地骚扰同事。
虽然最终由人事部门负责解决工作中提出的任何骚扰索赔，但Slack对平台上发生的骚扰不承担任何责任。目前，无法在平台上静音，隐藏或阻止用户，并且该公司的“可接受的使用政策”定义了允许和禁止的内容-更不用说其对骚扰或不当，不当性评论的立场了。
为了帮助防止工作场所骚扰，位于芝加哥的AI公司NexLP的程序员开发了#MeTooBots。该工具目前有50个企业客户使用，可自动监视并标记通过在线聊天平台和共享工作文档在同事之间的对话中发现的网络欺凌和性骚扰。
正如《卫报》首次报道的那样，#MeTooBots的创建者在有效解决性骚扰方面面临许多挑战，因为它以多种形式出现，其中许多形式是微妙的且取决于上下文。 NexLP首席执行官Jay Leib对《卫报》说：“我不知道所有形式的骚扰。我以为这只是在说脏话。它以多种不同的方式出现。可能是15条消息……可能是色情照片。”
该工具使用经过训练的算法来识别性骚扰，一旦被举报，举报的评论或对话将被发送到公司的人力资源经理。该机器人认为是未经同意的性评论是未知的，但是Leib告诉《卫报》，该工具搜索“整个星期内交流模式的语言，频率或时间安排上的异常，同时不断学习如何发现骚扰。”
虽然可以作为第二次潜在性骚扰见证的机器人可能会阻止这种行为，但它无法解决问题的根源-工作场所文化-并带有其自身的漏洞。例如，冒犯者可能会学习如何欺骗该软件，以及如何转向目前不受骚扰预防机器人监控的其他聊天平台。
#MeTooBots可能是我们过度依赖AI来解决人类和根深蒂固的社会问题的另一个例子，更不用说如何保护和分发收集的数据了。
尽管希望技术在可能防止工作场所骚扰中发挥作用是有希望的，但去年有37%的技术女性在美国报告了这一点，更不用说未报告的病例了。我们不能使用AI来快速解决女性数十年来遭受的文化问题。
去年，有37%的高科技女性报告她们在工作场所遭受骚扰，因此很明显，需要在所有方面采取行动。但是，我们必须记住，技术本身并不是工具，而是解决方案。我们不能将AI用作解决女性数十年来一直困扰的文化问题的快速解决方案，但希望看到技术行业将注意力转移到解决问题上是有希望的。