大型游戏创作平台《罗布乐思》运用机器学习 AI 开展语音聊天审核已有一年之久。鉴于这款游戏拥有大量儿童用户，公司对审核工作极为重视。在近期举办的 GDC 2024 年游戏开发者大会上，罗布乐思公司高级技术总监 Kiran Bhat 和语音安全负责人 Hannes Heikinheimo 透露，尽管 AI 审核成效良好，但在某些方面，人类的表现更为出色。
Bhat 在演讲中提到：“实时监控语音并非易事，因为要监控语音，不仅要明白对方说了什么，还需捕捉其说话的语气和强度，以此判断某段话是否真的带有恶意。”
“上下文同样是判断某段话是否具有冒犯性的重要因素。所以这是个颇具挑战性的问题。”
他进一步解释道，公司通过将违规内容归为 4 个主要类别来应对这些难题，并表示 85% 的违规内容都可归入这些分类，而且“绝大多数”违规内容能通过 50 个关键词被捕获。他称：“要是你能涵盖这些类别的前 50 个关键词，那就相当不错了。”
语音安全负责人 Heikinheimo 表示 AI 监管成果显著：运行一年后，该系统已覆盖 31 个国家和地区，且每段“活跃聊天时间”的违规举报数量减少了一半。使用 AI 的一大优势在于它没有情感且不会疲惫，所以在“非常明显的违规情况下，机器比人类更高效、更稳定”。然而，魔高一尺道高一丈，若要真正理解意图并进行判断，他认为“人类依旧胜过机器”。
Heikinheimo 指出：“在那些可能接近判定边缘的情况中，人类的表现更佳。或者在极为罕见的情况下，可供机器学习系统训练的数据不足。在这些情形下，人类的表现还是更胜一筹。”
