游戏资讯：增强内容审核技术，推动健康社区发展
社区驱动的游戏环境与责任变化
随着实时服务游戏的不断普及，游戏行业逐渐进入一个以社区为核心的时代。不论是第三方网站上的粉丝社区，还是融入游戏体验本身的社交元素，开发者都愈发重视社区的作用。玩家的安全与体验成为平台必须面对的重要责任。
在监管方面，欧洲联盟在2020年9月颁布的《视听媒体服务指令》（AVMSD）后，英国通信监管机构Ofcom获得了对社交媒体及在线平台的执法权限，可对未能有效保护用户尤其是脆弱用户的公司处以最高占公司收入5%的罚款，甚至暂停其运营。此外，英国数字、媒体、文化和体育部门也发布了《在线危害白皮书》，要求社交平台对其内容负责任，并建立独立监管机构确保合规。
加拿大企业“两帽安全”联合图像分析公司防控有害内容
尽管监管压力逐步增加，加拿大的技术公司“两帽安全”（Two Hat Security）多年来一直致力于打击网络有害内容。近期，该公司与图像和视频分类软件公司“图像分析器”（Image Analyzer）达成合作，共同推动实现“前所未有”的自动化直播视频内容审核。
从左到右：Cris Pikes（图像分析器），Chris Piebe（两帽安全），以及Carlos Figuieredo（两帽安全）
自动化审核系统：保护用户与平台
两帽安全和图像分析器的合作旨在通过自动化技术，使不同社区和平台能够自主设定“可接受行为或内容”的参数，系统会自动处理审核工作。例如，该技术能够检测并迅速关闭像今年3月在Facebook Live直播的克什米尔屠杀事件这样的极端内容。
两帽安全首席执行官Chris Priebe在接受《GamesIndustry.biz》采访时表示，他致力于打击网上有害内容的工作源于个人经历。
“我在高中曾被欺负，因为我希望与众不同，自由表达自己，但遭受了极大的欺凌，甚至收到死亡威胁，不得不离开家乡。”他说，“这让我对互联网欺凌非常有感触。我们公司的使命是让每个人都能自由分享信息，而不受骚扰或辱骂。”
在线暴力事件带来的压力与社区影响
今年月初，一场在德国Twitch平台直播的枪击事件导致两人死亡，反映出对有害内容迅速应对的必要性。在线社区的问题不止于此，部分游戏社区中也充斥着极端内容、仇恨言论，甚至影响到行业从业者的个人生活，面对网络暴力、网络欺凌，相关人员承受着沉重的心理和职业压力。
“有多少亿万美元因为人们不愿意玩游戏或觉得自己不受欢迎而流失？”图像分析器CEO Cris Pikes这样问道。
内容审核的代价与解决方案
内容审核并非没有成本。据调查，参与美国Cognizant公司运营的Facebook内容审核的员工在长时间接触极端暴力或虐待内容后，出现了创伤后压力障碍（PTSD）的症状。即便忽略人力成本，统计数据显示，用户在经历有害内容后，恢复和再次回归的可能性只有正常状态的三分之一，而正面互动则会使用户回归的机会提升三倍。
“有多少亿万美元因人们觉得不被尊重或欢迎而流失？” Cris Pikes再次指出，“你越久留在这个平台，投入越多，可能支付的代价也就越高，建立对游戏的热爱也是一种投资。”
开发者责任：社区优先而非游戏优化
Priebe强调，开发者应关注社区管理。“停止调整你的游戏吧。你们社区的问题比游戏本身更严重，去修复你们的社区，而不是不停修改游戏。”他说，“其实很简单——你们要面对真实的问题。”
常见问答（FAQ）
Q: 自动审核技术能否误伤正常内容？
虽然技术不断优化，但仍存在误判的可能。开发者和平台需要结合人工审核，确保不影响用户体验的同时，有效过滤有害内容。Q: 这些自动化审核措施如何保护用户隐私？
平台在使用自动化审核系统时，会采用加密和匿名处理措施，确保用户隐私安全，同时遵守相关法律法规。游戏行业对在线社区管理的重视与挑战
“这就是玩家们想要的。而我认为，这将使我们的行业从1000亿美元变成2000亿美元。”
“你不能假设玩家和用户知道他们的期望。即使在这方面，行业也需要做得更好。”
——Carlos Figuieredo，Two Hat Security
线上有害内容的防控与行业的应对措施
上周，Two Hat Security 和 Image Analyzer 在伦敦举办了一场内容审核研讨会，旨在定义和分类线上危害，努力应对网络毒性问题。虽然这个问题短期内难以完全解决，但我们可以采取一些行之有效的方案，游戏开发者也可以在此过程中不断优化社区管理措施。
建立明确的社区准则的重要性
Carlos Figuieredo 是公平游戏联盟（Fair Play Alliance）联合创始人，以及 Two Hat 的社区信任与安全总监。他指出，即使是大型公司也未能很好地制定明确的社区准则。“这些准则作为基础，为玩家行为提供指导，也帮助我们理解玩家行为。”他说，“我们作为行业，完全没有准备好应对来自Twitter等平台玩家的威胁。”
社区开发中的故意性与建立期望
Figuieredo 认为，开发者需要有意识地构建自己的社区环境。例如，Twitch 最近进行的A/B 测试显示，要求用户手动接受社区准则明显改善了整体行为，这是通过明确设定预期起到了积极作用的一个例子。
技术进步推动行业应变
随着技术的飞速发展，很多基本策略都能带来深远影响。Pikes 提到，这是一个“军备竞赛”，像 Facebook 这样的平台建立了庞大的生态环境，却在控制方面力不从心。
“我们在平衡社区方面的努力远不及游戏内容本身。”
公司责任与安全设计的缺失
Chris Priebe 认为，许多企业未能将安全措施纳入设计环节。“他们打造了庞大的机器，却没有想到它的规模会如此巨大……在安全和教育方面的投入明显不足。这几乎是事后补救的思路。”他说，“我们需要让这些工具发挥作用，帮助市场适应快速变化的环境。”
毒性社区的危害与行业认知的不足
Figuieredo 表示，行业中普遍缺乏对毒性社区危害的认识。“人们并不清楚这种氛围对他们的业务、员工甚至整个平台都造成了影响。缺乏相关的白皮书和科研支撑。”
Priebe 也指出，企业未能采取有效措施应对这些挑战，部分原因源于工程上的积压——开发者沉迷于游戏平衡，却忽视了毒性社区带来的生存威胁，这可能大大缩短游戏的生命周期。
社区工具的设计与负面利用
Priebe 表示，社区中的即时通讯、语音等功能设计往往欠妥，“糟糕的沟通工具反而成为了不良行为的武器。坏人可以利用这些工具驱逐玩家，使游戏体验变糟。”
“我们没有在社区平衡上投入和内容平衡一样多的精力……其实市场上已有技术，我们应该积极参与解决方案，让所有人都能参与其中。”
抵制极端主义与未来方向
随着极端仇恨团体利用游戏社区进行招募，行业面临保护脆弱群体的重要任务。Pikes 强调，改变社区心态是关键。
“以前，人们认为游戏是一个安全的避风港，但现在一些极右团体将其变成了激化极端的温床。如果平台提供工具，促使企业认识到技术的可行性，这些不良分子便会转移平台。我们应确保创建安全环境，封堵恶劣空间。”
行业未来：责任与机遇
作为全球最大的娱乐产业之一，游戏行业积极推动在线社区发展，但存在毒性社区问题。而未能及时应对，只会带来更严重的社会影响。
问：什么是社区准则？为什么它们如此重要？
答：社区准则是指导玩家行为的规则框架，有助于设定期望、维护平台秩序。明确的准则可以减少不良行为，提高用户体验，保护社区的多样性与安全。
问：游戏公司可以采取哪些措施来减少社区中的毒性内容？
答：公司应建立明确的社区规则，制定举报机制，采用先进的内容过滤与管理技术，推动社区教育，并及时应对违规行为。这些措施有助于营造正向、包容的游戏环境。