Renoir Intelligence新闻 · 全球创作者经济

全球创作者经济

Meta 扩展 Forum 工具:模糊的规则交给 AI 执行,依然模糊

Renoir 分析如何在自动化审核之前明确社群规则,区分有用的参考资料与自我推广,并结合上下文重新审视决定。

Renoir 编辑部发布于 1 分钟阅读

更新于

10月23日,Meta 宣布为 Forum 管理员推出工具,包括利用 AI 根据群组规则对待审核帖子进行初步筛查。该应用在美国可用。这一消息引出了一个问题:指导审核工作的规则是否足够清楚。

规则需要说明社群希望避免什么

“禁止自我推广”看似简单,直到有人贴出一个有助于回答问题的链接。发帖者可能是资料的作者,也可能销售相关服务,或者只是知道一份相关参考。这些情况并不相同。如果团队把与内容存在任何关联都视为删除理由,就可能排除有用的解释;如果接受所有附带礼貌文字的链接,群组又可能变成商品橱窗。

这个问题先于工具选择。规则需要让社群希望限制的行为变得可以识别。问题可能是发布与讨论无关的优惠、反复推销,或要求别人离开群组才能看到原本承诺在这里提供的答案。不同定义会导向不同决定。如果只写一个笼统词语,这项选择就被隐藏在审核者的个人理解中。

在 Renoir 看来,首要工作是把规则的意图转化为团队能够讨论的情境。这不要求预见所有可能出现的信息,而是需要区分:哪些情况凭现有文字就能判断,哪些需要补充背景,哪些值得询问作者。自动化可以参与这个过程,却无法解决管理员自己尚未澄清的分歧。

摄影群组中的两个链接

设想一个由摄影创作者运营的虚构社群。一位成员询问如何整理项目文件,以便找到已选中的版本,不与淘汰版本混淆。另一位成员直接在评论中解释自己如何划分阶段、标记入选文件。他还附上自己制作的视频链接,展示完整过程,并说明该频道也提供付费课程。

在另一条帖子中,一位成员写道,丢失文件是常见问题,并表示自己的课程会教授解决方法。文字附有报名链接,却既没有说明操作流程,也没有回答社群中的某个具体疑问。两个案例都包含外部链接,也都有助于提高作者的可见度。但前者在群组内就提供了能够理解的答案,后者则借问题引出销售内容。

团队可以规定:当自有资料的链接附带足以支持当前讨论的解释、与问题直接相关,并明确说明作者与资料的关系时,可以发布。销售内容则可以限于社群指定的区域。这是为例子提出的编辑方案,并非平台官方规则。它也不意味着随便附上一段简短解释就能自由推广;是否相关仍需结合上下文判断。

接着出现第三种情况:答案看似有用,但作者将相同文字粘贴到多个讨论不同问题的对话中。重复行为改变了调查方向。审核者不必据此认定所有自有资料都不合适,而应检查这些回复是否真正回应了提问。历史记录有助于识别模式,却不能取代对当前信息的阅读。频繁参与的成员也可能作出切题的贡献。

复核应解释案例之间的差别

在扩大自动化决策之前,团队可以根据常见情境构建案例,移除不必要的个人信息,用来检验规则。两位管理员阅读相同案例,分别记录允许、要求修改或拒绝的理由。出现分歧时,关键是定位原因:信息不足,规则措辞允许不同解释,还是大家对想建立何种社群确实存在分歧?

在这个例子中,“充分的回答”可能就是尚未定义的部分。一句话只是承诺解决问题,与给出可以理解的步骤,即便步骤很简短,并不提供同样的内容。团队可以在公开说明中加入例子,解释链接应当补充已有贡献。无须规定统一的最低字数:长文也可能回避问题,而简短答案可能已经解决问题。

通知成员的决定应说明观察到了什么,以及怎样修改后可以重新评估。请他直接在群组中解释流程,比只回复“自我推广”更有帮助。如果某条贡献被误拒,重新审视案例并修正指引,可以保留参与空间。这里的复核是建议团队采用的做法,并不假定应用具备特定的反馈流程。

待处理事项减少,不一定意味着审核更好

队列缩短说明事项得到了处理,却无法揭示哪些讨论因此未能发生。如果切题的回答开始遭到拒绝,速度可能掩盖群组的损失。如果重复销售内容仍不断进入,队列减少同样不能证明规则达成了目标。持续观察需要涵盖决策质量,而不只是已完成的工作量。

团队可以定期复核已允许和已拒绝的案例,包括模糊情况及受到质疑的决定。目的是寻找足以支持调整的模式:某个规则用语引起混淆,某类帖子需要上下文,或某条指引无人能够一致执行。少量案例无法估计所有错误的发生频率,但可能揭示值得进一步调查的问题。

还需要为这些例外情况预留时间。如果计划只考虑快速批准,没有明确由谁回答疑问,工作并不会消失,而是堆积到一个无人负责的环节。社群可以选择只对边界清楚的情况使用自动化,其余保留人工判断。选择取决于团队能力以及错误决定的后果,不存在适用于所有群组的理想比例。

在摄影群组中,期望的结果是成员能够求助、找到解释,而不是每次提问都收到伪装成回答的推销。更清楚的规则让团队能够识别差别、解释决定,并在缺少背景时予以修正。当审核者可以把注意力留给需要理解和判断的案例,同时让成员清楚知道哪些内容可以发布,工作组织的价值才会显现。

来源

RENOIR INTELLIGENCE

Renoir新闻与分析。