(相关资料图)
该公司表示，使用GPT-4多模式大语言模型进行内容审核可以更快地实施政策变更。OpenAI表示，该模型还可以解释“长内容政策文档中的规则和细微差别，并立即适应政策更新，从而产生更一致的标签”。
OpenAI认为，在数字平台的内容审核中使用GPT-4最终将减轻大量人类审核员的精神负担。
内容审核要求人工审核员筛选大量内容，以查明是否违反了平台的政策。这个过程很慢并且可能导致不准确。然而，由法学硕士完成同样的任务将花费更少的时间。OpenAI表示，其模型可以根据提供给他们的政策指南做出适度判断。“通过这个系统，开发和定制内容政策的过程从几个月缩短到几个小时，”它说。
不过，OpenAI也承认，人工智能模型并不完美，人类的监督仍然是必要的。“语言模型的判断很容易受到训练期间可能引入模型的不良偏差的影响。与任何人工智能应用程序一样，结果和输出需要通过让人类参与循环来仔细监控、验证和完善，”博客文章指出。“通过减少人类对语言模型可以处理的审核过程某些部分的参与，人力资源可以更加专注于解决政策细化最需要的复杂边缘情况。”
OpenAI并不是唯一一家使用人工智能来协助内容审核的公司。Meta多年来一直在利用人工智能来帮助Facebook版主，但其内容决策仍面临批评。
OpenAI表示，任何拥有其API的人都可以访问和实施GPT-4模型，以创建自己的人工智能辅助审核系统。在这里阅读更多相关信息。
