内容审核这难道会是ChatGPT的新商业模式？OpenAI发言人也透露，已经有客户在用GPT-4进行内容审查，但并未给出具体名单。今日有消息称，美国爱荷华州的学校的图书管理员，已经开始用ChatGPT来筛选带色情内容的书籍了。
据悉，根据新规定，美国爱荷华州的学校需要下架图书馆中包含性行为描述的书籍，但“阅读每本书并按新要求筛选根本不可行”。在ChatGPT的帮助下，一个学区终于赶在开学前筛选出19本符合条件的书籍。隔天，OpenAI也正式宣布将GPT-4引入内容审核系统。
在OpenAI看来，GPT-4这项审查功能可将审查更新周期从数月缩短至数个小时，且具有更强的灵活性。这项新的功能不仅在于提高效率和减轻人类工作量，还解决了人工审核中尺度不一致问题。最重要的是，它能够避免有害内容对审核人员造成的身心伤害。
工作流程上，重点的环节是用户政策的设计，这部分是由人工主导的。之后GPT-4会使用一些示例进行准确性检验和优化。根据GPT-4的预测微调出小型筛选器，就可以对内容进行批量审查了。
OpenAI总裁兼联合创始人Greg Brockman表示，这项功能“非常可靠”。同时，Brockman还展示出了测试结果作为依据。在色情、暴力等多个类型的有害内容判别上，GPT-4的表现超过了经少量训练的人类。
原创文章，作者：AI，如若转载，请注明出处：https://www.kejixun.com/article/576258.html
