日前，OpenAI公司宣布成立新的“防备”团队，旨在监控旗下技术可能带来的潜在威胁，防止其落入坏人之手，甚至被用于制造化学和生物武器。
该团队由麻省理工学院人工智能教授亚历山大・马德里领导，将招募人工智能研究人员、计算机科学家、国家安全专家和政策专家等，对OpenAI开发的技术进行持续监测和测试。一旦发现任何危险苗头，及时向公司发出警告。
OpenAI还发布了名为“防备框架”的指导方针，强调只推出评级为“低”和“中”的模型。防备团队将反复评估OpenAI最先进、尚未发布的AI模型，根据不同类型的感知风险评为四个等级，从低到高依次是“低”、“中”、“高”和“严重”。
OpenAI的“防备”团队介于两个现有团队之间：负责消除AI系统中种族偏见等现有问题的“安全系统”团队，以及研究如何确保AI在超越人类智能的未来场景中不会伤害人类的“超级对齐”团队。
OpenAI首席执行官萨姆・阿尔特曼表示，公司将继续推进技术发展，造福社会并从中获益。马德里表示，他既不同意那些担心AI已经超越人类智能的“末日论者”，也不同意那些希望移除所有AI发展障碍的“加速主义者”。
此次成立的“防备”团队将进一步保障OpenAI技术的安全性和稳定性，为AI技术的发展提供有力支持。
原创文章，作者：秋秋，如若转载，请注明出处：https://www.kejixun.com/article/608671.html
