岗位描述
工作职责
1.针对超级人工智能大模型的安全对齐需求,研究可扩展监督机制,构建新型对齐理论框架与技术体系,以解决现有训练范式在超级大模型安全可控性上的局限。
2.针对大模型安全测试当前主要依赖人工经验,缺乏扎实理论基础的问题,研究大模型安全基准测试理论体系,构建可量化可解释的测试基准,研制面向超级人工智能的安全测试评估方法或工具,为未来模型的安全测试提供可靠理论和技术支撑。
工作要求
1.严格执行党和国家的法律、法规,政治立场坚定,认可中国信通院工程师文化,具备极限思维和探索精神,坚持科研诚信,作风正值朴素,致力于推动用人工智能技术改变社会发展;
2.年龄在35岁以下(含35岁);
3.获得博士学位,且获学位时间不超过3年,身体健康;
4.原则上优先录取有知名高校、科研院所、研发机构任职或学习经验的。
专业要求
计算机科学、人工智能、机器人学、自动化、数学等相关领域