AI 研究员（Alignment & Agentic Safety）

作为对齐（Alignment）团队的创始研究工程师/研究科学家，您将站在最前沿，确保我们的 AI 系统在复杂、长程的实际工作的场景中也能始终遵循人类意图，并使其回答与行为符合国家法律规范以及遵循社会公序良俗。您将负责设计和实施可扩展的解决方案，以确保 AI 随着能力增长，面对愈加困难的任务时始终保持与人类对齐，并将有效的人类监督整合到 AI 的决策过程中。

岗位职责

设计和实施对齐研究相关的实验，开发和评估模型在主观性、上下文（尤其是长上下文）条件下的对齐能力。

设计评估方法，以可靠地衡量风险以及与人类意图和价值观的对齐程度，尤其在智能体的场景下的指令遵循能力。

构建工具和评估方法，以研究和测试模型在不同情况下的可靠性，包括但不限于 robustness, faithfulness & truthfulness。

设计和评估新的人机交互（Human-AI-interaction）范式和可扩展的监督机制，重新定义人类与模型之间的互动、理解与监督方式。

训练模型，使其在正确性和风险方面得到良好校准。

细致地评估，收集，清洗在对齐过程中所使用的数据。

任职要求

拥有计算机科学、计算科学、数据科学、认知科学或相关领域的优秀研究经历。

拥有出色的工程能力，特别是在设计和优化大规模机器学习系统（例如 PyTorch）方面。

深刻理解对齐算法和技术背后的科学原理。

熟悉 TypeScript, Python，能够开发数据可视化或数据收集界面。

具有团队合作精神和跨团队协作的能力，能够快速适应快节奏和前沿的研究环境。

对于开发值得信赖、安全和可靠的 AI 模型充满热情，特别是在科研场景以及高风险场景中。

中英文流利。