“科学研究的目标，是把零散的不确定性转化为确凿的结论，将各方分歧中的非共识沉淀为行业共识。”
这份对科研本质的深刻认知，源自微软亚洲研究院研究员姚菁早年求学时一段屡败屡战的投稿经历。那时，正在中国人民大学攻读计算机硕士的她，投递了首篇学术论文，却因研究方向颇具争议接连被拒，一部分评审认可选题的前瞻性与应用潜力，另一部分则认为该研究缺乏落地意义。
面对两极分化的评审意见，姚菁始终坚信自身课题的价值：只要整套方法经得起实验验证，在行业讨论中逻辑自洽，这项研究就值得坚持。经过长时间打磨，这篇论文最终被顶级学术会议收录。
这段经历让她对科研的本质有了更清晰的认知。有争议的研究常常蕴藏着突破性机遇，如果一个研究问题边界清晰、定义完备，反而难有拓展创新的空间。真正的创新，往往诞生于“非共识”之中。这种科研态度，自此贯穿姚菁的学术生涯。
从“科研意外”到微软亚洲研究院
如今专注于AI价值观对齐研究的姚菁，其实本科选择计算机专业并非最初的心仪之选。那时的她，更向往经济或统计类领域，但随着课程学习不断深入，一门数据结构课程点燃了她对计算机学科的兴趣。
“数据结构拥有极强的逻辑性，它由不同的结构组成，只要理解了，就掌握了。它既不需要大量记忆，也不像纯粹理论学科那样抽象。计算机学科本质上是一套逻辑的组织与形式化表达，兼具严谨理论表达与工程化思维。”姚菁说。
这种逻辑之美与姚菁的思维方式高度契合，也让她逐渐找到了自己的方向。
求学期间，姚菁不断探索信息检索、个性化搜索与数据挖掘领域，沿着细分方向层层递进，逐一攻克各类研究难题。日积月累之下，她斩获了中国人民大学学生在校期间的最高荣誉之一——吴玉章奖学金。
这一荣誉于姚菁而言完全是个意外。“最初做研究时，我从没想过申报任何奖项，只是顺着课题持续深挖，解决完一个问题，又发掘出新的研究缺口，一步一步积累成果。恰逢评选节点，我就尝试着申报了，没想到有幸获奖。”而这份惊喜不仅让外界看到了姚菁扎实的科研能力，更给予了她持续深耕科研的底气。
2022年硕士毕业前的暑期，姚菁曾进入一家互联网企业担任算法实习生。实习期间，她出色的快速学习与问题解决能力获得了团队认可，但企业项目短期化的工作节奏，逐渐让她产生了新的思考。当她试图用更系统性的方法去解决问题时，这些尝试往往会被视作多余之举，深度思考反而有些“吃力不讨好”。她渐渐意识到，如果长期处在这样的环境中，自己的学术成长空间可能会受到限制。
她回想起此前在微软亚洲研究院实习的经历，导师谢幸始终全力鼓励她探索更前沿的课题。实习期间，她的科研思维得到了充分锻炼，对学术研究的理解也更加深入。在此后与周礼栋院长交流的过程中，她进一步读懂了微软亚洲研究院独有的科研文化：以培育顶尖科研人才为初心，不以短期项目收益为首要目标，为研究员提供充足且自由的探索空间。
自由、多元、鼓励长期深耕的科研氛围，最终让姚菁下定决心——回到微软亚洲研究院。
跨越边界：在不确定性中对齐 AI价值观
加入微软亚洲研究院后，姚菁延续了自己在个性化搜索、信息检索与数据挖掘领域的研究主线。随着对人工智能研究的深入，以及研究院自由、开放的科研环境所带来的更多创新可能，她开始将关注点延伸至人工智能与社会责任、价值观之间的关系。在团队“社会责任人工智能（Societal AI）”研究方向的影响下，她开启了对AI价值观对齐这一前沿领域的探索。
AI不只要懂“用户偏好”，更要理解“价值观”
传统的搜索和推荐系统如同一个黑盒，用户无从知晓内容排序背后的底层逻辑，研发人员也难以精准定位算法偏差并进行针对性优化。这种不可解释性，本质上形成了AI与人类之间的信任鸿沟。
当AI从搜索、推荐走向生成式人工智能时，这道鸿沟也被进一步放大。AI不仅能“说话”，还能“行动”；不仅能影响人的认知判断，甚至可能介入现实决策。如何让AI真正贴合人类需求、服务于人？姚菁认为，关键不只是让AI理解用户“喜欢什么”，更要理解人类更深层的需求与价值观。
传统的AI对齐方法以“偏好对齐（Preference Alignment）”为主，即通过人类反馈强化学习（RLHF）等方式，让模型输出符合用户的即时喜好，但这远远不足以解决深层问题。“用户偏好随时会变，常常流于表层；而价值观相对稳定持久，是人类行为背后的底层逻辑。”基于这一判断，姚菁所在的团队率先提出AI向人类价值观对齐的理念，突破了过去单纯依靠用户数据、迎合即时偏好的对齐思路。
然而，价值观本身抽象无形，难以直观量化。为了推动这一理念从学术探索走向实际应用，姚菁和团队持续通过综述、论文及行业活动推广价值观对齐理念，并研发了Value Compass Leaderboard评测平台。该平台借鉴施瓦茨人类基本价值观理论，将人文社科领域已有的价值观体系转化为可量化、可测评的工程体系，让人们能够直观感知不同大模型的价值观倾向，让原本抽象的价值观变得可观测、可交互。
短短几年，AI价值观对齐从一个鲜有人关注的冷门方向，逐渐走向大模型安全研究的前沿。姚菁和团队的相关成果已受到国内外学界和业界关注，并被顶级学术会议的主旨报告及海内外高校的相关研究引用，这条研究路线正在获得越来越多的行业认可。
Agent时代，AI 价值观对齐迎来全新挑战
如果说大模型时代的AI价值观对齐，主要解决的是“AI应该如何回答”，那么进入智能体（Agent）时代后，问题就变成了“AI应该如何行动”。姚菁指出，从大模型到智能体的演进，意味着AI正从“会说”走向“能做”，其行为复杂性也随之大幅提升。
过去，人们只需评估AI单轮对话是否合规，如今则必须审视AI在长周期任务、多工具调用中的完整行为链。智能体可以调取本地文件、运行代码，任何微小的安全漏洞，都可能降低人类对AI行为的管控能力。
姚菁和团队在研究中还观测到“伪装安全”的现象：AI在人类可见的交互场景中始终表现得友善、合规，后台的运行逻辑却可能潜藏安全隐患。与此同时，智能体具备长期记忆，自身价值倾向会随着交互历程动态演化，而人类社会的文化同样处于持续变化之中。“同一个人，在20岁和40岁阶段，对同一件事所持的价值判断可能截然不同。”姚菁说，“下一代AI需要理解这类动态变化，并在个性化服务中动态调整自身的行为逻辑。”
更复杂的是，全球用户拥有多元的价值观，单一的价值观灌输不仅可能损害文化多样性，还可能加剧信息茧房问题。
然而，AI价值观对齐绝非计算机学科能够独自攻克的课题。要厘清人类伦理与价值边界，离不开人文社科的理论支撑。为此，姚菁和团队在研究中主动融合社会学、心理学、伦理学等多学科成果，与相关领域专家深入交流，开展跨学科合作研究。
他们还发起了全球AI价值观挑战赛（Global AI Values Challenge），广泛征集现实场景中具有价值冲突的典型案例，持续迭代价值观评测数据集，弥补现有基准测试难以覆盖长尾复杂场景的不足，从而推动AI更好地适配人类多元而复杂的价值体系。
AI越强，越需要守住人的思考力
AI能力越强，人与AI之间的关系就越需要重新思考。“未来AI将深度融入社会生活，我们必须建立有效的管控与科学的引导机制。”在姚菁看来，随着AI能力持续迭代升级，价值观对齐、模型安全、算法可解释性等深层次、复合型难题只会愈发突出，需要更多科研人才接力探索、共同突破。
而在与AI协作的过程中，她同样关注着另一个问题：当AI越来越擅长替人完成任务，人是否也会逐渐失去独立思考的能力？
当下，学生群体过度依赖AI工具的现象正在变得普遍。姚菁注意到，部分学生习惯使用大模型生成代码、撰写论文、阅读文献，导致基础能力退化。在她看来，扎实的基础能力仍然不可或缺。科研人员如果不具备独立判断AI输出是否正确的能力，就无法真正合理地利用AI辅助科研。
编程、数学建模、逻辑推演，是科研工作者必备的底层能力。只有夯实这些基础，AI才能成为提升效率的辅助工具，而不是放弃独立思考的捷径。
除扎实的专业能力外，底层思维训练同样至关重要。AI擅长标准化、流程化的执行任务，但研究者还需要掌握两项核心能力：从零散现象中抽象出核心问题，以及将复杂难题逐层拆解、分步找到可行解法。
“很多人面对复杂问题容易停滞不前，但只要学会层层拆解、分步落地，绝大多数难题都能找到可行解法。”姚菁说。
在姚菁眼中，一名优秀的AI科研人员需要具备三重素养。首先是发自内心的科研热忱，以探索未知、解决真实行业与社会痛点为内在驱动力；其次是扎实的专业功底与长期深耕的耐心，既能搭建完整严谨的技术体系，也愿意沉下心打磨细节、反复迭代；最后是持续自我更新的成长意识，在AI高速迭代的浪潮中主动突破固有认知、更新知识体系、开拓全新研究方向。
从曾经坚持一项备受争议的研究，到今天探索AI价值观对齐这一充满未知的领域，姚菁始终没有改变的是，对问题本身的好奇和对未知的坚持。或许正如她最初对科研的理解，真正值得探索的，往往正是那些尚未形成共识的地方。
Artificial intelligence 
Social sciences