sahar_abdelnabi, Niloofar Mireshghallah发布AI代理隐私与上下文完整性研究方向招聘岗位

📢 招聘公告！正如我在之前帖子里说过会有更多项目，我非常高兴地分享一个开放职位，由我和 Niloofar Mireshghallah (@niloofar_mire) 共同指导！我们正在招募一名博士后或博士生，和我们一起研究智能体AI中的隐私与上下文完整性，可尽快入职！

如今的AI智能体通常会把指令、消息、记忆和工具输出视作一个扁平化文本流。它们并不擅长区分：哪些信息是有用的，哪些信息适合在当前场景、针对当前有特定偏好和关系的个人、出于当前目的使用。

本项目覆盖单智能体和多智能体场景。在单轮交互中，智能体可能会遇到模糊指令、不完整授权、冲突目标、陈旧假设，或是被故意操纵过的上下文。

在数周或数月的时间跨度里，同一个智能体可能会积累记忆，观察到团队和依赖关系的变化，并基于从未被明确授权过的早期推断采取行动。

在网络中，代表不同用户的智能体必须进行协调，但它们的交互既可能保护隐私边界，也可能破坏隐私边界。

我们希望把这些问题具体化，以便训练和评估必须同时研究隐私和效用的系统。该职位是全额资助的，工作地点在蒂宾根（正式主要主办方），可能会去CMU进行学术访问（具体细节待定，将与申请者讨论）。我们有充足的资金和算力，快来和我们一起工作吧！

更多关于项目和申请方式的细节：