放弃博士学位加入OpenAI，他要为ChatGPT和AGI引入记忆与人格
仅用于站内搜索，没有排版格式，具体信息请跳转上方微信公众号内链接
机器之心报道
编辑：杜伟
今天，一位研究者加入OpenAI的消息吸引了很多人的关注。
这位研究者名为JamesCampbell，他才于2024年攻读CMU的计算机科学博士学位。现在，他突然宣布要放弃博士学业，加入OpenAI。
在社媒X上，他表示自己在OpenAI的研究重心是「AGI和ChatGPT的记忆+人格」，记忆将从根本改变人类与机器智能的关系。他将努力工作，确保正确地实现这一切。
他的加入连OpenAI联合创始人、总裁GregBrockman都表达了欢迎。
还有人表示，「你为什么花了这么长时间才决定加入OpenAI。」
那么，这位老兄是何方神圣呢？他的加入为什么引起了这么多的关注？我们来看一下他的履历。
前一篇论文研究了表示工程：一种自上而下的AI透明性方法，后者研究了在Llama中定位谎言：通过提示、探查和修补来理解判断题上的不诚实指令。
他还在GraySwanAI（AI安全公司）从事对抗鲁棒性和评估方面的工作，并曾从事计算神经科学、物理学和深度学习理论方面的工作。他也是ProctorAI（监视用户工作状态的多模态AI系统）、AI-Timeline. org的创始人，以及AidanBench（AI模型基准测试工作）的合著者。
其中，ProctorAI曾引发过广泛热议，该系统监视用户的屏幕，如果发现你有拖延，就会提醒你。它的工作原理是每隔几秒截取电脑屏幕截图，并输入到Claude3. 5Sonnet、GPT-4o、LLaVA1. 5等多模态大模型中。如果发现用户注意力不集中，它会控制屏幕并用个性化消息提醒。
项目地址：https ://github. com/jam3scampbell/ProctorAI
2024年，他进入CMU攻读博士学位，研究重心是理解通用智能的构成要素，并确保这些要素的安全性。
如今，他选择加入OpenAI，开始了在产业界的探索。
其实，JamesCampbell的加入有迹可循。几天前，在OpenAI宣布组建模型行为研究团队的帖子下面，二者便开始了互动。
在更早的时候，JamesCampbell发表过一些关于ChatGPT记忆方面的观点。
他赞同应该对ChatGPT的记忆及其导致更强幻觉的问题进行研究，并认为上下文污染和模式崩溃是真实存在的，但目前对它们的研究还不多。如果在每个prompt中塞入数千个token的记忆，它们便会变得更加活跃。
看起来，JamesCampbell的加入是一场双向奔赴。
©THEEND
转载请联系本公众号获得授权
投稿或寻求报道：liyazhou@jiqizhixin. com
