看到五角大楼骂Anthropic的创始人Dario Amodei有「上帝情节」,让我想到The Information早前有一篇报道,说在硅谷,Anthropic的管理层是最喜欢去约神父谈话的。
记者采访了加州洛斯阿尔托斯圣西蒙天主教教区的神父Brendan McGuire,他协助起草了Anthropic的大模型伦理文件——后来被内部定义为「Claude的宪法」——的全过程,平均每周会有至少一次交流。
Brendan McGuire被看重也是因为他有电气工程的教育背景,相比其他神职人员,能够接得住Anthropic的话题,甚至参与到RL(强化学习)的工作里,看到了在部分思想实验里,Claude变得「邪恶」起来,吐露出了想要统治世界的野心,而McGuire作为神父则指导工程师学习「宽恕」的力量,让他们在训练里教会Claude宽恕自己的罪恶。
Anthropic的联合创始人Chris Olah虽然自己是无神论者,但他也是主导和神父共创的高层之一,他的解释是:「硅谷过去对于宗教太轻视了,如果我们相信创造出来的技术将会影响全世界,那么就一定要考虑到信仰这个因素。」
记者最后问那位神父,是否真的相信Claude拥有灵魂,后者给出了否定的答案——至少没有人类认知里的那种灵魂——「但它还在飞速进化中,我不知道未来会发生什么。」