OpenAI的安全团队在Ilya离职后进行了重组。(openai 入门)

【新智元导读】AI安全公司Indent首席执行官Fouad Matin和他的团队将加入OpenAI,致力于为人工通用智能(AGI)做好安全准备。

上周,OpenAI面临着内部员工大规模离职和外界对其的批评和指责,可谓是内忧外患:

– 侵权寡姐的行为引发了全球范围内的广泛讨论和热议

– 员工签署「霸王条款」被接连曝出

– 网友细数奥特曼「七宗罪」

OpenAI的安全团队在Ilya离职后进行了重组。_图1

辟谣:根据Vox获得的泄露消息和文件,OpenAI的高级领导层,包括Altman在内,非常了解这些股权回收条款,并且签署了它们。

除此之外,OpenAI还面临着一个严峻而紧迫的问题——人工智能的安全性。

最近,有五名与安全相关的员工离职,其中包括两名最著名的员工。这次离职导致OpenAI的安全问题再次受到广泛关注,特别是「超级对齐」团队的解散引起了人们的关注。

《财富》杂志报道称,OpenAI未能履行让其超级对齐团队获得其20%计算资源的承诺。

OpenAI的安全团队在Ilya离职后进行了重组。_图2

2023年7月,OpenAI成立了一个新团队,旨在确保未来的人工智能系统能够被安全控制,并且可能比人类总和更聪明。为了彰显对这一目标的重视,该公司公开承诺将投入当时可用计算资源的20%用于这项工作。

现在,还不到一年时间,这个名为「超级对齐」的团队因员工辞职以及OpenAI将产品发布置于人工智能安全之上的指控而被解散,据6位知情人士称,OpenAI从未履行向该团队提供20%算力的承诺。

但在上周四,Indent首席执行官Fouad Matin在X和Reddit上宣布,「我们加入了OpenAI,致力于为人工通用智能(AGI)做好安全准备! 」

他在推文中写道,「我很高兴能与一支出色的团队一起保障未来的安全,从前沿模型准备到客户数据控制,确保人工智能安全并造福于每个人是非常重要的。」

OpenAI的安全团队在Ilya离职后进行了重组。_图3

看来,OpenAI安全团队正在进行重组和扩大规模,正在招募新成员。那么,刚刚被OpenAI招募的Fouad Matin是否能够在危急时刻挺身而出,扭转局势呢?

Fouad Matin和他的团队

有「不明真相的吃瓜群众」在Fouad Matin的帖子下留言:「我们加入了OpenAI 」中的「我们」是指留言者所在的群体或团体。

OpenAI的安全团队在Ilya离职后进行了重组。_图4

显然,答案不是「他的两个半脑」那么简单,Fouad Matin背后的资源是他所创办的Indent,Indent正是一家专注于利用人工智能技术来构建安全的未来的公司。

OpenAI的安全团队在Ilya离职后进行了重组。_图5

目前,Indent已经在其官网上发布了「日落通知」,宣布Indent将在今年7月停止服务。

OpenAI的安全团队在Ilya离职后进行了重组。_图6

我们创办Indent的目标是帮助团队保护最重要的资产。我们的客户已经采取了措施,确保客户数据、生产基础架构以及日常业务软件的安全性,而且这些措施不会影响团队的工作效率。

经过深思熟虑,我们做出了一个非常艰难的决定:Indent将在未来几个月内关闭,我们将协助客户顺利过渡,并继续为实现这一共同目标而努力。

在太平洋标准时间2024年7月15日下午12点之前,团队都可以提出申请,届时服务将关闭。审计日志将提供到7月19日,之后我们将开始数据删除流程。

我们要感谢每一位使用Indent的用户,无论是早期创业公司还是数百人团队,他们都获得了访问权并使用Indent保护关键任务资源。

Fouad Matin是Indent的联合创始人和首席执行官(CEO),Fouad Matin表示,他创建Indent的初衷是因为他发现大多数公司都不清楚谁有权访问客户数据,而且对于大多数公司来说,发现这个问题的成本太高,更不用说解决这些数据的访问权限了。而Indent可以提供用户友好的访问控制解决方案。截至2021年12月,Indent已经成功获得了560万美元的按需访问控制融资。

在2018年创办Indent之前,Fouad Matin还有3段工作经历。

2014年,Fouad Matin曾和其他联创共同创办了一家推荐招聘公司,他在其中负责产品、销售和工程设计。此外,他还参加了首届Y Combinator奖学金计划和YC W16。

2016年,他创办了一个无党派非营利组织,旨在为年轻人提供便捷的登记和投票途径,致力于帮助100万人参与选举投票。

2017年,他在Segment担任工程师,负责领导细分角色的产品和工程开发,旨在帮助客户将用户操作转化为配置文件,以提供更好的产品体验设计。

OpenAI的安全团队在Ilya离职后进行了重组。_图7

正如Fouad Matin在个人简介中所介绍的那样,他是一名软件工程师和产品设计师,同时也是一位投资初创公司的人。在过去几年里,他曾帮助数百万人投票给非营利组织和公司,以有效地管理他们的客户数据。

OpenAI的安全团队在Ilya离职后进行了重组。_图8

现在,他在OpenAI从事安全工作。当太阳落下的时候,Fouad Matin将开始他新的职业旅程。

其他成员

在Fouad Matin推文的评论区,有和他相识2年的好友对他表示祝贺,这位好友透露,除了Fouad Matin以外,还有Dan Gillespie也加入了OpenAI安全团队。

OpenAI的安全团队在Ilya离职后进行了重组。_图9

Dan Gillespie将主要从事的是「建立为人工智能通用智能到来所需的安全计算平台」。

OpenAI的安全团队在Ilya离职后进行了重组。_图10

无独有偶,和Fouad Matin有一点相同的是,Dan Gillespie也具有投资背景,根据他在领英的介绍,他也曾在Y Combinator任职过,Y Combinator是硅谷最负盛名的创业孵化器,在过去一年投资了260多家AI初创公司,是硅谷乃至全世界AI创业趋势的风向标。

OpenAI的安全团队在Ilya离职后进行了重组。_图11

左:Dan Gillespie, 23岁

彭博社观点专栏指出,「2024年5月将被人们铭记为人工智能安全运动消亡的月份。同时,人们也将记住,5月是人工智能更安全的工作真正开始的时间。」

作为领先的人工智能公司,OpenAI能否在面对负面声音的压力下,坚定地致力于构建一个更加安全的系统?我们对OpenAI新安全团队带来的不同期望。

0
分享到:
没有账号? 忘记密码?