OpenAI宣布任命一名新董事会成员:Zico Kolter。
Kolter是卡内基梅隆大学机器学习系主任兼教授,主要研究AI安全性。OpenAI在其官方博客中写道,这使他成为他们“治理中宝贵的技术主管”。
AI安全一直是该公司的一个重大问题。Kolter的任命是在几个月前,包括联合创始人Ilya Sutskever在内的一些杰出的OpenAI高管和员工专注于安全性之后。其中一些辞职者来自Sutskever以前的“Superalignment”团队,该团队致力于管理“超智能”AI系统的方式,但有消息来源表示,他们被拒绝访问最初承诺的计算资源。
Kolter还将加入OpenAI董事会的安全与保障委员会,和董事Bret Taylor、Adam D’Angelo、Paul Nakasone、Nicole Seligman、首席执行官Sam Altman以及OpenAI的技术专家一起。这个委员会负责就所有OpenAI项目的安全和保障决策提供建议。但正如我们在五月份一篇文章中指出的那样,它主要由内部人员组成,这在评论家中引起了一些问题。
OpenAI董事会主席Taylor在一份声明中表示:“Zico在AI安全和稳健方面具有深入的技术理解和视角,这将帮助我们确保通用人工智能造福全人类。”
Kolter曾担任C3.ai的首席数据科学家,于2010年在斯坦福大学获得计算机科学博士学位,并在2010年至2012年在麻省理工学院进行博士后研究。他的研究包括通过自动优化技术绕过现有的AI安全防护措施的潜力。
Kolter对于与行业的合作并不陌生,目前还担任博世的“首席专家”和AI初创公司灰天鹅的首席技术顾问。