每日經濟新聞 2024-05-20 17:11:31
每經編輯 張錦河 每經實習編輯 宋欣悅
全球重量級的AI巨頭OpenAI,近期可謂是風波不斷。繼OpenAI聯合創(chuàng)始人兼首席科學家伊爾亞·蘇茨克維(Ilya Sutskever)官宣離職后,OpenAI安全主管、“超級智能對齊團隊”負責人簡·萊克(Jan Leike)也在社交媒體上,宣布辭職。
兩位重量級人物的相繼離開,無疑給OpenAI的前途蒙上了一層陰影。
消息人士透露,OpenAI在宣布成立人工智能長期風險團隊——“超級對齊”僅一年后,就解散該團隊。
隨著高管離職消息的發(fā)酵,一條關于OpenAI要求離職員工簽署“封口協(xié)議”的消息,也傳得沸沸揚揚。據傳,這份協(xié)議要求離職員工承諾終生不得詆毀OpenAI,否則將面臨失去所有已獲股權的風險。這一消息迅速在網絡上炸開了鍋,引發(fā)對OpenAI企業(yè)文化乃至行業(yè)道德的廣泛討論。
這一系列事件的觀感尤為糟糕,提出離職的兩位高管,是OpenAI“超級智能對齊團隊”的共同負責人,其中一位負責人簡·萊克揭露了其離職內幕,稱阿爾特曼不給資源、力推商業(yè)化不顧安全。
面對外界關于高管離職和“封口協(xié)議”的種種猜測與質疑,阿爾特曼也在社交媒體上,在當地時間5月19日罕見發(fā)長文回應:OpenAI并未執(zhí)行“封口協(xié)議”,他對協(xié)議的存在并不知情,并表示未來將取消該條款。
圖片來源:X
高管相繼離職、“封口協(xié)議”滿天飛,連CEO薩姆·阿爾特曼(Sam Altman)也坐不住了,在當地時間5月19日罕見發(fā)長文回應,表示OpenAI從未執(zhí)行過這一條款,并且他本人此前并不知曉該規(guī)定的存在。
但他隨后又變相承認了“封口協(xié)議”的存在,阿爾特曼回應稱,該公司的離職文件中有一項關于離職員工“潛在股權取消”的條款,但從未付諸實踐。阿爾特曼進一步指出,未來合同中將移除這一條款。
阿爾特曼還強調:“在OpenAI,我們堅守的原則是,員工獲得的股權是他們勞動成果的正當回報,不應附加任何額外條件。”阿爾特曼這番話,無疑是對外界種種猜疑的一次正面回應,力圖重建公眾對公司的信任。
他表示:“這是我的責任,也是我在運營OpenAI期間,為數不多、真正感到愧疚的時刻之一。我本應該知道這件事的,但是實際上我確實不知道。OpenAI的運營團隊在過去的一個月左右時間,正在修改離職協(xié)議條款。如果任何曾經簽署過舊協(xié)議的前員工擔心此事,可以聯系我,OpenAI會積極解決這個問題,非常抱歉。”
圖片來源:X
與此同時,OpenAI總裁格雷格·布羅克曼(Greg Brockman)也在社交媒體上發(fā)表了長篇回應,該回應由他和阿爾特曼共同署名,該聲明的篇幅在500詞左右,但實際上沒有提供太多實質性信息。
聲明中寫道:“我們知道我們無法預見每一種可能的未來場景,因此我們需要建立一個非常緊密的反饋機制、嚴格的測試流程,并在每一步都認真考慮,確保擁有世界一流的安全性,并且在安全性與功能性之間取得平衡。我們將繼續(xù)進行面向不同時間尺度的安全研究,同時也將繼續(xù)與政府和眾多利益相關者就安全性問題展開合作。”
據美國CNBC網站17日報道,消息人士透露,OpenAI在宣布成立人工智能長期風險團隊——“超級對齊”僅一年后,就解散該團隊,一些團隊成員被分配到公司其他團隊。去年7月,OpenAI宣布成立這個團隊,專注于“科學和技術突破,以引導和控制比我們聰明得多的人工智能系統(tǒng)”。當時,OpenAI表示將在4年內將其20%的算力投入到該團隊中。特斯拉首席執(zhí)行官馬斯克針對“超級對齊”團隊解散這一消息評論稱:“這顯示安全并不是OpenAI的首要任務。”
最新離職的OpenAI高管、超級對齊團隊負責人簡·萊克直接撕破臉皮,揭露離職內幕——阿爾特曼不給資源、力推商業(yè)化不顧安全。
萊克同時也是OpenAI的聯合創(chuàng)始人,屬于“保守派”陣營,他在蘇茨克維宣布離職后僅幾個小時就發(fā)帖:我辭職了。
圖片來源:X
官宣離職次日,萊克連發(fā)十多條帖子,公開解釋了離職原因——團隊分配不到足夠的資源:超級對齊團隊過去幾個月一直在“逆風航行”,在計算上很吃力,完成研究越來越困難;安全并非阿爾特曼的核心優(yōu)先事項:過去幾年,安全文化和流程已經讓位于更耀眼的產品。“很長一段時間以來,我與OpenAI領導層對公司核心優(yōu)先事項的看法一直不合,直到我們終于到了臨界點。”
圖片來源:X
這是OpenAI高管級別的人物首次公開承認公司重視產品開發(fā)勝過安全。
阿爾特曼的回應依舊體面,他表示,自己非常感謝簡·萊克對OpenAI的一致性研究和安全文化所做的貢獻,并且很遺憾看到他離開。“他說得對,我們還有很多事情要做,我們致力于做到這一點。我將在未來幾天內發(fā)布一篇更長的帖子。”
圖片來源:X
每日經濟新聞綜合自公開信息
如需轉載請與《每日經濟新聞》報社聯系。
未經《每日經濟新聞》報社授權,嚴禁轉載或鏡像,違者必究。
讀者熱線:4008890008
特別提醒:如果我們使用了您的圖片,請作者與本站聯系索取稿酬。如您不希望作品出現在本站,可聯系我們要求撤下您的作品。
歡迎關注每日經濟新聞APP