據《MarketWatch》報導,前 OpenAI 研究員 Zoë Hitzig 周三 (11 日) 表示,她在公司開始測試於 ChatGPT 投放廣告後決定離職。
她並未只是更新 LinkedIn 職稱或私下告知親友,而是選擇在《紐約時報》發表專欄,公開宣布辭職,文章標題為〈OpenAI 正犯下 Facebook 曾犯錯誤。我選擇離開〉(OpenAI is Making the Mistakes Facebook Made. I Quit.)。
Hitzig 指出,她並不認為廣告本身「不道德或不倫理」,但對 OpenAI 的策略抱持「深切疑慮」。
她寫道,「人們會向聊天機器人傾訴醫療焦慮、感情問題、對上帝與來世的信念。若在這些資料基礎上建立廣告機制,可能會以我們尚無法理解、更遑論防範的方式操控使用者。」
AI 產業近日掀起一波公開離職潮。多家頂尖 AI 公司的安全研究員、共同創辦人及內部人士近期紛紛離開,有些人在 X 平台發表情緒強烈的聲明,對 AI 帶來的生存風險示警,也有人選擇低調離職。
隨著 AI 創新速度加快,內部人士出走進一步加劇外界對技術發展速度與潛在重大安全影響的焦慮。
2 月 9 日,Anthropic 安全防護研究團隊負責人、AI 研究員 Mrinank Sharma 也宣布辭職。他在發給同事並發布於 X 平台的文中表示,「我一再看到,要真正讓我們的價值觀主導行動有多麼困難。」並在留言中透露將返回英國,讓自己「暫時隱身一段時間」。
2 月 10 日,前 xAI 共同創辦人 Tony Wu 也在 X 上宣布離開由馬斯克 (Elon Musk) 帶領的公司。24 小時不到,另一位 xAI 共同創辦人 Jimmy Ba 亦跟進辭職。
Ba 在 X 上寫道,「只要擁有合適工具,我們正邁向生產力提升百倍的時代。」並補充,「是時候重新校準我對大局的方向。」
這些高層離職事件發生於本月稍早 xAI 與 SpaceX 合併之後,但具體離職原因仍未明朗。
值得注意的是,AI 產業的人才流動長期以來就相當頻繁。Ba 與 Wu 的離開,延續了近年來 xAI 12 名共同創辦人已有一半離職的趨勢。
另一位曾任職於 OpenAI 與 DeepMind、現為 Anthropic 研究員的 Jan Leike,亦於 2024 年離開 OpenAI,並同樣對 AI 安全問題提出警告。
他在 2024 年於 X 上表示,「我加入 OpenAI,是因為我認為那是進行此類研究的最佳場所。」但他補充,「我與公司高層在核心優先事項上長期存在分歧,最終走到破裂點。」
在其個人網站上,Leike 寫道,他的研究聚焦於解決「對齊問題 (alignment)」,即「如何訓練 AI 系統,使其在那些人類難以直接評估的任務上,仍能遵循人類意圖?」
近期的高層出走並非全由員工主動發起。今年 1 月,OpenAI 解僱了公司頂尖安全主管之一 Ryan Beiermeister,因她對 ChatGPT 推出 AI 情色內容表達疑慮。公司稱其解僱與對同事的性別歧視有關,但 Beiermeister 否認該指控。
PitchBook 資深 AI 分析師 Dimitri Zabelin 受訪時表示,除非 AI 安全疑慮引發監管障礙並實質影響 AI 公司的財務報酬,否則這些安全警鐘不太可能改變企業或投資的整體方向。
Zabelin 指出,「AI 安全議題尚未引起投資人足夠程度的關切,不足以顯著改變籌資趨勢與資金流向。」若技術人員離職開始影響 AI 模型的實際運作能力,「那麼才可能反映在投資資金流向與後續估值上。」
新聞來源 (不包括新聞圖片): 鉅亨網