從非營利到營利，OpenAI 變了嗎？技術長：使命沒變，但AI系統很燒錢

OpenAI 的 CTO Mira Murati 接受美聯社（AP）專訪，討論 AI 的安全性與公司對強人工智慧（artificial general intelligence, AGI）的願景。

Murati 2018 年加入 OpenAI，當時公司還是非營利的實驗室，在推出 ChatGPT 之後，OpenAI 如今已是受全球注目的企業。

身為 CTO，Mira Murati 的職責是帶領 OpenAI 的研究、產品、安全團隊，過去曾領導的 AI 模型包括 ChatGPT、DALL-E（圖像生成工具）與最新的 GPT-4。

OpenAI 認為的強人工智慧（AGI）是什麼？

Mira Murati 解釋，強人工智慧（artificial general intelligence, AGI）指的是有高度自主性的系統，能夠產出顯著的經濟成果。這個系統擁有人類層級的能力，涵蓋不同領域。OpenAI 的願景是安全建立這個系統，並讓它的功能與人類的意圖一致，「AI 系統能依照我們的想法做事，並盡可能讓更多人都獲益。」

GPT-4 與 AGI 有什麼關係？

Mira Murati 説：「我們距離一個安全、可靠、一致的 AGI 系統還有一大段距離。」要達到這個理想有幾個要素。從研究的角度來說，我們嘗試建立一個能跟人類一樣，可健全理解世界的系統。

GPT-3 一開始只用純文字來訓練，但是我們的世界並非只有文字，還有圖像跟其他元素，我們也要提升這些系統的通用性。

GPT-4 是一個更強大的系統，它的推理能力非常關鍵。如果這個模型夠聰明，能了解模糊或是層級更高的方向，我們就可以進一步去想如何讓它遵循這個方向。如果它不能理解這些方向，它就難以保持一致。

關在實驗室裡面發展這個技術是不夠的，我們需要讓它接觸真實世界，檢視它的弱點是什麼，會破壞哪些事。我們要在可控且低風險的情況進行，並盡可能取得回饋。

OpenAI 採取做了什麼「安全措施」？

Mira Murati 回應，OpenAI 在每個階段都會思考干預的方法，在訓練模型的初步階段會調整一些數據。

以 DALL-E 來說，OpenAI 希望減少具傷害性的偏見問題，因此在訓練用的數據庫裡調整女性跟男性的圖像比例。但這麼做也可能造成另一種干擾與不平衡，所以要非常小心，必須要經過一次又一次的審核才行。

OpenAI 在訓練 ChatGPT 時，刻意強化它與人類的互動，從人類的回饋中學習，讓它能與人類的喜好一致。「好的行為我們會強化，不良行為則會被弱化。」

AI 系統應該被監管嗎？

Mira Murati 認為 AI 一定要被監管。OpenAI 持續跟政府、監管單位、相關開發者溝通，在企業的層面上至少達到一定的標準。

過去幾年來，OpenAI 跟大型語言模型開發者在訂立基礎安全標準上有一致的想法，「我認為這方面要多做一點，政府機構監管者也應該要積極參與。」

馬斯克等人公開呼籲暫停開發 AI 模型 6 個月，你怎麼看？

Mira Murati 認為在複雜的系統裡設計安全機制並不容易，其中有很多眉角，那封聯署信提到的風險是有憑據的。

OpenAI 多年來已經公開討論與研究這些問題，「我不覺得光是連署就能有效建立一個安全機制，簽名也不足以把這個領域的專家集合起來一起解決這個問題。」

Mira Murati 說：「在那封信裡，關於 GPT-4 或 GPT-5 的說法並不是真的，我們沒有訓練 GPT-5，我們也沒有急著推出 GPT-4。事實上，我們花了六個月的時間專注在 GPT-4 的安全發展與部署，後來在有防護措施的情況下推出了 GPT-4，並不是每個人都能輕易使用它，且它也非開源。」

Mira Murati 認為 AI 系統的安全機制是困難的，這需要深思熟慮，持續探究，以及參與者們要一起協作。

從非營利到營利，OpenAI 變了嗎？

Mira Murati 説自己剛加入 OpenAI 時，它還是個非營利組織。「我認為這是人類所能發展的重要技術，我相信有 OpenAI 使命的公司能確保它好好發展。幾年過去了，公司的結構也有所變化，因為營運系統很貴，需要非常多的資金。」

Mira Murati 表示，OpenAI 還是會為非營利的使命服務，這就是為什麼公司有「利潤上限」（capped profit）的結構。「自創立以來，OpenAI 團隊的使命沒有改變。在過去 5 年來，我們思考什麼是最佳的部署方法，如何用最安全的方法來部署，這是跟之前最不一樣的地方，我想這是很好的改變。」

ChatGPT 問世之前，OpenAI 想過人們會怎麼反應嗎？

Mira Murati 説，這個技術已經存在了幾個月，OpenAI 對模型的限制很有信心，也有客戶透過 API 使用過了。OpenAI 將它調整成對話形式，並且邀請研究者測試，在小型、彼此信賴的團隊中持續探索，也發現它需要更多來自於人的資訊與數據。

我們希望更多人可以使用它，這是一個研究預覽（research preview）而非產品。我們的目的是搜集回饋然後改進這個模型。我們沒想到人們會這麼喜愛跟 AI 系統對話，真沒想到用戶數量會這麼多，大家會這麼感興趣。

核稿編輯：李柏鋒

《商益》主張「商業是最大的公益」，報導專注於讓讀者理解資本力量、商業本質以及財經語言。歡迎加入 Discord 社群，並免費註冊訂閱商益電子報。

延伸閱讀：
【GTC 2023】黃仁勳對談 OpenAI 首席科學家：ChatGPT 怎麼訓練的？GPT-4 有多強？
OpenAI CEO：GPT-4老早就開發好了，為什麼直到最近才釋出？