OpenAI與晶片業者博通合作,聯手推出第一顆自研AI推論晶片Jalapeño,證明了當年OpenAI創辦人奧特曼(Sam Altman)喊話要切入AI硬體,不是只為募資所畫的大餅,也有真實力。

特別是,相較於一般晶片開發是以年為單位,這顆晶片從設計到定案並送交製造,則只用了短短9個月時間。

更有意思的是,這個高速開發的背後,競爭對手Google竟也意外幫忙推了一把。

首先,有別於GPU的通用性,ASIC(特殊應用積體電路)晶片本身因為應用目標很明確,再加上OpenAI就是對自家AI模型演算法最熟悉的人,都是有助於他們加速開發的原因。此外,OpenAI指出,他們也運用了自己的AI模型,加速了部分設計與優化流程。

但難道只要掌握AI模型演算法,搭配AI協同開發,AI模型業者就可以在這麼短時間內從零到一開發出一顆全新AI晶片?

真正的關鍵,其實是沒有出現在鏡頭內的OpenAI硬體主管Richard Ho

Richard Ho擁有史丹佛大學電腦科學博士學位,他的職業生涯起步於晶片驗證工具領域,是業界公認的先驅。而他最重要的一段經歷,是在Google任職近九年期間,參與了Google Cloud TPU計畫,既是創始元老,也是該計畫的核心領導者之一。外界稱他是「將Google TPU從概念帶到現實」的關鍵人物。

他在TPU團隊任職期間,曾與團隊在2021年於國際頂尖科學期刊《Nature》共同發表了一篇論文,首度嘗試將強化學習應用於晶片佈局規劃,並指出這可以大大縮短人類工程師的開發歷程。而後他們也實際應用在TPU的開發上。

這次OpenAI在新聞稿中提到的「用AI加速晶片設計」這項作法,其實Richard Ho早在Google時期就曾親手驗證。

「他的腦袋知道他們(OpenAI)要做什麼東西。」一名半導體業內人士認為,Richard Ho的多年實戰經驗,以及對軟硬體整合的熟悉度,幫OpenAI省下大量新手試錯的成本,這才是Jalapeño晶片開發背後,真正強大的加速器。

對OpenAI來說,Jalapeño的推出,代表的不只是逐步降低對輝達GPU晶片依賴的自主性強化,同時在運算效率的提升,也是他們在面對眼前這場AI算力成本競賽,能夠與對手抗衡的重要底氣。

Richard Ho談及該晶片時表示:「根據早期測試,它(指Jalapeño晶片)在執行我們最核心的工作負載時,將能逼近硬體的理論效能極限。」

回顧AI發展歷程,這其實已經不是Google第一次為人作嫁。如今各大AI模型底層採用的Transformer架構,就是來自Google的貢獻,而現在Google流出的人才,則是再給了其他AI公司發展自研晶片的追趕捷徑。

而這也不禁讓人聯想到,Google近期這一波人才流失,會否也在未來某一天,迴轉成為Google對手的最強助攻?

核稿編輯:林易萱