晶片的房地產開發—以及晶圓背面的利用(一)
直至今日,晶片的設計與製造都在講究矽晶圓的土地利用效率,稱之為矽房地產(silicon real estate)開發。傳統的晶片製造是將結構從做為基板(substrate)的矽晶圓上一步一步堆疊上去的,乃至於後段製程(Back End Of Line;BEOL)的金屬連線。一開始做為IC的基礎元件電晶體只做一層,像以前的平房,雖然房屋可以櫛比林立,但是整體的建築景觀是平整的2D街景。然後是地下室了。在DRAM發展製程的過程中,電容建構在過往方式之一是向下挖深溝,稱為深溝電容(deep trench capacitor)。電容存在於電晶體的水平面之下,算是地下室吧!這是積極爭取建築容積率的第一步。以上的平房、地下室的想法在人類史前文化就有,要不,到良渚文化遺址去瞧瞧。從電晶體乃至於金屬連線都建構於晶圓的一面,這一面叫前面(front side)。電晶體積體整合程度變高之後,整個晶片就像鄉村變成都市,公共設施如供電網、下水道、交通等就得納入都市計畫。晶片上最重要的公共設施至少包括有電源、信號和熱耗散。電源和信號由最上面的金屬連線層處理,而熱耗散猶如廢水,處理不好晶片便無法持續運作。很久以前處理熱耗散問題,腦筋動到晶圓背面(back side)。功率元件雖然不算是IC,但是由於功率元件高壓、大電流所產生的焦耳熱(joule heat)會讓晶片發燙,勢必要有快速排除廢熱的管道,於是有了BGBM(Back Grounding Back Metalization)的製程—將晶圓底部磨薄,然後鍍上金屬,讓電晶體的散熱快些。這個也可以用城市的基建打個比方:廢熱的下水道。再來是蓋樓了。3D NAND的製程驚才絕艷,只使用4、5個光罩便能做成32層的結構,大幅增加可能儲存的資訊數量。蓋高樓層的自由度一旦打開,建築物的容積率隨樓層數的增加而倍數大幅成長,減輕2D時代晶片地基必須持續微縮的壓力。再下來是處理信號的問題。晶片中傳統的信號大致以電子傳送,管道是製程中的各層金屬連線,至今仍是如此,但是這只是內部的信號傳遞形式。現在的晶片多才多藝,也可以從外界汲取資訊—譬如光,然後再轉成電信號,CIS (CMOS Image Sensor)就是最好的例子,其後也引領著半導體製程創造性的變革。傳統CIS架構與CMOS的建構過程相彷,先做光二極體(photo diode),這算是某種類型的CMOS,其功能是把接收到的光信號轉成電信號,以便後續處理。其上也有一般晶片的幾層金屬連線,更上面有光線進入後的微鏡頭(micro lens)和濾色片(color filters)。微鏡頭這端叫前端(front side),是晶片的正面(face)。這整個製程就依循CMOS製程的傳統的智慧。但是光進來後先要穿越正面幾層滿布金屬線的縫隙,以及晶片的中層結構,才能抵達對光敏感的光二極體。光的吸收效率很差。從工程設計的角度來看,光經微鏡頭、濾光片後應該先抵達光二極體,直接讓它吸收,轉化成電信號,然後經金屬連線把信號送出去,這才是合理的設計。之所以會變成如此彆扭的結構,乃因半導體CMOS製程在演化過程中,就是將CMOS先置於底部,再將線路逐漸長上去的。無獨有偶,大部分的生物的眼睛也有如此因演化過程產生的工程謬誤。人類眼睛的盲點就是在光敏細胞的演化過程中,視神經先長到視網模前,這個演化的遺跡殘留到以後更複雜的眼球結構之中,視神經阻擋視網膜對光線的部分吸收,以致於接近視界的中心點兩側都有對影像無感的盲點。演化無法重來,但是工程可以重新設計。CIS如此彆扭結構,解決的方法就是從晶片背面著手:光的進入孔道微鏡頭、濾光片從比較接近光二極體(視網膜)的方向進來—就是晶圓的背面,在光二極體處轉化成電信號後再由上層的金屬線路(視神經)送出去處理。這樣的結構不會讓光被金屬連線阻擋干擾,結構合理多了。如此的CIS結構叫背面照明(BI;Back-side Illumination),而老一代的CIS則叫前面照明(FI:Front-side Illumination)。光是一種信號,比之於建築中的線路屬於弱電系統,現在晶片中的部分弱電線路也地下化了,像是光纖或電纜。CIS的結構本來就由多種效能的晶片功能模組拼湊起來,至少包括像素陣列(pixel arrays)、類比線路(Analog to Digital Converters;ADC)、邏輯線路(Image Signal Processors;ISP)等組成,而這些模組在半導體製程看來就是異質(heterogeneous)。因此在異質整合(heterogeneous integration)的年代開始後,CIS的結構創新引領許多矽房地產變革的生發。
物聯網的「剃刀與刀片」
我觀察到,智慧物聯網發展過程,大部分公司都想賣昂貴的物聯網及大數據方案給客戶,本末倒置,不易成功。2016年起,我們發展AgriTalk智慧農業技術,最初的構思,是「剃刀與刀片」模式,希望智慧農業的物聯網硬體能以很低價格,甚至免費的方式提供給農夫,再以人工智慧(AI)、生物有機營養液及害蟲抑制劑等耗材來獲利。要降低價格,AgriTalk的硬體必須很簡單,並靠軟體來彌補硬體的不足。例如,溫度、溼度等感測器必須很便宜,其準確度會漂走,就要靠統計演算法來自動校正。農夫種的農產品,我們以契作方式回收,農夫便有不錯的收入,造成雙贏局面。這種「剃刀與刀片」模式除了要有永續維護的智慧技術外,還有一重要前提,即慎選農作物(我們選擇薑黃及白草莓),要有穩定行銷管道。原始的「剃刀與刀片」(Razor and Blades)經營策略出現於20世紀初期,並非如AgriTalk般創造雙方的共營獲利模式,而是以「搭售」(Tied Products)方式,將某一基本商品(例如剃刀)低價販售,以便大量販售另一種相關消耗性商品(刀片),只思考如何賺客戶的錢。在資訊領域,使用「剃刀與刀片」策略最有名的例子是印表機(剃刀)和墨水匣(刀片)。今日雷射印表機的技術是全錄(Xerox)研究員Gary Starkweather於1969年的發明,構想來自於影印機。影印機的發明人是Chester Carlson。Carlson是菲立普‧馬洛里(Philip Rogers Mallory & Co.)的專利部門經理。因其工作的特性,時常碰到文件需謄本的問題。為了方便將文件謄本,他研究當時流行的各種複印文件的技術,包括攝影術、藍圖法、重氮法等。結論是,這些技術都不理想,皆需要使用一些溶劑而且製程很麻煩,因此決定親自動手來找更好的方法。Carlson把家中廚房當作實驗室,一度招致老婆翻臉。不過他仍然契而不捨,終於在1938年發明全世界第一個乾式印刷程序(Dry Printing Process),稱為電子攝影(Electrophotography)或Xerography。Xerography是希臘字,意指乾寫(Dry Writing)。卡爾森用乾式方法產生出來的複製影像即是影印機的基礎,於1950年被全錄公司成功的商業化。之後,雷射印表機將影印機的販賣策略發揚光大,賺取客戶不少銀兩。我對AgriTalk的期望,則更進一步進化,希望能創造雙方的共營獲利模式,幫助農夫大幅強化其謀生技能。
中國停止採購美光產品可能的市場反應
2023年5月21日中國國家互聯網資訊辦公室發布消息稱,美光(Micron)在中國銷售的產品未通過網路安全審查。按照中國《網路安全法》等法律法規,中國境内關鍵資訊基礎設施的營運者,應停止採購美光產品。針對這件事,南華早報在2023年5月29日已做評論。在中美科技對峙的氛圍下,美國的科技公司遭逢此種裁定是意料中事,美光成為箭靶是因為「美光是美國對中國不僅提起多次智慧財產權訴訟,還經常遊說美國反對中國的大型晶片產業公司」。南華早報這一部分的陳述離事實並不太遠,美光是全世界記憶體廠商中最常使用非商業競爭手段打擊同業的。專利侵權、反傾銷(anti-dumping)、反補貼(counter-veiling)等手段使用得淋漓盡至,充分利用美國在國際政治的力量,以及過去是世界重要半導體市場的主場優勢。世界上沒有任何一家記憶體公司能倖免於此困擾。即使其本身亦有涉案在DRAM反壟斷案中,美光也以其較熟悉的反壟斷局寬大處理計畫(Leniency Program)最後安然脫身。美光如此常態行為,的確較容易成為反制的對象,但是中國政府是否真正以此因素為主要考量而下此決定,就不得而知。中國官方宣布的根據或理由令人費解,主要是因為DRAM的產品特性,它是「大宗商品(commodity)」。DRAM產品有世界統一的規格,像DDR4、DDR5、LP DDR4等介面規格,同一規格的產品,其電壓、傳輸速度、訊號次序等規格是完全一樣,都是由JEDEC這個組織統一制定的。理論上,一家公司某一特定介面的產品完全可以被另一家公司相同介面的產品直接插拔替代。如果美光的產品要刻意增加其他公司沒有的「功能」,這些增加的線路勢必在產品的成本上重懲美光。所以說這個根據或理由,業內人士很難理解。如此措施會引發哪些市場反應呢?當前的記憶體市場由於PC和手機市場的低迷,處於極端的不景氣狀態之中,這是整個產業現在共同感受。這個裁定對於美光的短期衝擊雪上加霜是顯而易見的。但有幾個理由會讓這個裁定的影響可能沒有想像中的嚴峻。第一,是美光的前置準備。這幾年中美科技的對峙已經持續多時,特別是美光在與晉華進入訴訟程序之後,美光不可能沒有應變計畫,否則就是經營得太漫不經心了。第二,是美光傳統的市場策略。美光在很長一段時間內的市場策略是極大化利潤,而不是保持客戶的黏著度,理由是前述的DRAM是大宗商品這一原因。由於記憶體是大宗商品,很難由產品的差異化來提升顧客的忠誠度,利潤極大化是合理的市場策略。基於此一市場策略,美光銷售體制使產品銷售對象轉換的彈性即相對較高。第三,還是大宗商品的特性所導致的。DRAM由於可相互替代,對於系統公司零件轉換成本較低,只要有價格差距就有轉換誘因。所以此措施淨效應就是記憶體各寡佔公司與顧客的重新議價與配對洗牌。顧客與供應商重新接頭、議價需要交易成本,也需要時間,所以將延緩整個產業的復甦時間。對於個別廠而言,當然會有所損失,但是還不致於窒息。大宗商品嘛,如水銀瀉地,無孔不入的。要不,俄國石油被那麼多國家抵制,不也賣得好好的?
從半導體設備市場規模看產業變化
眾所周知,在美中貿易戰及新冠疫情後,國家安全及供應鏈安全成為各國亟待強化的關鍵課題,半導體製造能力成為施政重點。在此背景下,2021年及2022年全球半導體設備市場規模前所未見的連2年突破1,000億美元規模,分別達到1,026億美元及1,076億美元的規模。我歸納整理國際半導體產業協會(SEMI)以及日本半導體裝置製造裝置協會(SEAJ)發布的原始統計數據,探討半導體產業的結構變化。可以看到台、韓、中三地是全球最大的半導體設備市場,2020~2022年三地合計都佔全球市場7成以上。中國雖在2000年發布十八號文及中芯、宏力建廠,但其後投資建廠的規模在全球仍不算是「大咖」,直到2014年發布「國家集成電路產業發展推進綱要」並啟動大基金大舉投資半導體供應鏈各環節,產業發展動能才真正被點燃起來。中國到了2018年,首度突破100億美元的市場規模,成為與台灣及南韓鼎足而三的大市場。2021與2022年這三地規模更都突破200億美元。 另北美、歐洲、日本及其他(以色列及星馬等)地區,2020~2022年半導體設備採購規模都呈現逐年增加的趨勢,但仍與台韓中三地有非常大的差距。若看2018~2022年的合計設備銷售額,可看到在美中貿易戰衝擊下,中國是多麼積極地採購設備建制產能;美日投資額雖較之前有所增加,但在規模上仍遠遠不若台韓中三地;歐洲的投資力道則更不及美日兩地。若觀察前三大半導體設備廠的營收結構,台韓中三地各佔應用材料(Applied Materials)2022會計年度(2021/11~2022/10)公司營收的24%、17%、28%;佔東京威力科創(TEL)半導體事業營收的19%、16%、23%,均以中國為最大市場。可以想見2022年10月美國祭出出口管制措施,之後又要求日荷同步配合對半導體設備商的衝擊。高階微影設備領導業者ASML於2022年則以台灣為最大市場,佔比達38%,南韓次之,佔29%,而中國僅佔14%,相對受影響較輕。日本首相岸田文雄2023年5月邀請半導體產業龍頭業者齊聚官邸,試圖強化半導體供應鏈,而美國在2022年推出《晶片與科學法案》(Chips and Science Act)後,迄2023年5月申請獎補助業者已超過300家,6月負責晶片法中研發計畫管理的晶片研究與開發辦公室主任亦已到任。設備採購是產能布建及產品服務銷售的先期投資,觀察過去這幾年的半導體設備市場觀,台、韓、中在產能與未來幾年的銷售上,仍可望具有高度成長動能,但在美日歐的強力扶植下,各地都逐漸建立起相較過去更完備的半導體產業鏈,國際上「去全球化」的發展態勢下,台灣業者迎來的是「國際化」的挑戰,若能通過考驗,未嘗不是進一步壯大的契機!
AI會是超乎尋常的「工業革命」嗎?
有哪些工作不會被人工智慧(AI)取而代之?需要複雜決策與推理的工作,短期內很難被取代。李開復說:紐約客的專欄作家很難被取代,但新聞編譯的工作就難說了;一樣是醫師,放射科醫師比家醫更容易被取代,在網路系統上媒合交易、電信業者的客戶服務,都是很容易被取代的工作,所以從英國電信(BT)到Vodafone都大量裁員,您認為台灣電信業者可以倖免嗎?就像台灣銀行分行沒有消失一樣,台灣電信業者門市消失速度或許會慢一點,因為台灣幅員小,人口密度高,喜歡步行、面對面交易,這樣也可以保留很多工作機會,不見得是壞事,只是專業服務業的進步就會慢一點。2021年是有史以來獨角獸增加最快的一年,但之後在資金成本驟增的壓力下,新創投資慢慢走下坡。根據NVCA調查,2020年創投投入的資本為1,710億美元,2021年是3,450億美元,而2022是2,410億美元,估計減少30%以上,這當然與資金成本上揚有關。原本以為不景氣會持續一段時間,但看來AI是重要的解方。關鍵的觀念是「以龐大的數據為後盾,根據每人特定需求提供專屬的服務」,這樣的概念可以大到工廠的「少量多樣生產」,也可以小到個人化的生活體驗,這也將是「贏家全拿」時代的深化。在網路發展的第一階段,市場形成的速度遠高於工業時代,但通常一開始會有很多新創公司參與,經過淘汰賽後由領先者出線。但現在是使用者同時參與創造數據,讓數據增加幾乎接近「零成本」,亦即這個市場將出現「指數型成長的模式」,新創事業出線更為困難!但科技大廠都看好AI商機,在ChatGPT上市之後,很多科技公司都推出相關應用,但最具影響力的仍是微軟(Microsoft),微軟宣示將把ChatGPT導入所有應用平台,2月放在Bing上,3月則是Office軟體,接下來也看到阿里巴巴、Meta開發類似GPT的大語言模式。其次,AI應用領域無所不在,從場域到影像、文字、聲音,多重內容的連動與結合,而混合型的應用更是大家很容易想像的變種方案,這是無縫接軌(Seamless)的多元共創。這個趨勢已經被討論好幾年了,但沒有想到是由AI與NVIDIA的GPU做為驅動因子,而台積電與背後的創意電子等公司就成為間接受益者。此外,NVIDIA使用「專屬軟體」,讓GPU得以在最佳的狀態下運作,這也是其他競爭者望而生畏之處。從用戶端觀察,軟體使得AI擴張更為容易,使用具親和力。很多生態系業者以各種演算法,透過ChatGPT提供各種有效的應用,領先者的優勢已經十分明顯,這並非只是炒作的一時現象。過去蘋果(Apple)的App stores是提供多元應用的平台,但Open AI直接切入各種應用,擴散效益將更為驚人,例如GPT-4可以結合影像,這又是另一種超越大家想像的應用。未來的使用者,不是搜尋部分資料,而是用部分資料誘導出更多的相關資料,革命性變化促使我們面對重新定義產業與國家戰略的時刻。
數據「孤島化」的挑戰與契機
黃仁勳在台大畢業典禮上演講提到,1984年他從大學畢業,迎接的是PC起飛的年代,而2023年是「人工智慧起飛(AI)的年代」,期望今年畢業的學生可以掌握時代的契機,成為浪尖上的英雄。1984年底,我唸完研究所,1985年回到台灣迎接的也是PC元年!創業的過程總是艱辛的,「誠實的面對問題」是黃仁勳在台大整場演講的精華。與Sega的合作,其實技術上碰到挫折,但卻厚著臉皮要對方付錢;與張忠謀的互動,成就了雙方25年的革命情感。驕傲的創業家,也有彎腰請人幫忙的時刻,這些心理上的掙扎只有創業家可以體會!黃仁勳說:就像是1984年PC濫觴的時代,2023年是AI真正商業化的時代,而這背後有很多軟硬整合與硬體製造的機會。在Google搜尋引擎可至之處,大概有超過6成的數據是來自英語體系,中文只佔1.5%,繁體字更僅有0.01%,換句話說,如果以台灣本土的資訊、數據創造普遍性的價值,可能是緣木求魚,不可行的策略。但反其道而行,如果能在「孤島」上圈地自肥,專門找豐腴的土地耕作,而這塊土地還有往外擴張的空間,可行嗎?我做的就是這樣的實驗,我認為不僅可行,而且是AI創新與他人差異化的避風港。這個市場小到網路大腕們不僅視而不見,而且希望拉攏我們這些地頭蛇,加速事業模式的落地與實踐。這些離經叛道的做法,可能讓專業人士懷疑可行嗎?路是我走出來的,我知道有多難,但別人認為不可行的,您也一定沒機會!「大數據是AI的成敗關鍵」的說法,大致是正確的,但很多人也認同,數據總量與品質之間的關係很關鍵。過去將數據資產的重心放在資訊儲存、高速運算,現在「資訊的交換」也非常重要,這牽涉到交換的效率、條件、定義、對象等問題。由於現在的網路社會,數據是雙向互動,Input的品質當然影響到Output的結果,長期累積的價值、客戶的信賴都是成敗關鍵。其次,如何從累積大數據的過程中,找到具有商業價值的副產品,絕對是台灣這種中小型國家新創企業要深思的問題。這些副產品或技術趨勢,如何與台灣優勢結合,才是我們應該思考的問題。大趨勢背後的副產品、邊緣服務,這點商機不值得主流業者來經營。難度高,又看不上眼,難怪我們活得好好的!
國防領域的量子技術
量子技術是將量子物理原理應用於實際情境的技術。費曼(Richard Phillips Feynman;1918~1988)是量子計算的奠基者之一,他提出利用光子進行計算的概念。其貢獻促進量子計算的研究和發展,為量子計算領域帶來卓越貢獻。在軍事領域中,量子技術一直是國防部門關注的重點。整體而言,量子技術尚未完全成熟,但它可能對未來的軍事感測、加密和通訊產生重大影響。量子應用涉及許多關鍵概念,包括疊加、量子位元和糾纏。其中最具挑戰性的應用是量子計算,這是一個令人驚嘆的夢想,可以實現無限計算能力,突破當今物理世界的限制。然而,計算是否有速度上的極限呢?如同光速限制在不改變時間的情況下穿越太空的能力一樣,是否存在著阻礙計算速度超越理論上最大值的錯誤糾正限制?建立一個有用的量子計算機需要處理超過可觀測宇宙中亞原子粒子數量的連續參數。目前還沒有確定如何操作如此龐大的量子系統,以及如何同時控制其誤差。 因此,我們應該專注於量子感測技術,以加速成熟的國防應用。量子感測技術可用於偏遠地區的全球定位系統(GPS)定位和其他導航工具,還可用於檢測電磁輻射,提升軍隊的電子戰能力。據美國海軍研究所(US Naval Institute)報告,量子感測技術可提升潛艇的探測能力,尤其是對於匿蹤潛艇和物體探測的能力,效能將超越過去的雷達技術。 中國電子科技集團在2018年公布其開發的量子感測原型裝置,據稱能夠探測飛行中的匿蹤飛機。美國國防科技巨頭Lockheed Martin,聲稱能夠使用量子羅盤(Quantum Compass)來改善美國海軍的導航能力。這種量子羅盤是由具有「氮-空缺中心」(Nitrogen-vacancy center)原子缺陷的微型合成鑽石製成的。當受到雷射照射時,其發出的光強度會根據周圍的磁場變化;透過地球磁場,這種光的變化可以提升導航能力,尤其是在極其偏遠的地區。總結來說,量子感測器具有潛力應用於情報、監視和偵察領域。成功開發和部署這類感測器可能會帶來潛艇探測能力的重大改進,甚至能夠對抗和摧毀海上核威懾力量。由於量子感測器對環境干擾非常敏感,軍事人員可以利用量子感測器來探測地下結構或核材料。此外,量子感測器的高靈敏度還有可能幫助軍隊探測電磁輻射,增強電子戰能力,並有助於定位隱藏的敵方部隊。
各國AI半導體發展現況與政策
所有工業大國都明白,各種創新的應用,背後都需要強大的半導體工業來支援,各種政策支援措施,在智慧聯網、數位轉型、人工智慧(AI)大商機來臨之際顯得更為具體與必要。需求更為多元,競爭更為激烈的今日,也無法再以工業時代的概念推動各種政策補強措施,而掌握本國半導體需求的呼聲正在各國發酵,我們該如何用正確的角度觀察,以半導體產業為核心的世界競合架構。美國:2022年8月,拜登政府推出晶片法案(Chips and Science Acts),以520億美元的規模支持美國重新掌握半導體產業的優勢,其中390億美元將用於提升生產製造能力。並從2022年8月26日起,以國安理由,要求賣往中國與俄羅斯的高階繪圖卡必須經過審核,之後更強化NVIDIA與超微(AMD)將高階繪圖晶片賣到中國的管制措施,也影響了華為、中芯等相關企業的營運。中國:在第14次五年發展計畫以及2035年的七大戰略目標產業,都將半導體列為重點產業。從AI、量子技術、腦神經、生物科技到太空科學,都與半導體產業高度連動。歐盟:也通過半導體晶片法投資430億美元,目標在2030年時搶下全球20%的市佔率,除了建構2奈米的技術發展路徑,歐盟也宣示要在AI、異質整合、5/6G通信、材料設備上加碼發展。此外,歐盟結合了10個國家28個機構共組研究平台,針對車用半導體,希望在2024年之前訂定車用半導體的發展路徑。日本:1980年代末時,日本半導體全球市佔率過半,1990年代開始衰退,現在已經不到10%,甚至多數是30~40奈米的老舊技術。儘管如此,日本超過半世紀的半導體產業,依舊留下很多不可或缺的條件。例如日本半導體設備全球市佔率32%,材料市佔率是56%,在國際市場都是舉足輕重的角色。現在日本希望透過與台積電、Sony、電裝(Denso)共同投資的熊本工廠,日本政府更展現決心,支援熊本計畫4,760億日圓投資經費的一半。另一方面,做為尖端製程的切入點,瞄準由Repidus主導的工廠,2025年可以進入2奈米的製程。由於日本的基礎工業十分厚實,加上汽車產業需求,台日之間合則雙贏,但跨國合作牽涉到文化、國家價值的認知,台灣在國際形象的提升上漫不經心,台積電得擁有多大的領先差距,才能讓日本人心服口服?南韓:以2030年全球AI半導體領域20%市佔率為目標,並希望能在5年內培養7,000名AI晶片設計工程師。2025年前能栽培出NPU業者,2026~2028年間以記憶體技術為基礎,培養出低功耗PIM業者,2030年前看到超低功耗PIM產業落地生根。此外,南韓還訂定在2026年培養30家,2030年培養50家AI晶片廠為目標,將AI半導體產業培養成為繼記憶體之後的第二大支柱產業。其他還有國產NPU資料中心、AI專屬資料中心、在三所大學設置AI半導體研究所等計畫。相較於最近一年走跌的記憶體產業,南韓將AI半導體視為南韓半導體產業的救世主。但南韓最大的挑戰,是AI半導體的發展模式與IC設計產業更為類似,南韓過去費盡心思力圖發展的IC設計產業,幾乎是徒勞無功。南韓在全球記憶體佔有6成以上市佔率,但IC設計業市佔率卻不到2%,而在CPU+GPU大亂鬥的時代,這也不是南韓所長,「苦悶」二字是南韓說不出口的難題。發展AI半導體產業,南韓需要的配套生態系還包括NPU、先進封測技術,而能與Tesla、微軟(Microsoft)、Google、NVIDIA等網路巨擘平行發展的特化晶片,更是嚴酷的挑戰。走到產業發展的極致,面對的問題都是「傾全國之力,都不一定能收割」的大賽局。也許南韓會將希望放在RISC-V這些開源性資的新技術,並結合記憶體優勢,找到不同於其他先進國家的發展路徑,否則也是一場肉包子打狗的低勝算賭局。
台灣ICT產業的AI生態系
2010年前後開始真正受到矚目的深度學習(Deep Learning),是人工智慧(AI)相關技術進化的關鍵期,透過機器學習得到的經驗,讓AI技術有了新的依靠。2016年的AlphaGo更是推波助瀾的重要突破,之後各種邊緣裝置(Edge Devices)出現在市場上,相關技術與半導體晶片的進展也受到矚目。至於在半導體領域發展的特用AI晶片,則是一種特化型IC(ASIC),又可分為伺服器與邊緣端專用。目前大家關注GPU與CPU帶來的運算之爭,將來重心也會慢慢移轉到前端設備,這些都是重要的變化、挑戰,也是機會,而台商是海景第一排的有力角逐者。AI半導體是指可以讓AI軟體與演算法可以更有效率執行的各種專用晶片。現有的泛用CPU,在處理大量數據時可能面對極限,也讓出更多機會給不同的微處理器,例如GPU、DPU與用於推論的NPU,特別是當初用來處理圖像的GPU,運用在AI上,竟有遠超過原來期待的功能。特別是NVIDIA結合CUDA的軟體設計程式,造就了NVIDIA今天的盛況。除此之外,其他如現場可程式化邏輯閘陣列(FPGA)晶片也出現了新的契機。GPU與FPGA也都是泛用型IC,非只為某一客戶量身定製的ASIC。ASIC是具有明確目標功能的系統半導體,目前最被看好的GPU結合了CUDA軟體,在市場上具有壓倒性優勢,而NVIDIA的財報也證明過去的投資與軟硬整合的優勢正在發酵中。A100擁有6,912個CUDA Core與40GB HBM2記憶體,這套解決方案可以整合成一套超級電腦。2022年3月,NVIDIA推出效能比A100還要強大的H100。根據IDC調查,全球AI資料中心的市場規模,將從2021年的156億美元,成長到2025年的318億美元,年均成長19.5%,遠高於傳統伺服器市場的10.7%。至於AI晶片市場,各大顧問公司也有許多評估,多數看好未來幾年的成長,其中Gartner認為,AI晶片在2025年時可達700億美元,到2030年AI晶片市場總值將達1,179億美元,貢獻整個ASIC市場的31%。由於看好AI晶片商機,從超微(AMD)、英特爾(Intel)這些NVIDIA傳統的競爭對手,到上游的Arm、新思(Synopsys),以至高通(Qualcomm)、博通(Broadcom)每一家公司都虎視眈眈,英特爾甚至透過購併Habana,希望加速軟硬整合的實力。除此之外,美國、英國、法國都有很多新創公司嘗試開發出各種用途的AI晶片,中國當然也沒閒著。百度、華為、阿里巴巴、比特大陸等,都有明確規格與定義的AI晶片發展計畫。此外,南韓記憶體雙雄在記憶體內運算(PIM)市場上著力更多。三星電子(Samsung Electronics)在2020年發表HBM-PIM的產品,讓晶片可以在沒有連結資料中心的情況下,獨立進行演算,對聲音、影像在裝置前端的應用上深具意義。走在市場最前端的晶圓代工業、設計服務業者,大致可以維持應有的地位,但最受挑戰的是台灣IC設計產業。在晶圓製造領域,14奈米以下先進製程成為必要條件,擁有最先進製程的公司,仍將是市場上的寵兒。台灣IC設計業雖只佔全球市場的18%,在前十大業者中有3家來自台灣,但台灣擅長替代型商機,而非定義市場,參與前端市場的角逐。其次,業者面對人才短缺、成本激增、中國業者追擊等相關議題,真正有實力角逐頂級商機的廠商屈指可數。台灣的IC設計業者正積極趕上這一波大AI潮的滾滾商機。最後,前端設備的多元需求,AIoT商機無可限量。IBM估計,物聯網終端設備總量從2020年的150億台,增加到2025年的1,500億台。10倍速成長加上多元商機,如何發展通用效益,又可以差異化設計的發展機制,是台灣業者最大的挑戰。
是誰攪和AI一池春水?
為角逐未來AI商機,各大廠商也拉幫結派,NVIDIA購併了Mellanox與Excelero,而看似被NVIDIA拉開差距的超微(AMD),也購併賽靈思(Xilinx)及Pensando。邁威爾(Marvell)、博通(Broadcom)、英特爾(Intel)也都各有盤算,特別是英特爾在晶圓代工久攻不下,CPU/GPU/DPU市場又面對嚴厲的挑戰,除了發展類似CUDA的程式語言之外,也與Habana Labs合作,我們看到大廠決戰光明頂的景象,也知道AI競爭現在才進入火熱的階段。繼GPT-3.5之後,Open AI再度於2023年3月發表GPT-4,這套Foundation model更貼近市場的需求。短短幾個月之內,上億人的使用經驗成為「學習」的基礎,運算法的改善,也讓AI應用帶來新的境界。科技大腕相繼加碼研發,整個生態系的改善非常具體,微軟(Microsoft)的積極態度也帶來推波助瀾的效果。到2022年4月底止,Office 365已經有3.2億使用者,而搭配Office 365推出的Copilot軟體,讓這些使用者有條件從過去經驗中推演相關的應用。以Copilot的使用者做測試,每個使用者節省的時間大約是50%,這是個很龐大的數字與價值。Microsoft 365 Copilot可以連結Word、PowerPoint、Outlook、Teams等檔案,並與Microsoft Graph、LLM等功能同步使用,也使用Grounding的演算法。微軟在2022年底推出ChatGPT之後的兩個月,推出ChatGPT Premium的方案,每個月收取20美元的費用,應答問題的速度可以快3倍。透過各種搭載的方式,讓原先的Windows/Office等軟體得到升級的機會,這對微軟而言,是十年難得一遇的好機會。微軟搜尋引擎Bing市佔率僅有2~4%,遠遠不如Google,但在這次改變的過程中,可能會是最大贏家,在推出GPT-4之後,Bing市佔率提高到9%以上,2023年3月9日,Bing使用者首度超過1億人。儘管Google的每日活躍用戶數(DAU)已經超過10億人,但我們看到微軟在AI領域上的突破,可能給微軟在數據檢索上一個彎道超車的機會。未來大型資料中心將繼續升級,藉以進行加速運算,可以預期伺服器與相關晶片、服務業者的商機生氣蓬勃。過去每次的技術創新,都帶來龐大的衍生商機。從工業革命的蒸氣機到鐵路,從網際網路的出現到各種遊戲、生活體驗不斷革新,但這次的AI革命可能更勝以往。我們可以預期類似YouTube、SNS等新型態的服務平台一定會出現,對台灣的啟示就是「軟體應用」必須積極參與、學習,而硬體製造當仁不讓,特別是晶片與相關服務業者的價值體現,將會有新的面貌。
智慧應用 影音