智慧應用 影音
Microchip
ADI
川普先生別鬧了(3-1):台韓半導體業都是危機入市的成果!
不久之前,美國前總統川普受訪問時說:「台灣人搶走了美國晶片製造的工作」,聽起來很刺耳,但做為大國博奕中最脆弱的籌碼,台灣得引經據典,不卑不亢地證明這是台灣應得的!半導體製造往東亞移動始於1980年代,三星電子(Samsung Electronics)、海力士(Hynix)從1983年開始,台灣的聯電創始於1980、台積電是1987,他們都是從會外賽打起的,幾經艱困才有今天的局面。做為一個從事半導體與台韓科技產業研究將近40年的老兵,我知道半導體業幾個重要轉折,以及今天川普為什麼有這樣的埋怨。本來台灣與南韓根本是二線的科技產業發展國,無論從基礎科技或整體產業實力觀察,能有一席之地就該滿意了,不可能是四強準決賽的入圍者。台韓都得感謝美國在1986年簽署「美日半導體協議」,要求日本必須讓外商在日本擁有20%以上的市佔率,這個協議讓全球市佔過半的日本業者綁手綁腳,同時也給了台韓半導體業者一個機會之窗。1986年後,台韓火力全開,兩個新興工業國在往後將近20年間,以「取用於國,因糧於敵」的巧力爭得一席之地。南韓在記憶體稱孤道寡,台灣則是獨樹一幟,在晶圓代工領域集中有限的資源,在這個剛被張忠謀定義的新市場中取得壓倒性優勢。今日全球半導體產業的格局,3分之2的記憶體市場由南韓半導體雙雄獨佔,3分之2晶圓代工領域由台商一手掌握。特別是90%以上高階晶片在台灣生產,加上台海風雲緊急,更讓大家憂心位於西太平洋的台韓,在地緣政治上似乎又重回冷戰時期的角色與地位。孤懸於東海的第一島鏈,一旦烽火連天,全球供應鏈必然受到嚴重的衝擊,而現階段的產業樣態,似乎又證明台灣人、南韓人搶走了美國人的工作。其實,台韓兩國在2008年以前,只是個不錯的生產基地,還談不上稱霸全球半導體市場的實力,但2008年美國的次貸危機、金融海嘯給了台韓一個「轉大人」的契機。當時台系記憶體業者積欠銀行的融資貸款高達4,000億元(約130億美元),南韓的海力士、日本的爾必達(Elpida)也岌岌可危。此時,三星玩起「危機入市」、「膽小鬼遊戲」的戲碼,加碼投資記憶體,擴大與其他廠商之間差距。台灣記憶體產業從此被拋在領先群之外,日本爾必達破產關門,連海力士都在政府的協調下,由在電信市場獲利豐厚的鮮京集團接手,並改名SK海力士(SK Hynix)。從此三星與SK海力士成為南韓記憶體產業的雙保險,也以3分之2的市佔率笑傲全球。台灣2008年情況與南韓相近,多次強調自己是「學習曲線信仰者」(Learning curve believer)的張忠謀重掌兵符,以鉅額的資本支出「梭哈」全球的產業,那也是危機入市。台積電、三星的投資布局,也顯現在國際半導體產業協會(SEMI)公布的全球設備市場資料中。台韓砸重金,美系的設備廠跟著獲利,川普何來埋怨呢?下一篇文章,我們將以2008年以後的半導體設備投資為基調,檢視過去15年全球半導體產業的投資模式,並探索如何激勵更多國家投入半導體業的角逐。
2023/7/28
AI會是超乎尋常的「工業革命」嗎?
有哪些工作不會被人工智慧(AI)取而代之?需要複雜決策與推理的工作,短期內很難被取代。李開復說:紐約客的專欄作家很難被取代,但新聞編譯的工作就難說了;一樣是醫師,放射科醫師比家醫更容易被取代,在網路系統上媒合交易、電信業者的客戶服務,都是很容易被取代的工作,所以從英國電信(BT)到Vodafone都大量裁員,您認為台灣電信業者可以倖免嗎?就像台灣銀行分行沒有消失一樣,台灣電信業者門市消失速度或許會慢一點,因為台灣幅員小,人口密度高,喜歡步行、面對面交易,這樣也可以保留很多工作機會,不見得是壞事,只是專業服務業的進步就會慢一點。2021年是有史以來獨角獸增加最快的一年,但之後在資金成本驟增的壓力下,新創投資慢慢走下坡。根據NVCA調查,2020年創投投入的資本為1,710億美元,2021年是3,450億美元,而2022是2,410億美元,估計減少30%以上,這當然與資金成本上揚有關。原本以為不景氣會持續一段時間,但看來AI是重要的解方。關鍵的觀念是「以龐大的數據為後盾,根據每人特定需求提供專屬的服務」,這樣的概念可以大到工廠的「少量多樣生產」,也可以小到個人化的生活體驗,這也將是「贏家全拿」時代的深化。在網路發展的第一階段,市場形成的速度遠高於工業時代,但通常一開始會有很多新創公司參與,經過淘汰賽後由領先者出線。但現在是使用者同時參與創造數據,讓數據增加幾乎接近「零成本」,亦即這個市場將出現「指數型成長的模式」,新創事業出線更為困難!但科技大廠都看好AI商機,在ChatGPT上市之後,很多科技公司都推出相關應用,但最具影響力的仍是微軟(Microsoft),微軟宣示將把ChatGPT導入所有應用平台,2月放在Bing上,3月則是Office軟體,接下來也看到阿里巴巴、Meta開發類似GPT的大語言模式。其次,AI應用領域無所不在,從場域到影像、文字、聲音,多重內容的連動與結合,而混合型的應用更是大家很容易想像的變種方案,這是無縫接軌(Seamless)的多元共創。這個趨勢已經被討論好幾年了,但沒有想到是由AI與NVIDIA的GPU做為驅動因子,而台積電與背後的創意電子等公司就成為間接受益者。此外,NVIDIA使用「專屬軟體」,讓GPU得以在最佳的狀態下運作,這也是其他競爭者望而生畏之處。從用戶端觀察,軟體使得AI擴張更為容易,使用具親和力。很多生態系業者以各種演算法,透過ChatGPT提供各種有效的應用,領先者的優勢已經十分明顯,這並非只是炒作的一時現象。過去蘋果(Apple)的App stores是提供多元應用的平台,但Open AI直接切入各種應用,擴散效益將更為驚人,例如GPT-4可以結合影像,這又是另一種超越大家想像的應用。未來的使用者,不是搜尋部分資料,而是用部分資料誘導出更多的相關資料,革命性變化促使我們面對重新定義產業與國家戰略的時刻。
2023/6/12
數據「孤島化」的挑戰與契機
黃仁勳在台大畢業典禮上演講提到,1984年他從大學畢業,迎接的是PC起飛的年代,而2023年是「人工智慧起飛(AI)的年代」,期望今年畢業的學生可以掌握時代的契機,成為浪尖上的英雄。1984年底,我唸完研究所,1985年回到台灣迎接的也是PC元年!創業的過程總是艱辛的,「誠實的面對問題」是黃仁勳在台大整場演講的精華。與Sega的合作,其實技術上碰到挫折,但卻厚著臉皮要對方付錢;與張忠謀的互動,成就了雙方25年的革命情感。驕傲的創業家,也有彎腰請人幫忙的時刻,這些心理上的掙扎只有創業家可以體會!黃仁勳說:就像是1984年PC濫觴的時代,2023年是AI真正商業化的時代,而這背後有很多軟硬整合與硬體製造的機會。在Google搜尋引擎可至之處,大概有超過6成的數據是來自英語體系,中文只佔1.5%,繁體字更僅有0.01%,換句話說,如果以台灣本土的資訊、數據創造普遍性的價值,可能是緣木求魚,不可行的策略。但反其道而行,如果能在「孤島」上圈地自肥,專門找豐腴的土地耕作,而這塊土地還有往外擴張的空間,可行嗎?我做的就是這樣的實驗,我認為不僅可行,而且是AI創新與他人差異化的避風港。這個市場小到網路大腕們不僅視而不見,而且希望拉攏我們這些地頭蛇,加速事業模式的落地與實踐。這些離經叛道的做法,可能讓專業人士懷疑可行嗎?路是我走出來的,我知道有多難,但別人認為不可行的,您也一定沒機會!「大數據是AI的成敗關鍵」的說法,大致是正確的,但很多人也認同,數據總量與品質之間的關係很關鍵。過去將數據資產的重心放在資訊儲存、高速運算,現在「資訊的交換」也非常重要,這牽涉到交換的效率、條件、定義、對象等問題。由於現在的網路社會,數據是雙向互動,Input的品質當然影響到Output的結果,長期累積的價值、客戶的信賴都是成敗關鍵。其次,如何從累積大數據的過程中,找到具有商業價值的副產品,絕對是台灣這種中小型國家新創企業要深思的問題。這些副產品或技術趨勢,如何與台灣優勢結合,才是我們應該思考的問題。大趨勢背後的副產品、邊緣服務,這點商機不值得主流業者來經營。難度高,又看不上眼,難怪我們活得好好的!
2023/6/9
各國AI半導體發展現況與政策
所有工業大國都明白,各種創新的應用,背後都需要強大的半導體工業來支援,各種政策支援措施,在智慧聯網、數位轉型、人工智慧(AI)大商機來臨之際顯得更為具體與必要。需求更為多元,競爭更為激烈的今日,也無法再以工業時代的概念推動各種政策補強措施,而掌握本國半導體需求的呼聲正在各國發酵,我們該如何用正確的角度觀察,以半導體產業為核心的世界競合架構。美國:2022年8月,拜登政府推出晶片法案(Chips and Science Acts),以520億美元的規模支持美國重新掌握半導體產業的優勢,其中390億美元將用於提升生產製造能力。並從2022年8月26日起,以國安理由,要求賣往中國與俄羅斯的高階繪圖卡必須經過審核,之後更強化NVIDIA與超微(AMD)將高階繪圖晶片賣到中國的管制措施,也影響了華為、中芯等相關企業的營運。中國:在第14次五年發展計畫以及2035年的七大戰略目標產業,都將半導體列為重點產業。從AI、量子技術、腦神經、生物科技到太空科學,都與半導體產業高度連動。歐盟:也通過半導體晶片法投資430億美元,目標在2030年時搶下全球20%的市佔率,除了建構2奈米的技術發展路徑,歐盟也宣示要在AI、異質整合、5/6G通信、材料設備上加碼發展。此外,歐盟結合了10個國家28個機構共組研究平台,針對車用半導體,希望在2024年之前訂定車用半導體的發展路徑。日本:1980年代末時,日本半導體全球市佔率過半,1990年代開始衰退,現在已經不到10%,甚至多數是30~40奈米的老舊技術。儘管如此,日本超過半世紀的半導體產業,依舊留下很多不可或缺的條件。例如日本半導體設備全球市佔率32%,材料市佔率是56%,在國際市場都是舉足輕重的角色。現在日本希望透過與台積電、Sony、電裝(Denso)共同投資的熊本工廠,日本政府更展現決心,支援熊本計畫4,760億日圓投資經費的一半。另一方面,做為尖端製程的切入點,瞄準由Repidus主導的工廠,2025年可以進入2奈米的製程。由於日本的基礎工業十分厚實,加上汽車產業需求,台日之間合則雙贏,但跨國合作牽涉到文化、國家價值的認知,台灣在國際形象的提升上漫不經心,台積電得擁有多大的領先差距,才能讓日本人心服口服?南韓:以2030年全球AI半導體領域20%市佔率為目標,並希望能在5年內培養7,000名AI晶片設計工程師。2025年前能栽培出NPU業者,2026~2028年間以記憶體技術為基礎,培養出低功耗PIM業者,2030年前看到超低功耗PIM產業落地生根。此外,南韓還訂定在2026年培養30家,2030年培養50家AI晶片廠為目標,將AI半導體產業培養成為繼記憶體之後的第二大支柱產業。其他還有國產NPU資料中心、AI專屬資料中心、在三所大學設置AI半導體研究所等計畫。相較於最近一年走跌的記憶體產業,南韓將AI半導體視為南韓半導體產業的救世主。但南韓最大的挑戰,是AI半導體的發展模式與IC設計產業更為類似,南韓過去費盡心思力圖發展的IC設計產業,幾乎是徒勞無功。南韓在全球記憶體佔有6成以上市佔率,但IC設計業市佔率卻不到2%,而在CPU+GPU大亂鬥的時代,這也不是南韓所長,「苦悶」二字是南韓說不出口的難題。發展AI半導體產業,南韓需要的配套生態系還包括NPU、先進封測技術,而能與Tesla、微軟(Microsoft)、Google、NVIDIA等網路巨擘平行發展的特化晶片,更是嚴酷的挑戰。走到產業發展的極致,面對的問題都是「傾全國之力,都不一定能收割」的大賽局。也許南韓會將希望放在RISC-V這些開源性資的新技術,並結合記憶體優勢,找到不同於其他先進國家的發展路徑,否則也是一場肉包子打狗的低勝算賭局。
2023/6/8
台灣ICT產業的AI生態系
2010年前後開始真正受到矚目的深度學習(Deep Learning),是人工智慧(AI)相關技術進化的關鍵期,透過機器學習得到的經驗,讓AI技術有了新的依靠。2016年的AlphaGo更是推波助瀾的重要突破,之後各種邊緣裝置(Edge Devices)出現在市場上,相關技術與半導體晶片的進展也受到矚目。至於在半導體領域發展的特用AI晶片,則是一種特化型IC(ASIC),又可分為伺服器與邊緣端專用。目前大家關注GPU與CPU帶來的運算之爭,將來重心也會慢慢移轉到前端設備,這些都是重要的變化、挑戰,也是機會,而台商是海景第一排的有力角逐者。AI半導體是指可以讓AI軟體與演算法可以更有效率執行的各種專用晶片。現有的泛用CPU,在處理大量數據時可能面對極限,也讓出更多機會給不同的微處理器,例如GPU、DPU與用於推論的NPU,特別是當初用來處理圖像的GPU,運用在AI上,竟有遠超過原來期待的功能。特別是NVIDIA結合CUDA的軟體設計程式,造就了NVIDIA今天的盛況。除此之外,其他如現場可程式化邏輯閘陣列(FPGA)晶片也出現了新的契機。GPU與FPGA也都是泛用型IC,非只為某一客戶量身定製的ASIC。ASIC是具有明確目標功能的系統半導體,目前最被看好的GPU結合了CUDA軟體,在市場上具有壓倒性優勢,而NVIDIA的財報也證明過去的投資與軟硬整合的優勢正在發酵中。A100擁有6,912個CUDA Core與40GB HBM2記憶體,這套解決方案可以整合成一套超級電腦。2022年3月,NVIDIA推出效能比A100還要強大的H100。根據IDC調查,全球AI資料中心的市場規模,將從2021年的156億美元,成長到2025年的318億美元,年均成長19.5%,遠高於傳統伺服器市場的10.7%。至於AI晶片市場,各大顧問公司也有許多評估,多數看好未來幾年的成長,其中Gartner認為,AI晶片在2025年時可達700億美元,到2030年AI晶片市場總值將達1,179億美元,貢獻整個ASIC市場的31%。由於看好AI晶片商機,從超微(AMD)、英特爾(Intel)這些NVIDIA傳統的競爭對手,到上游的Arm、新思(Synopsys),以至高通(Qualcomm)、博通(Broadcom)每一家公司都虎視眈眈,英特爾甚至透過購併Habana,希望加速軟硬整合的實力。除此之外,美國、英國、法國都有很多新創公司嘗試開發出各種用途的AI晶片,中國當然也沒閒著。百度、華為、阿里巴巴、比特大陸等,都有明確規格與定義的AI晶片發展計畫。此外,南韓記憶體雙雄在記憶體內運算(PIM)市場上著力更多。三星電子(Samsung Electronics)在2020年發表HBM-PIM的產品,讓晶片可以在沒有連結資料中心的情況下,獨立進行演算,對聲音、影像在裝置前端的應用上深具意義。走在市場最前端的晶圓代工業、設計服務業者,大致可以維持應有的地位,但最受挑戰的是台灣IC設計產業。在晶圓製造領域,14奈米以下先進製程成為必要條件,擁有最先進製程的公司,仍將是市場上的寵兒。台灣IC設計業雖只佔全球市場的18%,在前十大業者中有3家來自台灣,但台灣擅長替代型商機,而非定義市場,參與前端市場的角逐。其次,業者面對人才短缺、成本激增、中國業者追擊等相關議題,真正有實力角逐頂級商機的廠商屈指可數。台灣的IC設計業者正積極趕上這一波大AI潮的滾滾商機。最後,前端設備的多元需求,AIoT商機無可限量。IBM估計,物聯網終端設備總量從2020年的150億台,增加到2025年的1,500億台。10倍速成長加上多元商機,如何發展通用效益,又可以差異化設計的發展機制,是台灣業者最大的挑戰。
2023/6/7
是誰攪和AI一池春水?
為角逐未來AI商機,各大廠商也拉幫結派,NVIDIA購併了Mellanox與Excelero,而看似被NVIDIA拉開差距的超微(AMD),也購併賽靈思(Xilinx)及Pensando。邁威爾(Marvell)、博通(Broadcom)、英特爾(Intel)也都各有盤算,特別是英特爾在晶圓代工久攻不下,CPU/GPU/DPU市場又面對嚴厲的挑戰,除了發展類似CUDA的程式語言之外,也與Habana Labs合作,我們看到大廠決戰光明頂的景象,也知道AI競爭現在才進入火熱的階段。繼GPT-3.5之後,Open AI再度於2023年3月發表GPT-4,這套Foundation model更貼近市場的需求。短短幾個月之內,上億人的使用經驗成為「學習」的基礎,運算法的改善,也讓AI應用帶來新的境界。科技大腕相繼加碼研發,整個生態系的改善非常具體,微軟(Microsoft)的積極態度也帶來推波助瀾的效果。到2022年4月底止,Office 365已經有3.2億使用者,而搭配Office 365推出的Copilot軟體,讓這些使用者有條件從過去經驗中推演相關的應用。以Copilot的使用者做測試,每個使用者節省的時間大約是50%,這是個很龐大的數字與價值。Microsoft 365 Copilot可以連結Word、PowerPoint、Outlook、Teams等檔案,並與Microsoft Graph、LLM等功能同步使用,也使用Grounding的演算法。微軟在2022年底推出ChatGPT之後的兩個月,推出ChatGPT Premium的方案,每個月收取20美元的費用,應答問題的速度可以快3倍。透過各種搭載的方式,讓原先的Windows/Office等軟體得到升級的機會,這對微軟而言,是十年難得一遇的好機會。微軟搜尋引擎Bing市佔率僅有2~4%,遠遠不如Google,但在這次改變的過程中,可能會是最大贏家,在推出GPT-4之後,Bing市佔率提高到9%以上,2023年3月9日,Bing使用者首度超過1億人。儘管Google的每日活躍用戶數(DAU)已經超過10億人,但我們看到微軟在AI領域上的突破,可能給微軟在數據檢索上一個彎道超車的機會。未來大型資料中心將繼續升級,藉以進行加速運算,可以預期伺服器與相關晶片、服務業者的商機生氣蓬勃。過去每次的技術創新,都帶來龐大的衍生商機。從工業革命的蒸氣機到鐵路,從網際網路的出現到各種遊戲、生活體驗不斷革新,但這次的AI革命可能更勝以往。我們可以預期類似YouTube、SNS等新型態的服務平台一定會出現,對台灣的啟示就是「軟體應用」必須積極參與、學習,而硬體製造當仁不讓,特別是晶片與相關服務業者的價值體現,將會有新的面貌。
2023/6/6
AI商機有多大?誰是獲利者?
一旦Open AI建立完整的生態系,就可以主導整個商機,影響力越大的品牌與解決方案,將會成為市場上的領導者。微軟(Microsoft)刻意造成「生成式AI等於Open AI」印象,加上Office 365的優勢條件,微軟可能是很大的受益者。由於需要強大的數據運算能力,在資料中心晶片市佔遙遙領先的NVIDIA成為最大的獲利者,台積電也因為是代工夥伴而受惠。現在NVIDIA跟英特爾(Intel)叫板,甚至暢言「CPU時代已經結束」!導入AI不外乎是為了使用者忠誠度、提高效率,提升競爭力等。估計Open AI的市場規模,將從2023年的2億美元,增加到2024年的10億美元。遊戲開發商可以利用各種AI工具加速產品的開發,並以各種內容的整合開發出新的商機與市場區隔。市場剛剛起飛,但速度也可能像ChatGPT一樣迅雷不及掩耳!相較於現在的檢索模式,對話式檢索機制成本必然會增加,光是學習自然語言的運算機制,各種伺服器、資料中心的投資就以1,000億美元的規模來計算。Open AI需要導入1萬顆以上的NVIDIA A100繪圖晶片,相關資本支出與背後的維護都非常驚人。另據Semi Analysis估計,Google自主開發的Google TPU v4,資本支出高達200億美元,這大約是Alphabet 2022全年資本支出的64%。可以預期「超巨量型資料中心」(Hyperscale Data Center)將是軍火競賽的一環,起步較早的微軟與AWS都是領先者。但無論是內部或外部的連結,都是資料中心管理者很大的挑戰。我們同時可以見到傳輸速度不斷的提升,到2025年時,使用800G數據傳輸速度的Switch將高達2,500萬個,這與2022年還是主流的100G相比,已經不可以道里計!整體而言,資料中心的演化,從最早的儲存資料進化到演算,現在則是分散處理,藉以取得最佳化的成果。為了有效管理這樣的需求,除了過去倚重的CPU之外,現在資料中心更關注DPU(Data Processing Unit)的進展。這些可以有效管理儲存數據的微處理器,將是下一波需求的主流。相較於過去專注在特定功能的微處理器,DPU更重視整合性的功能。簡單來說,CPU用於一般的運算功能,GPU是加速運算功能,而DPU是專注資料處理功能。「Scaling AI Compute」是從資料中心的運算,延伸到網通過程,以及邊緣端的多元AI運算機制。基於提高運算效能、降低功耗等多方面的考慮,大家把希望寄託在晶圓製造與EDA工具的進化。如何以ASIC半導體晶片為基礎,生產出可以符合差異化需求的硬體設備,也都是製造廠非常大的考驗。 
2023/6/5
人工智慧的基礎建設
各種機器學習模型的成本將因為半導體的運算能力而出現更好的價格誘因,一旦使用價格降低,使用者必然大幅增加。使用人工智慧(AI)將成為公私領域日常工作的一環,商品化的結果,就真會是「AI的iPhone時刻」來臨。一旦Open AI成為常態,各種生成式的應用都需要NVIDIA資料中心與專用晶片,業界的相關效益可想而知。與傳統伺服器不同,AI專用的伺服器有80%是使用GPU,10%使用CPU,而一般資料中心的伺服器,60~70%使用CPU的運算能力。以NVIDIA的DGX伺服器建構組合為例,用8顆GPU、2顆CPU組成,GPT 3.5就需要1萬顆A100晶片,而一般學習型的伺服器只需要500~4,000顆的GPU。大家都把焦點放在台積電,確實台積電是僅次於NVIDIA的贏家,而且這一波大潮才剛剛開始而已。NVIDIA最早推出的A100,在Hooper 100推出後,仍然具有很大的吸引力,那為何NVIDIA可以一枝獨秀呢?2013年以前,資料中心的投資規模一年大約550億美元,但真正大幅成長是在2013年以後。2017~2022年間,資料中心的年均成長達到11.8%,而估計未來5年,NVIDIA規格的資料中心,就算只以維持目前的市佔率估算,也可以有年均20%以上的成長率。樂觀估計者,甚至認為年均可以達到40%以上。NVIDIA吃肉,台廠喝湯也可以獲利豐厚。現在台廠只要跟繪圖晶片有關的,生意都做不完,市場傳言緯創、鴻海、廣達都接到大單,而黃仁勳在CPMPUTEX期間,去拜訪微星、技嘉,也與聯發科攜手開創智慧座艙的商機,伺服器之外,電動車、車聯網的商機還在等著!IDC指出,2023年AI與相關軟體的市場是5,192億美元。Gartner則說,2020年時,AI佔公司IT支出比重是7%,到2023年會增加到10.5%,而2026年是13.8%。這是以全球軟體市場當分母的推算,那麼軟體商機背後的硬體世界呢?幾年前黃仁勳曾說:「AI會吃掉軟體,軟體會吃掉硬體」的豪語。我認為黃仁勳的話說對了一大半,硬體是無可替代的,特別是晶片,最大贏家仍然是硬體製造業,而與伺服器、資料中心相關的事業體,也會有龐大的商機。
2023/6/2
世界演化速度比我們想像還快
ChatGPT以雷霆之勢席捲全球,短短5天就累積達到100萬名用戶,相較於Facebook用了10個月、Netflix 41個月,ChatGPT與IG、Facebook、Spotify、Airbnb等前輩平台相比,速成的效率令人咋舌。2016年AlphaGo的出現,確實吸引一波投入人工智慧(AI)應用的熱潮,AlphaGo打敗世界棋王是整個AI應用的先聲,但棋王的世界我們很難想像。如果ChatGPT是個成功的典範,那麼關鍵原因就是ChatGPT走入了尋常百姓家,成為每個人都可以活用的工具,所創造的共營效益當然不可相提並論。也許很多人還在嘲弄人工智慧是「人工+智慧」,各種內容的品質仍有許多令人詬病之處,但從質與量兩個不同的角度思考,「量」的成長似乎更為關鍵,也因此初期的效益顯現在不需要深度思考的策略上。根據IDC估計,2022年全球的數據總量是97 zettabytes,估計2025年將倍增到180 zettabytes。只是台灣的佔比大約是1%,加上繁體中文的侷限性,台灣的AI產業要與本地接軌,得有非常不一樣的想法與戰略。有一段時間,我們還會說5G有很多閒置的空間,需要考慮6G嗎?但就算晶片運算速度再快,無法將數據往外傳輸,這些新的基礎模型,也都只是紙上談兵而已。數據之間的流通,除了資料中心儲存的大量資料與快速運算的能力之外,一方面也帶來網通產品的新商機。雲端的服務機制已經不是議題,而是必要的條件,串連公私領域的混合雲更受矚目。雲端服務業者,正結合網通設備將傳輸速度從現在的100G提升到400G,甚至往800G邁進。這些重要的趨勢,也可以從博通(Broadcom)的財報看出端倪。博通說2022年AI相關網通設備銷售金額是2億美元,估計2023年可以成長4倍,達到8億美元的規模。這個金額不是什麼了不起的成就,但很明確顯示,這是雲端與網通業者相關投資的領先指標。除了資料中心的運算與資料儲存能力之外,邊緣端的各種設備也都蓄勢待發,我們現在清楚知道,數據世界裡的變化是相互連動,也超過一般人能想像的範圍,網通環境也是促成AI應用走向商業運轉的重要推力。
2023/6/1
是誰激起「人工智慧」的千層浪?
人工智慧(AI)早已被大家所熟知,但直到ChatGPT出現之前,大致還停留在暗潮洶湧的階段。延續三年的疫情,半導體技術的大進化,促成了AI應用技術在2023年大爆發。耀眼的成績讓NVIDIA的股價大漲,市值1兆美元的門檻讓人望而生畏。羅馬是一天造成的嗎?答案當然不是!2005年前後,GPU的演算能力開始與CPU出現差異,部分功能甚至可以領先。由於CPU與GPU的設計架構不同,這是很自然的演化。NVIDIA為了這一天已經做了很多年的準備,CUDA(Compute Unified Device Architecture)這個軟體開發環境,讓C語言程式使用GPU做圖像處理外的運作工作,也讓開發商更容易導入GPU,這也是NVIDIA領先的關鍵。一旦開發商都跟進,生態系自然就可以水到渠成,更多的資料中心採用NVIDIA的設計與GPU,間接也影響了台系伺服器與網通設備大廠的經營績效。在2020年導入GPT- 3之前,AI領域的進展十分有限,對答的內容仍然無法因應商業的需求。但過去6年,NVIDIA的資料中心晶片演算速度提升了26倍,NVIDIA執行長黃仁勳積極參與Open AI的技術合作計畫,透過長期的學習與使用經驗,如今NVIDIA的GPU結合了軟體,成為超巨量AI模型中的遙遙領先者。NVIDIA的奇幻之旅能延續多久?週邊生態系可以雨露均霑,還是贏家全拿?對台灣而言,AI成功的經驗意味著驚濤駭浪,還是如黃仁勳所說的:「這是人工智慧的iPhone時代」,台灣搭上這趟便車成為其中一個重要的贏家。產業界都說「贏家全拿」,想要分杯羹,需要什麼條件呢?台灣ICT產業有多少勝算,機會從何而來?對手是誰?黃仁勳1984年從大學畢業,迎接的是PC即將起飛的年代,而2023年是「AI起飛的年代」,期望畢業的學生可以掌握時代的契機,成為浪尖上的英雄。1984年底,我唸完研究所,1985年迎接的也是PC元年!讀完李開復的《人工智慧來了》,李開復說需要複雜決策與推論的工作,短期內很難被取代,這就是我說DIGITIMES目前高枕無憂的背景。如果再考量,Google搜尋引擎所到之處,繁體中文僅佔0.01%,這樣的生成式語言模型未必能滿足我們的需求。在B2C的市場,「繁體中文」是孤島式的數據組合,但在B2B市場裡,這可能是天然的保護傘,我們會做出什麼樣的選擇呢?江山如畫,一時多少英雄豪傑?他們都說這是「AI的時代」,但跟台灣有什麼關係?黃仁勳是「美國矽谷觀點」,開創微軟亞洲研究院的李開復是「北京觀點」,不是不對,只是咱們自己得「想清楚,說明白」,找到屬於台灣的AI時代!
2023/5/31