鑑往知來：packet（網際網路）vs. token（大語言模型）

從資訊技術演進的歷程來看，過去數十年來網際網路（Internet）的核心傳輸單位—封包（packet），與現今AI時代的大型語言模型（LLM）生成單位—語意單元（token），在基礎設施、商業模式發展上呈現出明顯相似性。

透過回顧packet的發展路徑，我們可以摸著石頭過河，描繪出token相關技術的潛在演進軌跡，並預判其在產品形態、服務模式與產業價值鏈上的可能樣貌。

何謂封包（packet）？封包是網際網路資料傳輸的最小「訊息單位」。所有透過網路傳輸的訊息（不管是信件、語音、甚至影片串流）都被拆解為多個封包，每個封包內含傳輸資訊等重要資訊，確保資料在龐大複雜的網際網路中，正確無誤地抵達目的地。

過去數十年，網路基礎設施的投資便是圍繞封包品質的確保（如錯誤重傳機制）、提升傳輸效率（如頻寬升級、資料壓縮），以及整體系統吞吐量（throughput）的擴展而展開。正是如此，過去三十年來，我們才有日益豐富的網路服務，如訊息溝通、電子商務、社群媒體、影音娛樂等。

而在LLM中，token則成為關鍵「智能單位」。語言模型在處理自然語言時，將一段文字訊息拆解成多個token，每個token代表不同的語意片段，經由模型運算後再組合（生成）為有意義的內容。與封包相似，token的數量和生成效率直接影響運算成本以及使用者體驗。例如，過去3年AI運算基礎建設投資的大幅增長，就是為了確保LLM模型的能力（token品質）以及服務品質（token生成效率），甚至近期邊緣裝置上token處理能力的提升，也正逐漸顛覆AI應用的場域邊界，向更多元、即時且全新的場域擴張。

單看過去三十幾年網際網路packet的發展，我們發現token也在走類似的進程。不管是基礎建設，或是3個技術優化方向，包括「品質保障」、「效率提升」，以及整體「系統吞吐量的擴展」。

品質保障：網路早期透過TCP/IP協定來確保封包傳輸的正確性，而LLM則透過scaling law加大模型、使用更多訓練資料，甚至後來以思維鏈（Chain-of-Thought；CoT）為基礎的推理技術，確保生成的token內容正確且提供高品質推理服務。

效率提升：隨著頻寬提升和資料壓縮等技術的成熟，封包傳輸成本大幅降低；同樣地，token處理成本亦透過模型蒸餾（distillation）、量化（quantization，使用較少位元表示數值）、KV Cache等張量（tensor）降維壓縮，或是使用更有效率的架構（如MoE）來降低運算量，甚至有機會使大模型有效地運行於終端裝置。

系統吞吐量擴展：過去網際網路透過光纖技術和提升邊緣設備（交換器、路由器等）大幅提升資料傳輸量,或是使用內容傳遞網路（CDN）等技術提高封包全局效益；在LLM領域，資料中心的垂直擴充（scale-up，提高算力、記憶體等提昇單一伺服器效能）與水平擴充（scale-out，高速網路連結、排程提升分散式系統效能）、或是採用雲端—邊緣混合架構（Cloud-Edge-Hybrid）等，實現整體系統更高的token處理吞吐量，滿足未來多元且即時的應用需求。

循著過去網際網路發展的主軸，我們可以預見AI技術即將引爆的下一波變革—智能「去中心化」（普及化），低成本token開始在終端設備上運行。情境將如同2007年行動網路興起之際，packet進入行動裝置，催生智慧型手機，也推動Uber、LINE等全新服務的誕生，引爆長達十數年的行動生態系蓬勃發展。

網際網路數十年來最佳化packet傳輸技術，帶動網路服務的快速普及，特別在行動網路時代，我們見證大量新應用與商業模式的誕生。這段歷程也為觀察生成式AI提供重要參照—當前token的品質提升與單位成本下降，正如當年packet優化所引發的技術擴張與資本投入，預示著新一波智能設備與創新應用的興起。隨著token處理成本持續降低，AI有望成為如網路般的關鍵基礎設施，深刻重塑產業結構。近來多個開放LLM模型在效能與成本上的突破，更強化LLM商品化與大規模應用的趨勢。

未來如何因應？過去的歷史已經顯明，在技術變革時，應以開放的態度，極力接近實際場域，理解技術應用發展方向，甚至與合作夥伴共同設計開發，參與組建生態系。更積極的作法，是投資（國際）學研單位，甚至新創團隊，理解新的場域應用，以及技術演進。

鑑往知來，回顧packet的發展經驗（許多企業經營層也曾親歷其境），將使我們更有效地掌握token所帶來的顛覆性機遇。對資訊電子產業的投資者與決策者而言，更是攸關未來競爭優勢的關鍵課題。

每一次產業典範的轉移，總會帶來新的硬體、服務、企業、生態系，甚至整個產業格局的興起與殞落。當我們已清楚AI大模型即將重塑未來十年的產業樣貌，或許網際（行動）網路曾走過的歷程，正可作為產業AI戰略規劃的重要借鏡。