資策會產業情報研究所(MIC)發布「2024年資通訊產業前景」，所長洪春暉表示，生成式AI將貫串2024年資通訊暨軟體產業發展，其已逐步落地至更多終端裝置，預期2024年AI PC與AI手機將成為終端消費市場成長新動力。
生成式AI的高速發展也帶動新一波AI推論伺服器需求，並驅動AI晶片競爭白熱化。針對生成式AI發展，2024年將朝向「AI Agent化」，預期可帶動軟體系統工程革新，利於企業流程升級，展望未來，距離「人人成為AI工程師」的世界又更接近了，屆時全民皆可創建AI App，將驅動新一代AI服務模式。
資策會MIC表示，搭載AI的個人電腦已成為下一代產品開發標配，儘管AI PC尚未有明確的產品定義，PC供應鏈對於AI PC的無限想像已開啟AI PC新戰場。除了處理器大廠紛紛推出AI PC處理器，品牌商、作業系統商、軟體商也加速軟體應用的開發與合作。由於主要大廠已認知到市場成長的關鍵，在於使用模式更貼近使用者需求，因此除了硬體效能，軟體應用工具對於使用者執行AI功能的情境配合，成為未來產業發展焦點。展望2024年，臺灣PC產業具有設計與生產力優勢，預期將持續扮演協助尋覓使用情境與產品創新設計的角色，提升AI PC產品價值，迎接價量齊升的市場商機。
2024年手機品牌廠的AI布局能力將成為競逐的差異化關鍵，基於AI手機的服務生態系將重新建構，並走向大者恆大。主要手機品牌廠紛紛自研大型語言模型(LLM)並整合客製OS系統開發，試圖將AI大模型能力引入手機，使終端處理運算成為常態。而為了實現AI手機各類應用運算需求，手機晶片規格將大幅提升，GPU、NPU/APU的重要性增加，主晶片規格與記憶體頻寬及容量也同步升級，以支援百億規模以上參數的LLM模型，進一步催生晶片面積設計優化、高階運算，以及軟體管理能耗等需求。預期2024年，對於先進製程、AI手機晶片設計與測試、記憶體模組需求將更甚以往，刺激大廠挹注新技術研發與投資力道，為台廠供應鏈帶來商機。
資策會MIC表示，現有各產業領域對於AI的應用與需要訓練的原始資料，差距甚大，且許多產業數據分析牽涉機敏資料的運算，使小型化、客製化AI訓練模型成為趨勢，特別是中小型企業受限於有限資源，需要更有效率、較低成本的AI應用部署方式。展望2024年，AI推論伺服器由於價格較低、方便企業部署，加上多數企業已開始避免AI算力溢出、資源過度部署的問題，預期AI推論伺服器將成為企業端採購的重點產品，利於AI伺服器出貨。對臺灣產業而言，高階AI訓練伺服器出貨，加上雲端服務商、伺服器品牌商與自有品牌的AI推論伺服器訂單有望增加，並帶來可觀的成長動能。