AI 投資泡沫還是機遇?從業內人士對 GenAI 發展的預測來看

FinSight主編 的大頭貼Posted by

最近針對 AI 投資是否泡沫的討論越來越多,市場看法分成兩派

  1. 目前看不到商業模式而感到過度投資的泡沫派
  2. 預期隨指數型成長讓模型更聰明就能看到應用落地的樂觀派

剛好過去兩周因為想知道樂觀派的看法,所以整理了三篇業內人士看法並寫成隨手記 memo,雖然我的看法都有備註在裡面了,但今天還是用這篇文章總結一下整理我的想法:

  1. 業內人士的看法跟隨 Scaling Laws:現階段在還沒有失效之前,持續衝刺有效算力的指數型成長,就會是各家廠商要做的事,而若認同這件事情,那現在對大家而言,「時間就是金錢」。
    (任何可以增加算力成長的方式,不管是從硬體或是演算法,所有節省下來的算力都會被拿去持續衝刺模型效益,目的是領先推出更佳的模型以在應用普及時,可站在最佳位置大量取得市場)

  2. 從歷史經驗知道這場典範轉移沒人輸得起:AI 可能是繼網路、移動互聯網、雲計算後,又一個重塑產業競爭格局的革命性浪潮,錯過可能意味著在未來科技版圖中沒有一席之地。況且現階段 AI 不僅有助提升生產力,隨著新模型釋出也持續降低使用門檻。雖然真正終端應用還看不到,但是沒有廠商可以錯過這局,因此只要整體公司營運還可以支撐,就會盡可能地投入。

  3. 現在到 2027 會是關鍵的時間點:按照業內人士看法,預期每幾個月就會有新的優化模型釋出,且隨著時間經過,模型效能優化與成本降低這件事情將同步發生,預期接下來 2~5 年 AI 推論會從現在每百萬 Tokens 10美金降低至 0.1 美金,屆時可望出現應用甜蜜點。
    (今年下滑趨勢就很明顯了,GPT-4 到 GPT-o 從 37.5 美金下滑至 7.5 美金;Claude 3 Opus 到 Claude 3.5 Sonnet 從 30美金下滑到 6 美金,但當然我個人還是期待 Claude 3.5 Opus 的來臨~希望到時候價格夠殺!)

  4. 當然存在幾個顯而易見的風險需要持續關注:
    • Scaling Laws 失效:GPT-5 延後至一年到一年半後推出,對我而言是負面消息,幸好當週有 Claude 3.5 Sonnet 發布來擋,只要還有廠商可以持續根據 Scaling Laws 推出新品,就沒有太大問題。
    • 電力不足:近期 ORCL 和 xAI 合作破局的新聞,看起來是擔心 xAI 首選電力供應不足還有 xAI 要求建造速度太快導致。這一季 ORCL 也有取得 OpenAI 訓練的單,我覺得有可能是因為資料中心建造速度不如預期導致,所以土地取得與電力不足很可能成為接下來指數型成長發展限制。
    • 投入廠商的財務狀況:過去兩季受惠 AI 牽動新一波資料轉雲的趨勢重啟,廠商公有雲的業務成長性均有回升,從上季檢測目前廠商的財務狀況來看,都還是正常的,因此目前沒有太大問題,但接下來仍要持續關注相關廠商財務狀況(尤其 META)。
    • 終端應用的總體營收:目前市場最擔心的是這塊,但其實提供新模型的廠商營收增長速度是蠻快的,重點是如何看到其他應用發展。要是如同業內人士的期待,應該在未來一年價格漸漸接近甜蜜點時,就要看到更多應用蓬勃發展。

以上就是我整理完的想法。

其實站在個人應用 AI 的立場,真的會期待新模型的推出與價格甜蜜點到來,而且也可以理解這場賽局是大廠商們不能輸的戰爭,隨著更聰明模型的降臨,也許現在很多應用上的問題都會被解決,所以繼續期待這些廠商做的努力吧!

這篇文章會簡單整理那三篇 memo 的內容,有興趣的話建議回去看「業內人士看GenAI發展」的隨手記 memo:

  1. 「業內人士看 GenAI 發展」之一:從 OOM 推算人工智慧的指數型發展,預測 2027 年將迎來大突破 (2024-07-03)
  2. 「業內人士看 GenAI 發展」之二:AI 推理成本將隨時間大幅下滑,創造應用落地甜蜜點? (2024-07-05)
  3. 「業內人士看 GenAI 發展」之三:Anthropic CEO 暢談 AI 未來 (2024-07-05)

業內人士的看法跟隨 Scaling Laws (擴展定律)

Scaling Laws (擴展定律):是一個在AI領域,特別是在大型語言模型 (LLMs) 開發中非常重要的概念。OpenAI 的研究人員在 2020 年發表的了一篇具有里程碑意義的論文 “Scaling Laws for Neural Language Models",正式提出了 Scaling Laws 的概念。

它的核心觀點是:

  1. 隨著模型規模的增加 (包括參數數量訓練數據量計算資源),模型的性能會持續提升。這些關係在不同的模型架構和任務中都存在。
  2. 這種提升不僅是量的變化,還會帶來質的飛躍,使模型獲得新的能力。
  3. 目前我們還沒有看到這種擴展的上限,也就是說,繼續增加規模可能會帶來更多驚人的突破。

這些發現為AI研究提供了明確的方向,即通過擴大規模來提升性能,也為了之後的大型語言模型研究奠定了重要的基礎。這也解釋了為什麼大型科技公司和研究機構投入大量資源來訓練越來越大的模型。

所以先前整理「業內人士看 GenAI 發展」的第一篇文章作者告訴我們,假設未來計算能力(包含算力能力、演算法效率、突破限制的增益)仍可呈現指數型成長,那參考 2019~2023 從 GPT-2 到 GPT-4 增加了 5~6 OOM 帶來能力的飛躍,那預期接下來四年 (2023~2027) 也可以預期,在目前三大計算能力依舊呈現指數型成長的趨勢在演進下,可望再帶來如同上一波的能力飛越。
(作者是比較激進,覺得有可能出現 AGI 並在那時再次出現一次 OOM 加速)

「業內人士看GenAI發展」第二篇文章的作者告訴我們:隨著時間經過,AI 推理成本將大幅下滑。這也是參考從 2022~2024 的經驗,看到語言模型在 MMLU 上的準確率不斷提高,同時每百萬 token 的成本持續下降。他將這件事情歸因於硬體晶片進步和專家混合 (Mixture of Experts, MoE)高效計算和參數訓練及推理技術,而這其實和第一篇文章講到的三大成長因素其實是相符合的。

作者預期在未來 1.5 年內,我們會看到 MMLU 準確率達到 90% 以上,同時成本逐漸降低而使採用門檻降低;在未來 2~5 年則是可以看到 MMLU 準確率達 95~100%,且價格降至每百萬 Tokens < 0.1 美金的價格甜蜜點。若真如此,那應用很可能在未來兩年左右開始大爆發。

這和「業內人士看GenAI發展」第三篇 Anthropic CEO 將公司支出 80% 放在算力供給上,並樂觀預測 AI 訓練的規模可能在 2025~ 2027 年增加到 100 億或 1000 億美元,屆時 AI 模型的能力有機會在大多數任務上超越人類相符合。

若真的可以達到模型優異的性能表現,同時有相對便宜的價格,那可以期待的是屆時應用可望大爆發,而現在取得先機的公司就會取得對應的市場

所以各家大廠競相推出更新、更大、更好用的模型,以 Anthropic 為例,他們預計每隔幾個月就推出更強大的新版 Claude。呼應了 NVIDIA CEO 在上次法說會講到的「Time is money」,當客戶即刻就需要用算力去訓練更強大的模型,那對他們而言,時間就是最大成本,等不得!

從歷史教訓來看,這場新典範轉移是沒人輸得起的戰爭

AI不僅是一項新技術,而是可能改變幾乎所有行業的基礎設施。這次轉變的潛在影響可能比之前任何一次都要大,因為AI有可能改變我們工作、創新和解決問題的方式。

面對這麼大的一場產業革命,現在檯面上的大型科技公司,像是:MSFT、GOOG、META、AMZN…等,相信也從過去網路時代、移動網路再到雲端創造了明顯的贏家和輸家的過程,學到深刻的教訓。無論他們在過去的這幾次典範移轉是否成功或失敗,我都相信他們都深刻理解錯過一個重大技術轉變可能帶來的嚴重後果。

回顧過去的技術浪潮,每一次轉變都重塑了整個科技生態:

  • 網路時代:Google憑藉搜索引擎崛起,成為資訊時代的巨頭。
  • 移動網路:Apple和Google (Android) 成功把握住智能手機革命,主導了移動生態系統。
  • 雲端:Amazon (AWS)、Microsoft (Azure) 和Google Cloud憑藉前瞻性的投資和技術創新,成為雲計算市場的領導者,而一些傳統IT公司則在這場轉型中掙扎。

因此,如何在技術變革中保持領先地位的重要性,是至關重要的。我們看到巨頭紛紛投入巨資,就是為了不在這場關鍵的競賽中落後,尤其是:

  1. 市場領導地位:在 AI 時代落後,可能意味著在多個關鍵領域失去競爭力。
  2. 數據和規模優勢:AI 的發展很大程度上依賴於海量數據和強大的計算資源,這正是這些科技巨頭的優勢所在,也可能創造大者恆大的先進者優勢。
  3. 生態系:成功的 AI 平台可能會吸引大量開發者和企業用戶,形成難以撼動的生態系統,就像當年的移動操作系統之爭一樣。
    (現在正值下一波企業轉雲的關鍵時期,綁住企業在自己的服務上面取得更多生產力,就可能創造更多做生意的機會,甚至是創造護城河)

所以,從業內人士的看法出發,再搭配這是一場科技巨頭無法輸的遊戲,就可以理解他們是用怎樣的心態在進行投資,且為什麼認為到 2027 年不管是投資金額或是算力規模都將呈現指數型成長

結論:關鍵時間點是現在到 2027 年!

從業內人士的說法來看,他們做的夢就是信奉 Scaling Laws 將延續下去,則他們要做的事就是使 AI 投資規模的指數型成長趨勢延續到 2027。

但 2027 會是個蠻關鍵的檢查點!因為那時 AI 模型的能力應該要在大多數任務上超越人類。若是出現,不僅因為價格甜蜜點使應用端大爆發,也可能因為更聰明模型釋出而再出現一次有效算力的對數加速;但到時若是沒有出現,在這幾年已經提供了這麼多資源與算力還沒辦法大幅突破的話,就可能需要在進入多年的演算法調整,進入到 AI 短期的蕭條中。

我自己的話,在去年生成式 AI 剛出來的時候,因為演算法本質上是黑盒子,且使用上又還有許多限制(那時花時間去訓練模型、研究向量資料庫、Langchain…等,還是無法妥善地解決我需要的問題),所以對於應用落地,當時的我是存在問號的!那時候,我比較傾向「技術需要長期發展,短期過度投資可能會出現短期泡沫」。

但今年隨著 OpenAI 競爭對手站上檯面,光上半年模型的推陳出新就讓應用門檻大幅降低,尤其 GPT-4o 和 Claude 3.5 的發布,在模型更聰明與價格下滑的情況下,已經大幅優化自己的工作流程。所以,我現在是傾向「隨著模型更聰明,應用將會落地」的想法,因為就算應用還沒落地,現在個人使用上就已經感受到 GenAI 的巨大威力,而且去年無法解決的許多問題,都隨著更智能的模型降臨而解決了,當然會對新模型釋出存在許多期待。

這段時間會整理這些業內的看法,就是想知道他們這些正在投資的人在想什麼。看起來只要大家仍相信Scaling Laws (擴展定律),也就是通過增加模型的規模 (包括參數數量和訓練數據),可以持續提升模型的能力。那現階段的投資就是大型雲端平台沒人輸得起的戰爭,因為一旦有人使模型夠好用而讓應用爆發,而你這家大型雲端平台不在裡面,那就可能在下個世代出局了。

但要注意的是:雖然Scaling Laws在目前觀察到的範圍內成立,但不確定是否會永遠持續下去。有研究者認為,僅靠擴大規模可能無法實現真正的通用人工智能 (AGI)。此外,擴大規模帶來的環境和經濟成本也引發了討論。

所以,若買單業內人士的說法,就要動態關注以下幾個風險:

  1. " Scaling Laws"會永遠持續下去嗎?
    OpenAI
    延後 GPT-5 的發表時間到 2025 年底或 2026 年初,其實是「很嚴重的負面訊號」,我會擔心出了甚麼問題,使這個假說無法按照計畫完成。(但好險同週有 Claude 3.5 發布出來扛,假設 OpenAI 遇上內部問題,那競爭對手應該要可以超車才證明這個假說並沒有被打破)

  2. 隨著模型更聰明,應用有落地了嗎?
    畢竟投資金額越來越高,接下來應用的市場有沒有增加一定要密切關注。目前看起來隨著模型更好用,大模型的新創公司營收有呈現倍數成長,至於公有雲的廠商目前看到貢獻不多,但短期也促使企業轉雲,所以現階段還算可以。

    中期則要有更明確的營收來源,我覺得樂觀派目前對 2027 期待非常高,所以若有進展,應該可以隨著模型推出兒看到逐步的數據支撐,所以在 2025~2026 應該就要有較明確的應用出現。這段期間要同步觀察的,是大型雲端公司的財務表現,是否因為鉅額投資受到拖累。
    (今年秋季 iOS 更新後,也可以看看 Apple Edge AI 可以做到什麼程度)

  3. 是否出現期待意料之外的阻力,像是:電力不足、政府干涉。
    以現階段來看,電力不足會是比較即刻的風險,至於政府監管則可能會是比較中期的風險。

以上就是最近的隨手記整理,下一步我應該會去整理擔憂 AI 泡沫的論點。

免責聲明:本文章內容僅供投資人參考,無任何推薦與買賣邀約之情事,投資人應獨立審慎判斷,自負買賣風險謹慎投資,本網站不負任何法律責任。

喜歡我們的文章嗎?歡迎追蹤我們的臉書粉絲團,我們會持續提供更多產業趨勢的分析。
若我們的網站有幫助到您,也可以選擇贊助我們,讓我們更有動力繼續前進!
 一次性贊助定期定額贊助 🥐

NVIDIA 隨手記文章:

  1. NVIDIA (NVDA) 2023Q4 財報:推理占比飆升至 40%,AI 工廠正在挖深護城河! (2024-04-10)
  2. NVIDIA (NVDA) 2024Q1 財報:軟體賦能硬體,推論與訓練的算力需求皆顯著成長 (2024-05-24)
  3. 美銀論壇整理:NVDA 看好 Token serving 與推論業務帶來的龐大市場 (2024-06-07)
  4. NVIDIA 軟體戰略全面解析:建構未來幾年內難以撼動、既寬且深的護城河 (2024-06-19)
  5. 回顧去年 NVIDIA 論壇:長期軟體營收可望過半,創造公司成長的下個飛輪 (2024-06-25)

AI 市場報告整理 – 隨手記文章:

  1. 整理:從史丹佛大學 2024 AI 報告看長線趨勢 (2024-05-08)
  2. 微軟 CEO Nadella 專訪解讀 AI 戰略:把握歷史性機遇,推進系統創新和平台構建 (2024-05-30)
  3. 「業內人士看 GenAI 發展」之一:從 OOM 推算人工智慧的指數型發展,預測 2027 年將迎來大突破 (2024-07-03)
  4. 「業內人士看 GenAI 發展」之二:AI 推理成本將隨時間大幅下滑,創造應用落地甜蜜點? (2024-07-05)
  5. 「業內人士看 GenAI 發展」之三:Anthropic CEO 暢談 AI 未來 (2024-07-05)

發表留言