如果你一直關注最近人工智慧領域的熱議,你可能聽說過一些工具,它們似乎無所不能,從寫詩到編寫複雜的程式碼,無所不能。這一切神奇功能的背後,都蘊藏著一個關鍵概念:基礎模型。本質上,它們就像汽車的底盤;一個穩健的通用結構,可以根據我們當時的需要進行定制,變成跑車、卡車或多用途車輛。
這些系統之所以具有顛覆性,是因為我們不再為單一任務設計人工智慧,而是創造一個基於海量資料訓練的數位巨頭,然後對其進行「塑造」。這種範式轉變使人工智慧從非常僵化的工具演變為一種靈活的工具,它能夠學習世界上的普遍模式,並將其應用於特定問題,從而以驚人的速度加速創新,坦白說,這種速度令人瞠目結舌。
基礎模型究竟是什麼?

簡而言之,基礎人工智慧模型是指任何基於海量資料(通常透過自我監控)訓練的人工智慧系統,它可以透過稱為微調的過程來適應各種各樣的應用場景。它們並非全新概念,因為它們借鑒了深度學習和知識遷移技術,但前所未有的資料規模和運算能力催生了許多人始料未及的能力。
務必注意不要將它們與大型語言模型(LLM)混淆。儘管它們經常被混用,但二者之間的關係是屬與種:所有LLM都是基礎模型,但並非所有基礎模型都是LLM。 LLM專注於文字和程式碼,而基礎模型可以是多模態的,能夠處理影像、音訊、視頻,甚至來自機器人的感測器訊號。
技術支柱:變壓器與培訓

這一切得以實現的架構就是Transformer。該系統使用一種名為「自註意力機制」的技術,使模型能夠理解序列中不同部分的重要性,無論它們彼此之間的距離有多遠。它通常由編碼器和解碼器組成,它們產生向量表示(嵌入),以捕捉語言或圖像的深層含義。
創作過程通常分為幾個階段:
- 運動前: 這是成本最高的階段。此模型會「吞噬」網路、書籍和資料庫,以學習資訊的整體結構。這就是… 參數數量標記的數量和上下文視窗。
- 微調: 一旦模型具備了通用性,就可以使用特定資料進行訓練,並在人類的監督下,使其成為某個領域的專家,例如醫學或法律。
- 適應任務: 這是最後一步,在此步驟中,模型將針對非常特定的功能進行最佳化,例如建立… 案例法搜尋引擎 或技術報告產生器。
塑造歷史的傑出模型

自 2018 年以來,我們見證了一系列顛覆性模型的出現。 BERT是其中的先驅之一,其雙向理解上下文的能力尤為突出。隨後,OpenAI 的 GPT 系列模型問世,從GPT-1 到 GPT-4 不斷演進,證明了規模越大,湧現的能力就越多,例如零樣本學習。
但他們並非孤軍奮戰。 Anthropic的 Claude就是一個很好的例子,它擁有 Sonnet、Opus 和 Haiku 等版本,力求在智慧和速度之間取得平衡。而Amazon Nova則提供了從多模態理解到創意視訊生成的全方位功能。我們也不能忘記Stable Diffusion,它將基礎模型的強大功能引入了影像領域;還有BLOOM,這個多語言協作專案證明了開源軟體同樣擁有其獨特的價值。
功能和實際應用
這些模型的功能不僅限於撰寫電子郵件。它們的影響範圍也延伸到關鍵領域:
- 健康: 它們在以下方面有所幫助: 醫藥研究 醫學影像分析雖然需要完全可解釋性以避免致命錯誤。
- 正確的: 它們有助於審查合約和分析冗長的法律敘述,從而降低獲得司法救濟的成本。
- 教育: 他們允許一個 個性化學習 而且具有適應性,儘管它們在抄襲和技術差距方面帶來了挑戰。
- 機器人: 目標是創建通用機器人,這些機器人無需針對每個任務從頭開始編程,而是使用基礎模型。 與環境互動 物理的
陰暗面:風險、倫理與環境
並非一切都盡如人意。同質化會帶來嚴重風險:如果所有人都使用相同的基礎模型,任何固有的偏差或錯誤都會傳播到所有衍生應用中,從而形成「演算法單一文化」。此外,還會出現幻覺——人工智慧有時會以驚人的準確度捏造數據,這就需要不斷進行人工驗證。
從倫理和法律角度來看,智慧財產權之爭已然公開,因為許多模型未經資料創建者明確同意便使用其資料進行訓練。此外,環境問題也令人擔憂;訓練這些龐大的模型會消耗大量的能源和水,迫使人們尋求更有效率的架構和永續的資料中心。
人工智慧的未來與治理
未來發展的關鍵在於普及取得人工智慧技術。目前,由於硬體(GPU)成本高昂,訓練最強大的模型主要集中在少數幾家公司手中。因此,大學和政府必須投資公共基礎設施,以防止人工智慧的力量落入技術寡頭手中。
關鍵在於透明度和獨立審計。一家公司僅僅聲稱其模型安全是不夠的;我們需要監管框架(例如歐盟的《人工智慧法》)和專業標準,以確保這些工具用於改善社會,而不是用於大規模監控或傳播虛假資訊。
人工智慧生態系統已向一種新的結構轉變,即少數核心模型支撐數千個專業應用,將海量處理能力與人類層級的精準調優相結合。這項進步在引發深刻的倫理困境和能源消耗擔憂的同時,也透過將人工智慧轉變為能夠跨多個領域同時進行推理、創造和學習的通用基礎設施,重新定義了人機關係。



