在2024年3月，階躍星辰成功吸引了大眾的目光。他們發(fā)布了Step系列通用大模型，包括Step-1千億參數(shù)語言大模型、Step-1V千億參數(shù)多模態(tài)大模型以及Step-2萬億參數(shù)MoE語言大模型預覽版，這標志著他們正式進入大模型領域，并躋身國內(nèi)六大大模型獨角獸行列。

然而，階躍星辰的低調和神秘感卻讓人對其團隊核心成員、技術進展和產(chǎn)品研發(fā)等信息知之甚少。直到他們臨近一周年之際，正式提交第一份成績單時，外界才逐漸了解到這家公司的實力。

進入2024年以來，大模型行業(yè)的發(fā)展愈發(fā)多樣化，大模型落地應用的主旋律下，行業(yè)模型和端側模型逐漸升溫。然而，階躍星辰的聲音似乎并不多見。因此，當?shù)弥A躍星辰也將出席世界人工智能大會(WAIC)時，人們充滿了期待和好奇，希望能夠一探這家公司對當前關于AGI的各種共識與非共識問題的看法。

然而，階躍星辰在WAIC上交出的卻是第二份答卷——發(fā)布了Step-2萬億MoE語言大模型正式版、Step-1.5V多模態(tài)大模型和Step-1X圖像生成大模型。這次的產(chǎn)品升級距離上次發(fā)布僅過去了100天。

將國內(nèi)大模型升級到“萬億參數(shù)時代”的Step-2

在WAIC大會上，階躍星辰的Step-2萬億參數(shù)MoE語言大模型正式版亮相了。它采用當前熱門的MoE(Mixture of Experts)架構，這種架構可以實現(xiàn)在增大參數(shù)規(guī)模的同時，計算成本遠低于相同參數(shù)規(guī)模下的稠密模型，從而實現(xiàn)高效訓練。

在通往AGI的道路上，業(yè)界大多數(shù)人堅信Scaling Law定律——模型越大，性能越強。然而，現(xiàn)實問題是模型的升級迭代離不開算力的支撐，而算力的不足和匱乏是當前業(yè)界面臨的共識之一。因此，在意識到MoE可以解決這一難題時，一些大模型從業(yè)者相繼推出了基于MoE架構的大模型，階躍星辰就是其中之一。

階躍星辰的CEO姜大昕表示，在完成Step系列千億模型的訓練后，他們就開始訓練萬億模型。而要將模型參數(shù)擴大到萬億級別，MoE幾乎是一個必選項。在設計Step-2 MoE架構的過程中，階躍星辰還進行了創(chuàng)新，通過部分專家共享參數(shù)、異構化專家設計等方式，讓Step-2中的每個“專家模型”都得到了充分訓練。

據(jù)階躍星辰透露，目前Step-2萬億參數(shù)MoE語言大模型在數(shù)理邏輯、編程、中文知識、英文知識和指令跟隨等方面已經(jīng)全面逼近GPT-4。

階躍星辰攀頂AGI的決心

階躍星辰在3月份推出的Step系列模型是他們將近一年的成果結晶。而現(xiàn)在，僅僅過去了100天，他們就實現(xiàn)了對Step系列模型矩陣的全新升級。這表明階躍星辰在通往AGI的征程中已經(jīng)從“走路入場”轉變?yōu)椤芭懿角斑M”。

盡管業(yè)界對AGI的定義和路徑尚未形成明確共識，但階躍星辰已經(jīng)明確了自身的路線圖：單模態(tài)—多模態(tài)—多模態(tài)理解和生成的統(tǒng)一—世界模型—AGI。他們以實現(xiàn)AGI為目標，專注于研發(fā)多模態(tài)基礎大模型，并基于自研基礎大模型打造新一代“AI +”應用。

姜大昕認為，攀登AGI巔峰需要“萬億參數(shù)”和“多模融合”兩個關鍵要素。多模態(tài)理解和生成的統(tǒng)一是通向AGI的必經(jīng)之路，而模型參數(shù)量決定了模型能力上限，因此全面進入萬億參數(shù)級別是通向AGI的核心之一。

此次階躍星辰的Step系列通用大模型獲得了WAIC 2024 SAIL之星稱號，這是對他們在人工智能領域中具有高度認可和美譽的項目的表彰。

除了在模型上的努力，階躍星辰在應用上也沒有松懈。他們通過自研產(chǎn)品和生態(tài)合作產(chǎn)品逐漸形成了豐富的產(chǎn)業(yè)應用生態(tài)圈，并在重點行業(yè)領先落地。例如，他們自研的產(chǎn)品躍問和冒泡鴨已經(jīng)全面開放使用。

在生態(tài)合作方面，階躍星辰已經(jīng)在金融、網(wǎng)絡文學、知識服務、游戲、數(shù)字人、影視等領域與合作伙伴達成了深度合作，共同探索面向C端用戶的創(chuàng)新應用。例如，他們在WAIC大會上展示的“大鬧天宮”AI互動體驗就是與上影合作的結果。

接下來，階躍星辰將繼續(xù)積極探索，并持續(xù)擴大生態(tài)圈，結交更多的生態(tài)伙伴。他們的目標是通過技術和產(chǎn)品的雙重驅動，推動人工智能技術的發(fā)展和應用，為實現(xiàn)AGI的目標而努力。