技術(shù)
導(dǎo)讀:云天勵(lì)飛舉辦AI大模型產(chǎn)品發(fā)布會(huì),正式發(fā)布“深目”AI模盒。
3月28日,備受矚目的小米汽車(chē)發(fā)布會(huì)如期而至,小米SU7正驚艷亮相,21.59萬(wàn)元的起售價(jià),讓雷軍獲得了“雷神”的新稱(chēng)號(hào)。
而在同一天里,“深圳AI第一股”云天勵(lì)飛也邁出了革命性的一步,打響了大模型【平民化】的第一槍。
28日,云天勵(lì)飛舉辦AI大模型產(chǎn)品發(fā)布會(huì),正式發(fā)布“深目”AI模盒。據(jù)了解,該產(chǎn)品能夠做到“3個(gè)90%”:覆蓋場(chǎng)景超過(guò)90%、算法精度超過(guò)90%,使用成本降低90%,解決大模型在場(chǎng)景落地最后一公里的問(wèn)題,幫助更多中小企業(yè)客戶輕松使用大模型。
圖源:云天勵(lì)飛
在過(guò)去的這一年多里,AI大模型發(fā)展如火如荼,在全球范圍內(nèi)掀起了一場(chǎng)AI技術(shù)“狂飆”新浪潮,更廣范圍、更深層次地影響著人們的經(jīng)濟(jì)發(fā)展和生產(chǎn)生活方式變革。
發(fā)布會(huì)上,云天勵(lì)飛董事長(zhǎng)兼CEO陳寧博士提到:“未來(lái)3年,全球80%的企業(yè)都將使用大模型?!?/p>
然而,隨著這一革命性機(jī)遇的降臨,行業(yè)也同樣遭遇著大模型發(fā)展初期所面臨的多重挑戰(zhàn)。其中,最顯而易見(jiàn)的挑戰(zhàn)就是訓(xùn)練大模型的成本問(wèn)題。訓(xùn)練專(zhuān)屬大模型需要消耗大量的算力,資金投入達(dá)到了成百上千萬(wàn)級(jí),而這筆高昂的投入是絕大多數(shù)企業(yè)難以承擔(dān)的。
在這場(chǎng)AI大模型技術(shù)的盛宴中,如何才能真正地把AI普惠化落地到實(shí)處?
于是,為了能夠讓大模型“平民化”,成為人人都可用的產(chǎn)品,云天勵(lì)飛推出了“深目”AI模盒。
據(jù)了解,這款售價(jià)在千元級(jí)、用單手就能托起的“深目”AI模盒,搭載了云天勵(lì)飛自研大模型邊緣訓(xùn)推芯片DeepEdge10 Max和自研多模態(tài)大模型“云天天書(shū)”,具備算法邊緣側(cè)在線學(xué)習(xí)能力的,能夠做到“3個(gè)90%”,讓人人都能夠根據(jù)自身場(chǎng)景需求,利用大模型能力,訓(xùn)練出可實(shí)戰(zhàn)應(yīng)用的算法,讓大模型唾手可得。
而之所以能夠?qū)崿F(xiàn)3個(gè)90%,關(guān)鍵還在于云天勵(lì)飛的核心能力——“算法芯片化”。為了把大模型變“小”,云天勵(lì)飛用時(shí)一年進(jìn)行了兩大技術(shù)攻關(guān),一是自研大模型推理芯片DeepEdge10;二是自研多模態(tài)大模型“云天天書(shū)”
“深目”AI模盒的算力基礎(chǔ),來(lái)源于2023年云天勵(lì)飛推出的14nm Chiplet大模型訓(xùn)推芯片DeepEdge10 Max。據(jù)悉,該芯片采用了自主可控的國(guó)產(chǎn)工藝,內(nèi)含國(guó)產(chǎn)RISC-V核,支持大模型推理部署。依托自研芯片DeepEdge10創(chuàng)新的D2D chiplet架構(gòu)打造的推理平臺(tái),已適配并可承載SAM CV大模型、Llama2等百億級(jí)大模型運(yùn)算,可廣泛應(yīng)用于AloT邊緣視頻、移動(dòng)機(jī)器人等場(chǎng)景。
“深目”AI模盒的大模型能力,則來(lái)源于云天勵(lì)飛自主研發(fā)的多模態(tài)大橫型“云天天書(shū)”。云天天書(shū)大模型包含語(yǔ)言大模型、多模態(tài)大模型等不同系列,在C-Eval、CMMLU等權(quán)威測(cè)試中多次獲得第一,并于去年正式通過(guò)中央網(wǎng)信辦備案。云天天書(shū)1.0版本于2023年初正式推出,至今已完成3個(gè)版本的迭代,預(yù)計(jì)今年6月將迭代4.0 V版本。
以云天天書(shū)為底座,云天勵(lì)飛能夠與生態(tài)合作伙伴完成預(yù)訓(xùn)練場(chǎng)景算法,再將預(yù)訓(xùn)練算法提供給廣大中小企業(yè)用戶,中小企業(yè)客戶可根據(jù)自身場(chǎng)景需求,在邊緣端完成算法微調(diào)。由于大模型具備泛化和學(xué)習(xí)的能力,客戶部署算法后,大模型還能夠不斷根據(jù)現(xiàn)實(shí)應(yīng)用場(chǎng)景情況,在線學(xué)習(xí)、優(yōu)化算法,不斷提升算法精度。
“深目”AI模盒不僅僅是“壓縮”了大模型和芯片能力的一款全新產(chǎn)品,更是把云天勵(lì)飛大模型通過(guò)算法芯片化能力平臺(tái)“硬件化”的一次重要嘗試。把復(fù)雜的技術(shù)通過(guò)簡(jiǎn)單的產(chǎn)品提供給用戶,讓用戶可以零學(xué)習(xí)成本,快速訓(xùn)練出自己需要的算法。
從2014年成立至今,云天勵(lì)飛一直堅(jiān)持將AI技術(shù)與物理世界相結(jié)合,這也是云天勵(lì)飛從成立之初自研芯片的重要原因。芯片是AI與物理世界的連接器,AI通過(guò)芯片為實(shí)體賦能,物理世界的數(shù)據(jù)又通過(guò)芯片反哺AI,推動(dòng)AI進(jìn)步發(fā)展。
陳寧博士表示,“AI商業(yè)化發(fā)展有三個(gè)階段:AI方案化、AI運(yùn)營(yíng)化、AI產(chǎn)品化。”
在AI方案化階段,AI企業(yè)主要通過(guò)項(xiàng)目制滿足不同垂直領(lǐng)域客戶需求,通過(guò)不斷積累行業(yè)認(rèn)知和數(shù)據(jù),AI技術(shù)實(shí)力不斷增強(qiáng),并形成具備越來(lái)越強(qiáng)的泛化能力AI平臺(tái),企業(yè)也得以開(kāi)啟AI運(yùn)營(yíng)業(yè)務(wù)。而最終,所有的技術(shù)都需要通過(guò)物理實(shí)體賦能,因此AI最終必須走向產(chǎn)品化。
圖源:云天勵(lì)飛
云天勵(lì)飛業(yè)務(wù)發(fā)展路徑也沿著這條路徑展開(kāi)。在AI方案化方面,云天勵(lì)飛在警務(wù)、城市治理、智慧交通、人居生活等領(lǐng)域打造諸多標(biāo)桿項(xiàng)目,并且在低空經(jīng)濟(jì)、智慧教育等創(chuàng)新領(lǐng)域持續(xù)展開(kāi)探索?;谠诖罅啃袠I(yè)的落地經(jīng)驗(yàn),云天勵(lì)飛已形成數(shù)據(jù)運(yùn)營(yíng)、新能源運(yùn)營(yíng)平臺(tái),走向AI運(yùn)營(yíng)化。如今,云天勵(lì)飛還逐步走向AI產(chǎn)品化。
去年,云天勵(lì)飛與華為昇騰聯(lián)合推出天舟大模型訓(xùn)推一體機(jī);如今又推出面向邊緣訓(xùn)推場(chǎng)景的“深目”AI模盒。此外,云天勵(lì)飛還通過(guò)資本紐帶,進(jìn)軍智能穿戴和機(jī)器人等硬件領(lǐng)域,形成日益完善的大模型產(chǎn)品體系。
總之,從AI方案化、AI運(yùn)營(yíng)化再到AI產(chǎn)品化,云天勵(lì)飛一直在致力于做物理世界的“解碼者”,通過(guò)算法芯片化的能力,為“無(wú)形”的技術(shù)和“有形”的世界構(gòu)建通道,讓AI不僅僅是一個(gè)在虛擬世界的工具,而是轉(zhuǎn)化為物理世界的生產(chǎn)力。
來(lái)源:云天勵(lì)飛
想了解更多行業(yè)動(dòng)態(tài)以及行業(yè)最新、最前沿的產(chǎn)品、技術(shù)與解決方案,那就來(lái)參加4月24-26日IOTE 2024第二十一屆國(guó)際物聯(lián)網(wǎng)展·上海站。這里匯聚全球超300+家參展企業(yè)、3萬(wàn)+多元領(lǐng)域的專(zhuān)業(yè)集成商、終端用戶,不僅能提供行業(yè)最前沿的產(chǎn)品信息,也為業(yè)內(nèi)人士提供了交流合作的機(jī)會(huì),能夠享受高效、精準(zhǔn)的資源對(duì)接。同時(shí),展會(huì)也開(kāi)設(shè)了RFID、高精度定位、智慧康養(yǎng)、智慧工廠、智慧能源、智慧建筑園區(qū)、智慧應(yīng)急與減災(zāi)等多個(gè)技術(shù)與應(yīng)用領(lǐng)域論壇。識(shí)別下方二維碼,即可報(bào)名觀展!
識(shí)別上方二維碼,即可報(bào)名觀展!