6月27日，華南工博會(huì)現(xiàn)場(chǎng)，思謀科技宣布行業(yè)首個(gè)工業(yè)大模型開(kāi)發(fā)與應(yīng)用底座SMore LrMo正式發(fā)布。

SMore LrMo是面向工業(yè)場(chǎng)景的大模型開(kāi)發(fā)與應(yīng)用平臺(tái)，覆蓋了應(yīng)用層面、算法框架、基礎(chǔ)設(shè)施服務(wù)等開(kāi)發(fā)全場(chǎng)景，涉及算力資源調(diào)度管理能力、數(shù)據(jù)自動(dòng)標(biāo)注管理能力、應(yīng)用開(kāi)發(fā)管理能力、算法服務(wù)管理能力等人工智能模型全生命周期。

今年以來(lái)，大模型的火熱點(diǎn)燃了新一輪人工智能發(fā)展浪潮，也正在引領(lǐng)新一輪工業(yè)革命，幫助企業(yè)重塑生產(chǎn)及經(jīng)營(yíng)各環(huán)節(jié)以實(shí)現(xiàn)提質(zhì)降本增效。而 SMore LrMo 平臺(tái)的發(fā)布，將為 大模型在工業(yè)領(lǐng)域的應(yīng)用提供了基礎(chǔ)， 進(jìn)一步降低企業(yè)開(kāi)發(fā)及應(yīng)用工業(yè)大模型、AIGC等技術(shù)的門檻，推動(dòng)工業(yè)發(fā)展，助力提高生產(chǎn)力和經(jīng)濟(jì)效益。

(資料圖)

這是繼3月底以來(lái)ViMo Cloud工業(yè)智能云平臺(tái)、ViMo Deeplearning桌面級(jí)工業(yè)視覺(jué)深度學(xué)習(xí)訓(xùn)練軟件、ViMo Studio低代碼機(jī)器視覺(jué)軟件等ViMo系列產(chǎn)品發(fā)布之后，思謀的再次“上新”。

如果說(shuō)ViMo系列產(chǎn)品的研發(fā)是為了降低制造業(yè)對(duì)人工智能的使用門檻的話，SMore LrMo便是為了降低制造業(yè)企業(yè)對(duì)人工智能的研發(fā)與應(yīng)用成本，為工業(yè)場(chǎng)景的大模型應(yīng)用提供安全可靠的私有化平臺(tái)。不變的是，思謀科技對(duì)人工智能通用性、普惠化的追求始終貫徹其中。

據(jù)了解，SMore LrMo是市場(chǎng)上首個(gè)工業(yè)大模型開(kāi)發(fā)底座，專為解決工業(yè)場(chǎng)景下大模型的數(shù)據(jù)采集復(fù)雜、數(shù)據(jù)安全性要求嚴(yán)格、設(shè)備異構(gòu)程度高、計(jì)算集群分布廣、大模型工程化成本高等痛點(diǎn)而來(lái)，具有安全與隱私性高、硬件適配廣泛、多云調(diào)度、大模型訓(xùn)練快等特點(diǎn)。

SMore LrMo支持云邊端設(shè)備聯(lián)動(dòng)、多數(shù)據(jù)源接入，可對(duì)工業(yè)級(jí)大規(guī)模數(shù)據(jù)集進(jìn)行高效處理和管理，提供高效的數(shù)據(jù)操作接口和分布式數(shù)據(jù)處理能力，以滿足復(fù)雜數(shù)據(jù)處理需求；亦支持非聯(lián)邦學(xué)習(xí)模型到聯(lián)邦模型的快速轉(zhuǎn)換，實(shí)現(xiàn)聯(lián)邦學(xué)習(xí)場(chǎng)景下，對(duì)卷積、圖、Transformer等神經(jīng)網(wǎng)絡(luò)的適配，可充分滿足制造企業(yè)對(duì)數(shù)據(jù)安全與隱私管理嚴(yán)格的要求。

SMore LrMo還擁有出眾的通用性、廣泛的硬件適配能力。該平臺(tái)支持Intel與ARM架構(gòu)芯片以及NVDIA、寒武紀(jì)、天數(shù)智芯等5種國(guó)產(chǎn)加速卡，超3種以上國(guó)產(chǎn)框架，實(shí)現(xiàn)了基于國(guó)產(chǎn)加速卡與深度框架的150多種深度學(xué)習(xí)與強(qiáng)化學(xué)習(xí)模型的適配；在AI作業(yè)跨域自動(dòng)化感知調(diào)度時(shí)，可實(shí)現(xiàn)萬(wàn)卡、20個(gè)以上集群管理調(diào)度，線性加速80%以上。

據(jù)SMore LrMo研發(fā)負(fù)責(zé)人透露，在大模型訓(xùn)練上，平臺(tái)可支持超1000億參數(shù)規(guī)模的大模型分布式訓(xùn)練，較主流深度學(xué)習(xí)框架訓(xùn)練加速超15%；在推理加速上，平臺(tái)提供模型自動(dòng)壓縮工具集，提供異構(gòu)加速卡加速SDK，提升模型推理效率，通用開(kāi)源大模型部署效率提升3-5倍，平臺(tái)上線部署模型最高可達(dá)到單GPU 1000+ 的吞吐速度，處于行業(yè)領(lǐng)先水平；支持模型一鍵部署，實(shí)現(xiàn)推理服務(wù)高吞吐高性能，并彈性擴(kuò)縮容，并提供完整的運(yùn)維監(jiān)控體系，極大助力各式高精度工業(yè)AI模型的開(kāi)發(fā)與應(yīng)用。

千億參數(shù)大模型訓(xùn)練成本降低40%

全球最大的企業(yè)增長(zhǎng)咨詢公司弗若斯特沙利文指出，人工智能開(kāi)發(fā)平臺(tái)的核心競(jìng)爭(zhēng)力集中在“提高數(shù)據(jù)處理能力”、“增強(qiáng)平臺(tái)易用性”、“提升生態(tài)開(kāi)放性”。

SMore LrMo在上述三方面均有突出表現(xiàn)力。這幾大優(yōu)勢(shì)也讓它成為市場(chǎng)上最先進(jìn)的大模型開(kāi)發(fā)平臺(tái)之一，助力思謀迅速拿下了一批頭部科研院所、科技公司、超算中心的訂單，并快速落地應(yīng)用。

“目前客戶的反饋顯示SMore LrMo開(kāi)發(fā)應(yīng)用效果非常不錯(cuò)。例如某大型算力中心，客戶需要利用15個(gè)集群，共計(jì)3000+異構(gòu)計(jì)算卡，滿足大模型開(kāi)發(fā)與部署應(yīng)用的場(chǎng)景，并要對(duì)模型持續(xù)優(yōu)化，保持在線服務(wù)迭代順暢。我們?yōu)樵摽蛻舨渴餝More LrMo人工智能開(kāi)發(fā)平臺(tái)后，客戶可根據(jù)不同的訓(xùn)練任務(wù)智能調(diào)度訓(xùn)練資源，模型平均訓(xùn)練速度從原來(lái)的小時(shí)/epoch降低到小時(shí)/epoch。即使面對(duì)超1000億參數(shù)的大模型訓(xùn)練，SMore LrMo依然能高效完成，整體幫助客戶訓(xùn)練成本降低40%?！鄙鲜鲐?fù)責(zé)人表示。

作為一家致力于引領(lǐng)科技、服務(wù)全球的全場(chǎng)景智能公司，過(guò)去，思謀科技以深耕智能制造、輸出標(biāo)準(zhǔn)軟硬一體化產(chǎn)品及解決方案獲得了業(yè)內(nèi)外廣泛關(guān)注。少有人知的是，思謀還是最早對(duì)大模型在工業(yè)領(lǐng)域的 Emergent Ability開(kāi)展研究和產(chǎn)業(yè)化的團(tuán)隊(duì)。

如今，思謀把落地在工業(yè)場(chǎng)景中的大模型開(kāi)發(fā)、應(yīng)用的心得與經(jīng)驗(yàn)，融合20余年在人工智能領(lǐng)域的技術(shù)沉淀，推出一站式工業(yè)大模型開(kāi)發(fā)與應(yīng)用平臺(tái)SMore LrMo，進(jìn)一步賦能制造業(yè)惠及萬(wàn)企。隨著人工智能大模型逐漸落地應(yīng)用，對(duì)實(shí)體經(jīng)濟(jì)的擁抱逐漸加深，以人工智能普惠為特征的全新時(shí)代正在拉開(kāi)帷幕。而不斷自我迭代、不斷拓寬自我邊界的思謀科技也將邁向更加廣闊的未來(lái)。

關(guān)鍵詞：