SMore LrMo是面向工業(yè)場景的大模型開發(fā)與應(yīng)用平臺，覆蓋了應(yīng)用層面、算法框架、基礎(chǔ)設(shè)施服務(wù)等開發(fā)全場景，涉及算力資源調(diào)度管理能力、數(shù)據(jù)自動標(biāo)注管理能力、應(yīng)用開發(fā)管理能力、算法服務(wù)管理能力等人工智能模型全生命周期。

今年以來，大模型的火熱點(diǎn)燃了新一輪人工智能發(fā)展浪潮，也正在引領(lǐng)新一輪工業(yè)革命，幫助企業(yè)重塑生產(chǎn)及經(jīng)營各環(huán)節(jié)以實現(xiàn)提質(zhì)降本增效。而SMore LrMo平臺的發(fā)布，將為大模型在工業(yè)領(lǐng)域的應(yīng)用提供了基礎(chǔ)，進(jìn)一步降低企業(yè)開發(fā)及應(yīng)用工業(yè)大模型、AIGC等技術(shù)的門檻，推動工業(yè)4.0發(fā)展，助力提高生產(chǎn)力和經(jīng)濟(jì)效益。

這是繼3月底以來ViMo Cloud工業(yè)智能云平臺、ViMo Deeplearning桌面級工業(yè)視覺深度學(xué)習(xí)訓(xùn)練軟件、ViMo Studio低代碼機(jī)器視覺軟件等ViMo系列產(chǎn)品發(fā)布之后，思謀的再次“上新”。

如果說ViMo系列產(chǎn)品的研發(fā)是為了降低制造業(yè)對人工智能的使用門檻的話，SMore LrMo便是為了降低制造業(yè)企業(yè)對人工智能的研發(fā)與應(yīng)用成本，為工業(yè)場景的大模型應(yīng)用提供安全可靠的私有化平臺。不變的是，思謀科技對人工智能通用性、普惠化的追求始終貫徹其中。

據(jù)了解，SMore LrMo是市場上首個工業(yè)大模型開發(fā)底座，專為解決工業(yè)場景下大模型的數(shù)據(jù)采集復(fù)雜、數(shù)據(jù)安全性要求嚴(yán)格、設(shè)備異構(gòu)程度高、計算集群分布廣、大模型工程化成本高等痛點(diǎn)而來，具有安全與隱私性高、硬件適配廣泛、多云調(diào)度、大模型訓(xùn)練快等特點(diǎn)。

△思謀SMore LrMo平臺架構(gòu)圖

SMore LrMo支持云邊端設(shè)備聯(lián)動、多數(shù)據(jù)源接入，可對工業(yè)級大規(guī)模數(shù)據(jù)集進(jìn)行高效處理和管理，提供高效的數(shù)據(jù)操作接口和分布式數(shù)據(jù)處理能力，以滿足復(fù)雜數(shù)據(jù)處理需求；亦支持非聯(lián)邦學(xué)習(xí)模型到聯(lián)邦模型的快速轉(zhuǎn)換，實現(xiàn)聯(lián)邦學(xué)習(xí)場景下，對卷積、圖、Transformer等神經(jīng)網(wǎng)絡(luò)的適配，可充分滿足制造企業(yè)對數(shù)據(jù)安全與隱私管理嚴(yán)格的要求。

SMore LrMo還擁有出眾的通用性、廣泛的硬件適配能力。該平臺支持Intel與ARM架構(gòu)芯片以及NVDIA、寒武紀(jì)、天數(shù)智芯等5種國產(chǎn)加速卡，超3種以上國產(chǎn)框架，實現(xiàn)了基于國產(chǎn)加速卡與深度框架的150多種深度學(xué)習(xí)與強(qiáng)化學(xué)習(xí)模型的適配；在AI作業(yè)跨域自動化感知調(diào)度時，可實現(xiàn)萬卡、20個以上集群管理調(diào)度，線性加速80%以上。

據(jù)SMore LrMo研發(fā)負(fù)責(zé)人透露，在大模型訓(xùn)練上，平臺可支持超1000億參數(shù)規(guī)模的大模型分布式訓(xùn)練，較主流深度學(xué)習(xí)框架訓(xùn)練加速超15%；在推理加速上，平臺提供模型自動壓縮工具集，提供異構(gòu)加速卡加速SDK，提升模型推理效率，通用開源大模型部署效率提升3-5倍，平臺上線部署模型最高可達(dá)到單GPU 1000+ 的吞吐速度，處于行業(yè)領(lǐng)先水平；支持模型一鍵部署，實現(xiàn)推理服務(wù)高吞吐高性能，并彈性擴(kuò)縮容，并提供完整的運(yùn)維監(jiān)控體系，極大助力各式高精度工業(yè)AI模型的開發(fā)與應(yīng)用。

全球最大的企業(yè)增長咨詢公司弗若斯特沙利文指出，人工智能開發(fā)平臺的核心競爭力集中在“提高數(shù)據(jù)處理能力”、“增強(qiáng)平臺易用性”、“提升生態(tài)開放性”。

SMore LrMo在上述三方面均有突出表現(xiàn)力。這幾大優(yōu)勢也讓它成為市場上最先進(jìn)的大模型開發(fā)平臺之一，助力思謀迅速拿下了一批頭部科研院所、科技公司、超算中心的訂單，并快速落地應(yīng)用。

“目前客戶的反饋顯示SMore LrMo開發(fā)應(yīng)用效果非常不錯。例如某大型算力中心，客戶需要利用15個集群，共計3000+異構(gòu)計算卡，滿足大模型開發(fā)與部署應(yīng)用的場景，并要對模型持續(xù)優(yōu)化，保持在線服務(wù)迭代順暢。我們?yōu)樵摽蛻舨渴餝More LrMo人工智能開發(fā)平臺后，客戶可根據(jù)不同的訓(xùn)練任務(wù)智能調(diào)度訓(xùn)練資源，模型平均訓(xùn)練速度從原來的7.5小時/epoch降低到2.3小時/epoch。即使面對超1000億參數(shù)的大模型訓(xùn)練，SMore LrMo依然能高效完成，整體幫助客戶訓(xùn)練成本降低40%。”上述負(fù)責(zé)人表示。

作為一家致力于引領(lǐng)科技、服務(wù)全球的全場景智能公司，過去，思謀科技以深耕智能制造、輸出標(biāo)準(zhǔn)軟硬一體化產(chǎn)品及解決方案獲得了業(yè)內(nèi)外廣泛關(guān)注。少有人知的是，思謀還是最早對大模型在工業(yè)領(lǐng)域的 Emergent Ability開展研究和產(chǎn)業(yè)化的團(tuán)隊。

如今，思謀把落地在工業(yè)場景中的大模型開發(fā)、應(yīng)用的心得與經(jīng)驗，融合20余年在人工智能領(lǐng)域的技術(shù)沉淀，推出一站式工業(yè)大模型開發(fā)與應(yīng)用平臺SMore LrMo，進(jìn)一步賦能制造業(yè)惠及萬企。隨著人工智能大模型逐漸落地應(yīng)用，對實體經(jīng)濟(jì)的擁抱逐漸加深，以人工智能普惠為特征的全新時代正在拉開帷幕。而不斷自我迭代、不斷拓寬自我邊界的思謀科技也將邁向更加廣闊的未來。

文章來源：思小謀 思謀SmartMore