編輯：發(fā)布時(shí)間：2025-03-10瀏覽次數(shù)：1065
近日，“昇騰+DeepSeek 智算引擎創(chuàng)新行”江蘇省首站活動(dòng)在南京成功舉辦，本次活動(dòng)由南京江北新區(qū)產(chǎn)業(yè)技術(shù)研創(chuàng)園指導(dǎo)，江蘇省人工智能學(xué)會(huì)、江蘇鯤鵬·昇騰生態(tài)創(chuàng)新中心主辦。江蘇潤(rùn)和軟件股份有限公司（以下簡(jiǎn)稱“潤(rùn)和軟件”）作為昇騰生態(tài)核心伙伴受邀出席，人工智能研究院AI總工朱凱分享了基于“昇騰 + openEuler + OpenHarmony + DeepSeek”的全場(chǎng)景云-邊-端智能生態(tài)體系的技術(shù)實(shí)踐，并參與圓桌論壇探討DeepSeek大模型行業(yè)落地路徑。
潤(rùn)和軟件人工智能研究院AI總工朱凱現(xiàn)場(chǎng)演講
技術(shù)突破：全棧自主創(chuàng)新，夯實(shí)智能底座
潤(rùn)和軟件全場(chǎng)景云-邊-端智能生態(tài)體系
1. 昇騰AI算力：覆蓋云-邊-端的全場(chǎng)景性能躍升
云端訓(xùn)練，昇騰910+openEuler深度優(yōu)化：依托昇騰910芯片的強(qiáng)大算力，潤(rùn)和軟件深度定制HopeOS AI版操作系統(tǒng)，結(jié)合NUMA親和調(diào)度策略與高效的容器化編排技術(shù)，針對(duì)千億級(jí)參數(shù)大模型進(jìn)行分布式訓(xùn)練優(yōu)化。通過(guò)算子級(jí)融合優(yōu)化、CANN框架深度適配、數(shù)據(jù)流調(diào)度優(yōu)化及模型切分策略精細(xì)化調(diào)整，大幅降低計(jì)算節(jié)點(diǎn)間通信開銷，提升算力利用效率。
邊端推理，昇騰310+OpenHarmony實(shí)時(shí)響應(yīng)：基于昇騰310芯片的高能效比優(yōu)勢(shì)，結(jié)合OpenHarmony分布式軟總線的低開銷通信機(jī)制、跨設(shè)備協(xié)同與統(tǒng)一調(diào)度能力，實(shí)現(xiàn)了多端高效協(xié)同計(jì)算。
2. DeepSeek大模型：覆蓋訓(xùn)練到推理的端到端性能優(yōu)化
模型優(yōu)化，高效壓縮與行業(yè)適配：針對(duì)DeepSeek大模型，結(jié)合分層量化與知識(shí)蒸餾技術(shù)，實(shí)現(xiàn)模型輕量化，同時(shí)確保核心任務(wù)的高精度要求。通過(guò)智能量化策略對(duì)不同層級(jí)進(jìn)行優(yōu)化，減少計(jì)算資源消耗，并融合行業(yè)知識(shí)進(jìn)行模型蒸餾，使其在金融風(fēng)控、醫(yī)療診斷等專業(yè)領(lǐng)域保持穩(wěn)健的推理性能。
行業(yè)定制，深度融合領(lǐng)域know-how：通過(guò)業(yè)務(wù)規(guī)則嵌入與場(chǎng)景化數(shù)據(jù)增強(qiáng)雙路徑驅(qū)動(dòng)，構(gòu)建可動(dòng)態(tài)演化的微調(diào)框架：將行業(yè)知識(shí)圖譜與領(lǐng)域邏輯規(guī)則轉(zhuǎn)化為模型可識(shí)別的語(yǔ)義約束，結(jié)合輕量化增量訓(xùn)練技術(shù)，實(shí)現(xiàn)預(yù)訓(xùn)練大模型向特定場(chǎng)景的精準(zhǔn)對(duì)齊，在保障通用能力的同時(shí)增強(qiáng)對(duì)碎片化、長(zhǎng)尾需求的適應(yīng)性。
行業(yè)賦能：深入場(chǎng)景，讓AI驅(qū)動(dòng)業(yè)務(wù)增長(zhǎng)
在以“DeepSeek大模型行業(yè)落地路徑”為主題的圓桌論壇中，潤(rùn)和軟件針對(duì)大模型在垂直場(chǎng)景中面臨的碎片化需求適配難、領(lǐng)域知識(shí)遷移效率低、部署成本高等挑戰(zhàn)，提出了“場(chǎng)景定義架構(gòu)、知識(shí)驅(qū)動(dòng)進(jìn)化”的落地方法論：
潤(rùn)和軟件人工智能研究院AI總工朱凱參與圓桌論壇
統(tǒng)一引擎：潤(rùn)和軟件自研的統(tǒng)一推理引擎通過(guò)深度整合軟硬件資源，提供了強(qiáng)大的推理加速能力與優(yōu)化效果，針對(duì)不同硬件平臺(tái)的專用算子優(yōu)化、內(nèi)存管理與并行計(jì)算的精細(xì)調(diào)度，通過(guò)智能層次調(diào)度與融合技術(shù)可根據(jù)模型的復(fù)雜度和硬件性能動(dòng)態(tài)調(diào)節(jié)推理流程。
知識(shí)閉環(huán)：基于行業(yè)知識(shí)庫(kù)構(gòu)建反饋強(qiáng)化機(jī)制，利用模型微調(diào)框架實(shí)現(xiàn)“數(shù)據(jù)采集-知識(shí)提煉-模型迭代”的自進(jìn)化鏈路，構(gòu)建具備業(yè)務(wù)認(rèn)知自演進(jìn)能力的AI系統(tǒng)。
潤(rùn)和軟件堅(jiān)持從“堆參數(shù)”轉(zhuǎn)向“解方程”的技術(shù)路徑，將行業(yè)關(guān)鍵問(wèn)題轉(zhuǎn)化為可量化、可迭代的算法命題，再用AI工具精準(zhǔn)求解。未來(lái)，潤(rùn)和軟件將持續(xù)深化“昇騰+DeepSeek”技術(shù)路線，依托工程化技術(shù)解耦能力，將大模型技術(shù)重構(gòu)為企業(yè)級(jí)即懂即用的智能業(yè)務(wù)賦能系統(tǒng)，賦能千行百業(yè)智能化升級(jí)。
