近期,第五代英特爾 至強(qiáng) 可擴(kuò)展處理器通過了中國電子技術(shù)標(biāo)準(zhǔn)化研究院組織的人工智能服務(wù)器系統(tǒng)性能測試(AISBench)。英特爾成為首批通過AISBench大語言模型(LLM)推理性能測試的企業(yè)。中國電子技術(shù)標(biāo)準(zhǔn)化研究院賽西實(shí)驗(yàn)室依據(jù)國家標(biāo)準(zhǔn)《人工智能服務(wù)器系統(tǒng)性能測試…
近期,第五代英特爾 ? 至強(qiáng) ? 可擴(kuò)展處理器通過了中國電子技術(shù)標(biāo)準(zhǔn)化研究院組織的人工智能服務(wù)器系統(tǒng)性能測試(AISBench)。英特爾成為首批通過AISBench大語言模型(LLM)推理性能測試的企業(yè)。
中國電子技術(shù)標(biāo)準(zhǔn)化研究院賽西實(shí)驗(yàn)室依據(jù)國家標(biāo)準(zhǔn)《人工智能服務(wù)器系統(tǒng)性能測試規(guī)范》(征求意見稿)相關(guān)要求,使用AISBench 2.0測試工具,完成了第五代英特爾至強(qiáng)可擴(kuò)展處理器的AI大模型推理性能和精度測試。測試中,第五代英特爾至強(qiáng)在ChatGLM V2-6B(60億參數(shù))以及 Llama2-13B(130億參數(shù))兩個(gè)模型上均展現(xiàn)出卓越推理性能,能夠滿足輕量級(jí)大語言模型的實(shí)時(shí)推理要求。
此次單機(jī)性能測試中,在滿足人類正常閱讀速度要求(生成延遲小于100毫秒)的情況下,在封閉測試場景中構(gòu)造數(shù)據(jù)集,基于第五代英特爾至強(qiáng)的服務(wù)器可實(shí)現(xiàn):
在60億參數(shù)的ChatGLM V2模型通用推理中,當(dāng)輸入輸出序列為256時(shí)可達(dá)每秒 2493 token的性能,當(dāng)輸入輸出序列為2048時(shí)可達(dá)每秒926 token。
在130億參數(shù)的Llama2模型通用推理中,當(dāng)輸入輸出為256時(shí)可達(dá)每秒513 token,當(dāng)輸入輸出序列為2048時(shí)可達(dá)每秒 132 token 1 。
作為通用處理器,第五代英特爾至強(qiáng)在人工智能、網(wǎng)絡(luò)、存儲(chǔ)、數(shù)據(jù)庫等關(guān)鍵工作負(fù)載均能提供出色性能。AISBench 2.0的測試結(jié)果驗(yàn)證了英特爾至強(qiáng)在運(yùn)行輕量級(jí)大語言模型時(shí)展現(xiàn)出的優(yōu)異推理性能,使得客戶可以使用基于至強(qiáng)的服務(wù)器,構(gòu)建一個(gè)通用AI系統(tǒng)進(jìn)行數(shù)據(jù)預(yù)處理、模型推理和部署,從而獲得兼具AI性能、效率、準(zhǔn)確性和可擴(kuò)展性的組合。這也彰顯了英特爾至強(qiáng)可以為企業(yè)提供“開箱即用”的功能,即可以在通用系統(tǒng)上部署一部分AI工作負(fù)載,從而為客戶帶來更佳的總體擁有成本(TCO)優(yōu)勢。
軟硬結(jié)合,至強(qiáng)展現(xiàn)AI優(yōu)勢
英特爾至強(qiáng)的內(nèi)置AI加速器使其成為在通用處理器上運(yùn)行部分AI工作負(fù)載的理想解決方案,不僅如此,英特爾還配備了經(jīng)過優(yōu)化的、易于編程的開放軟件,可降低客戶和生態(tài)伙伴在數(shù)據(jù)中心部署從云到智能邊緣各種基于AI的解決方案的門檻。
第五代英特爾至強(qiáng)可擴(kuò)展處理器充分發(fā)揮了系統(tǒng)級(jí)優(yōu)勢(包括緩存、內(nèi)存等),因此推理速度實(shí)現(xiàn)了大幅提升。
其內(nèi)置的AI加速器——英特爾 ? 高級(jí)矩陣擴(kuò)展(AMX),通過提供專用的矩陣運(yùn)算加速模塊(TMUL),以及支持INT8和BF16這類低精度數(shù)據(jù)類型,可實(shí)現(xiàn)對計(jì)算資源的充分利用,從而大幅提升運(yùn)算效率。
xFasterTransformer(簡稱xFT)是英特爾提供的在CPU平臺(tái)上部署大語言模型的深度優(yōu)化開放解決方案,通過C++和Python兩種API接口,更易于用戶使用和將其集成到自有業(yè)務(wù)框架中。
關(guān)于AISBench
AISBench基準(zhǔn)是一套應(yīng)用于人工智能計(jì)算產(chǎn)品的性能測試基準(zhǔn),由中國電子技術(shù)標(biāo)準(zhǔn)化研究院牽頭研制。 與MLPerf等國際先進(jìn)計(jì)算基準(zhǔn)類似,該基準(zhǔn)用于測試多種人工智能計(jì)算產(chǎn)品形態(tài),并支持豐富的測試場景、模式、類型和指標(biāo)。
時(shí)間:2025-05-14
時(shí)間:2025-05-14
時(shí)間:2025-05-14
時(shí)間:2025-05-14
電話咨詢:86-755-83294757
企業(yè)QQ:1668527835/ 2850151598/?2850151584/ 2850151585
服務(wù)時(shí)間:9:00-18:00
聯(lián)系郵箱:chen13410018555@163.com/sales@hkmjd.com
公司地址:廣東省深圳市福田區(qū)振中路新亞洲國利大廈1239-1241室
CopyRight?2022 版權(quán)歸明佳達(dá)電子公司所有 粵ICP備05062024號(hào)-12
官方二維碼
友情鏈接:
| 日韩视频在线播放观看 | 色婷婷AⅤ一区二区三区之红樱桃 | 五十路老熟女 码A片 | 亚洲成人av一区二区三区 | 一级做a爱性毛片久久久9175 | 午夜福利视频影院 | 无码人妻精品一区二区蜜桃网站 | 国产精品第一百页 | 人与动物自慰一区二区三区 | 国产精品美女无遮挡一区二区 | 无码av电影在线 | AV高清在线观看 | 高跟鞋白丝芭蕾舞亚洲AV无码 | 安微BBB桑BBB桑BBB | 一区二区三区 日韩无码 | 都市 激情 亚欧 经典 综合 | 91人妻精品一区二区三A片 | 一级A片猛交BBBB | 拍拍噜噜噜噜久久久久久 | 肥婆A片无套内谢WWW | 亚洲精品AAAA区 | 香蕉一级婬片A片久久精 | 黄色视频在线免观看 | 国产一级a毛一级a毛视频在线网站 | 国产睡熟迷奷系列精品视频 | 欧美一区二区三区俄罗斯肥妇 | AAAAA亚洲无码| 亚洲人成免费在线图片 | 成人毛片免费视频 | 蘑菇精品嫩草影院88AV | 公妇乱片A片免费看少妇直播麻豆 | 欧美成人一区二区三区片免费 | 亚洲爆乳一区二区三区男人吃奶 | 农村A片婬片AAA毛片 | 中文字幕免费高清观看 | 丰满人妻ThePorn | 国产精品久久久久久久嫩粉 | 最好看的中文在线观看 | 东北少妇大叫高潮XXXⅩ传媒 | 国产一区美女在线 |