齊魯網(wǎng)·閃電新聞6月27日訊為全力做好青少年毒品預(yù)防教育宣傳，大力倡
06月27日 13:42
大模型催生邊緣算力需求，這家公司要用Chiplet重構(gòu)AI芯片｜把脈AI大模型
2023-06-27 13:52:31 來(lái)源：界面新聞 小 中
當(dāng)GPT-4首次支持多模態(tài)后，文本、圖像、視頻及更多形態(tài)的數(shù)據(jù)都被設(shè)想成未來(lái)可以“喂給”大模型的數(shù)據(jù)。從訓(xùn)練到推理，從數(shù)據(jù)中心到邊緣，AI引爆的數(shù)據(jù)多模態(tài)化浪潮使得業(yè)界意識(shí)到算力明顯不夠用了。
(資料圖)
“大模型的爆發(fā)首先帶動(dòng)的是訓(xùn)練，算力需求目前最緊俏也是這部分，英偉達(dá)目前在訓(xùn)練一側(cè)是絕對(duì)的霸主。但當(dāng)大模型訓(xùn)出來(lái)后，開(kāi)放API響應(yīng)廣大網(wǎng)友們每天的各種請(qǐng)求，推理的算力價(jià)值就會(huì)被浮出水面?！痹０雽?dǎo)體創(chuàng)始人兼CEO方紹峽博士接受界面新聞采訪中告訴記者。
原粒半導(dǎo)體是一家AI Chiplet供應(yīng)商，公司正式成立于今年4月，創(chuàng)始團(tuán)隊(duì)來(lái)自國(guó)際半導(dǎo)體巨頭，在AI芯片領(lǐng)域深耕多年。
這支新創(chuàng)業(yè)團(tuán)隊(duì)的目標(biāo)是通過(guò)結(jié)合創(chuàng)新的多模態(tài)AI處理器技術(shù)與Chiplet設(shè)計(jì)方法，提供高能效、低成本的通用AI Chiplet組件，客戶(hù)可以根據(jù)實(shí)際業(yè)務(wù)需求低成本、靈活、快速配置出不同算力規(guī)格的AI芯片，以滿(mǎn)足多模態(tài)大模型的推理及邊緣端訓(xùn)練微調(diào)需求。
Chiplet通常被定義為模塊化芯片的設(shè)計(jì)概念，包含“IP芯片化（IP as a Chiplet）”和“芯片平臺(tái)化（Chiplet as a Platform）”。與之形成對(duì)比的傳統(tǒng)集成電路的SoC技術(shù)（片上系統(tǒng)）。
它是將原本集成在一整塊芯片上全部核心處理器IP（例如圖形處理器 （GPU）IP、 視頻處理器 （ VPU ）IP、 數(shù)字信號(hào)處理器 （DSP）IP、神經(jīng)網(wǎng)絡(luò)處理器 （ NPU ）IP等等）按功能拆分成一個(gè)個(gè)的獨(dú)立單元，即芯粒，俗稱(chēng)“小芯片”。芯片廠商通過(guò)采購(gòu)這些芯粒，按需求利用2D、3D封裝做拼搭組合，做到“即插即用”。
受摩爾定律的物理極限限制，傳統(tǒng)SoC技術(shù)在突破更小尺寸的先進(jìn)制程的迭代道路上成本高、良率低。
同時(shí)SoC芯片在近幾年的發(fā)展中，除與AI計(jì)算功能相關(guān)的IP外，其他部分規(guī)格變化緩慢，大模型的出現(xiàn)更是顯著拉大了這一差距。若沿著SoC路線，更新迭代流片成本過(guò)高。
在此前提下，Chiplet因?yàn)槟軌蛲黄茊晤w芯片的面積制約、模塊化后又通過(guò)先進(jìn)封裝可以實(shí)現(xiàn)異構(gòu)集成，是成本更低的解決方案。
此外，大模型推理對(duì)于邊緣算力的需求也是未來(lái)的另一大趨勢(shì)。
方紹峽認(rèn)為，與云計(jì)算的數(shù)據(jù)中心架構(gòu)相比，大模型在邊緣端的智能計(jì)算是在一個(gè)已經(jīng)訓(xùn)練好、有基本智能水平的模型基礎(chǔ)上。當(dāng)邊緣端具備多模態(tài)大模型的離線學(xué)習(xí)進(jìn)化能力時(shí)，本地模型將變成私人定制化的東西，數(shù)據(jù)也無(wú)需再往云端上傳。這部分推理與訓(xùn)練微調(diào)過(guò)程主要依賴(lài)邊緣多模態(tài)大模型AI算力。
在這種前提下，同“一卡難求”的英偉達(dá)GPU提供給的算力相比，引入第三方算力自然而然地成了一種降成本、提效率的可行選擇。
目前，原粒半導(dǎo)體當(dāng)前思考的商業(yè)模式主要是作為AI Chiplet產(chǎn)品的上游供應(yīng)商，向下游的SoC廠商及系統(tǒng)廠商提供標(biāo)準(zhǔn)化的多模態(tài)大模型AI 算力Chiplet產(chǎn)品。
上下游產(chǎn)業(yè)鏈上的“SoC主控+AI Chiplet”組合可有效復(fù)用芯片主控，顯著降低成本，快速滿(mǎn)足各類(lèi)規(guī)格需求，同時(shí)也是Chiplet產(chǎn)業(yè)化的機(jī)遇，預(yù)計(jì)也會(huì)是公司未來(lái)主要的營(yíng)收渠道。
原粒半導(dǎo)體自身定位于AI算力基礎(chǔ)設(shè)施供應(yīng)商。Chiplet目前還是新鮮事物。因此需要芯粒廠商積極適配SoC廠商及系統(tǒng)廠商需求，多模態(tài)AI算力Chiplet也將給AI算力市場(chǎng)帶來(lái)全新可能。
原粒半導(dǎo)體近期宣布已經(jīng)完成數(shù)千萬(wàn)元人民幣種子輪融資，本輪融資由英諾天使基金領(lǐng)投，中關(guān)村發(fā)展集團(tuán)、清科創(chuàng)投、水木清華校友種子基金、中科創(chuàng)星等多家機(jī)構(gòu)跟投。本輪融資將用于公司核心團(tuán)隊(duì)組建以及創(chuàng)新技術(shù)研發(fā)。
關(guān)鍵詞：
相關(guān)新聞
-
視訊！濱州高新公安開(kāi)展“護(hù)航青春 拒絕毒品”“6.26”國(guó)際禁毒日主題宣傳活動(dòng)
-
天天頭條：123米超長(zhǎng)風(fēng)機(jī)葉片在152米高空“穿針引線” 順利完成對(duì)接
今天早上七點(diǎn)，由我國(guó)自主研發(fā)的全球首臺(tái)16兆瓦風(fēng)機(jī)首支葉片開(kāi)始起吊。
06月27日 13:50
-
2023吉網(wǎng)高考服務(wù)大寶典 志愿填報(bào)頂級(jí)專(zhuān)家指點(diǎn)迷津｜ 沖洽穩(wěn)保、生涯規(guī)劃、位次法結(jié)合線差法……這份志愿填報(bào)秘籍請(qǐng)收好-環(huán)球快播報(bào)
2023年高考志愿填報(bào)工作將展開(kāi)，如何填報(bào)才合理?怎樣才能選擇適合自己
06月27日 13:49
-
納微科技： 您在5月初曾詢(xún)問(wèn)該問(wèn)題，請(qǐng)查閱公司的回復(fù)內(nèi)容
納微科技(688690)06月26日在投資者關(guān)系平臺(tái)上答復(fù)了投資者關(guān)心的問(wèn)題。
06月27日 13:45
-
涼州區(qū)康寧鎮(zhèn)全力推進(jìn)生態(tài)及地質(zhì)災(zāi)害避險(xiǎn)搬遷項(xiàng)目 當(dāng)前觀點(diǎn)
每日甘肅網(wǎng)訊（新甘肅·每日甘肅網(wǎng)通訊員張洋銘靳濤）自實(shí)施生態(tài)及地質(zhì)
06月27日 13:37
-
閱見(jiàn) | 科普繪本《跟著節(jié)氣小步走》：新視角感悟中國(guó)傳統(tǒng)文化之美
“春雨驚春清谷天，夏滿(mǎn)芒夏暑相連，秋處露秋寒霜降，冬雪雪冬小大寒”
06月27日 13:44
-
國(guó)家能源集團(tuán)寧煤洗選中心：強(qiáng)化預(yù)警管理? 保證安全發(fā)展
國(guó)家能源集團(tuán)寧煤洗選中心：強(qiáng)化預(yù)警管理保證安全發(fā)展 國(guó)家能源
06月27日 13:47
-
當(dāng)前要聞：老人買(mǎi)菜忘記回家路獨(dú)自在小區(qū)坐了好幾個(gè)小時(shí)
老人買(mǎi)菜忘記回家路獨(dú)自在小區(qū)坐了好幾個(gè)小時(shí),主流媒體,山西門(mén)戶(hù)。山西
06月27日 13:35
-
全球快訊:安徽廬江縣郭河鎮(zhèn)：整治“一店多招” 提升集鎮(zhèn)“顏值”
為有力推進(jìn)創(chuàng)城工作，進(jìn)一步提升市容市貌，近日來(lái)，安徽省廬江縣郭
06月27日 13:32
-
天天速訊：2023四川對(duì)口招生志愿填報(bào)輔助系統(tǒng)入口+操作指南
2023四川對(duì)口招生志愿填報(bào)輔助系統(tǒng)該系統(tǒng)收錄了近年各院校錄取調(diào)檔線和
06月27日 13:53
-
焦點(diǎn)快報(bào)!高溫黃色預(yù)警繼續(xù)！京津冀局部地區(qū)今日最高溫或達(dá)40℃以上
高溫黃色預(yù)警繼續(xù)！京津冀局部地區(qū)今日最高溫或達(dá)40℃以上
06月27日 13:47
-
用科技手段激活古籍瑰寶（講述·弘揚(yáng)科學(xué)家精神）
浙江大學(xué)徐永明團(tuán)隊(duì)打造古籍智慧數(shù)據(jù)共享平臺(tái)——用科技手段激活古籍瑰
06月27日 13:45
-
天天訊息：呵護(hù)求學(xué)就業(yè)夢(mèng)想 以“興才”助力“成才”
2023年高考成績(jī)陸續(xù)公布，1200萬(wàn)考生正進(jìn)入激動(dòng)人心的查分時(shí)刻，學(xué)子們
06月27日 13:36
-
國(guó)際籃聯(lián)發(fā)文：中國(guó)女籃首戰(zhàn)TOP4得分手中誰(shuí)的表現(xiàn)令你驚喜？
韓旭13中7砍下17分10板2助2帽直播吧6月26日訊2023年女籃亞洲杯小組賽首
06月27日 13:40
-
橙仕汽車(chē)榮獲“中國(guó)智能網(wǎng)聯(lián)汽車(chē)優(yōu)秀企業(yè)”！！
6月19日-20日，由南京市工業(yè)和信息化局、南京市秦淮區(qū)人民政府、中國(guó)汽
06月27日 13:32
-
邀請(qǐng)函|航空航天先進(jìn)制造技術(shù)研修班
江西航空產(chǎn)業(yè)歷史悠久、底蘊(yùn)深厚，推動(dòng)航空產(chǎn)業(yè)發(fā)展具有得天獨(dú)厚的基礎(chǔ)
06月27日 13:51
-
焦點(diǎn)速讀：全省首個(gè)輔助終端雙色球一等獎(jiǎng)花落湘潭
全省首個(gè)輔助終端雙色球一等獎(jiǎng)花落湘潭
06月27日 13:39
-
每日精選：菲爾·斯賓塞：未確定《上古卷軸6》是否會(huì)成為獨(dú)占游戲
在最近的聯(lián)邦貿(mào)易委員會(huì)聽(tīng)證會(huì)上，Xbox負(fù)責(zé)人菲爾·斯賓塞表示，目前尚
06月27日 13:35
-
“美好2小時(shí) 助力未來(lái)星”太平人壽煙臺(tái)中心支公司舉辦少兒腦數(shù)據(jù)云檢測(cè)活動(dòng)-每日關(guān)注
秉承“以客戶(hù)為中心”的服務(wù)理念，太平人壽煙臺(tái)中心支公司聚焦客戶(hù)服務(wù)
06月27日 13:29
-
睡覺(jué)時(shí)突然腿抽筋，就是缺鈣？錯(cuò)！或與3個(gè)疾病有關(guān)，千萬(wàn)別忽視
生活中不少人都出現(xiàn)過(guò)抽筋癥狀，特別是在睡覺(jué)過(guò)程中發(fā)生，腿部肌肉痙攣
06月27日 13:41
-
柞蠶蛹好吃還是桑蠶蛹好吃?_當(dāng)前速訊
口感不同，做好了都好吃1、柞蠶蛹口感：比較粗糙。2、桑蠶蛹口感：稍微
06月27日 13:30
-
全球頭條：《牧場(chǎng)物語(yǔ)》6月29日登陸XGP
IT之家6月26日消息，Xbox官方發(fā)文，《牧場(chǎng)物語(yǔ)：重聚礦石鎮(zhèn)》將于6月29
06月27日 13:39
-
環(huán)球新消息丨夏季電力保供再添“生力軍” 全球最大“水光互補(bǔ)”電站投產(chǎn)發(fā)電
夏季電力保供再添“生力軍”全球最大“水光互補(bǔ)”電站投產(chǎn)發(fā)電---雅礱
06月27日 13:46
-
愛(ài)旭股份現(xiàn)2筆大宗交易 合計(jì)成交135.00萬(wàn)股
愛(ài)旭股份6月26日大宗交易平臺(tái)共發(fā)生2筆成交，合計(jì)成交量135 00萬(wàn)股，成
06月27日 13:28
-
京東618超300萬(wàn)枝云南鮮花被全國(guó)用戶(hù)買(mǎi)走 供應(yīng)鏈助推區(qū)域產(chǎn)業(yè)帶振興-環(huán)球快看點(diǎn)
京東618超300萬(wàn)枝云南鮮花被全國(guó)用戶(hù)買(mǎi)走供應(yīng)鏈助推區(qū)域產(chǎn)業(yè)帶振興
06月27日 13:28
-
二胎已開(kāi)放，很多人還是選擇生一個(gè)，獨(dú)生子女究竟有何難處和好處
獨(dú)生子女最大的利大概就是能享受到家庭里面最好的資源，首先就是物質(zhì)的
06月27日 13:33
-
明珠債火熱，今年以來(lái)已發(fā)行逾80只
今年以來(lái)，自由貿(mào)易試驗(yàn)區(qū)離岸債券(“明珠債”)發(fā)行火熱，多地區(qū)首單明
06月27日 13:25
-
6月27日上午10時(shí) 湘江株洲站預(yù)計(jì)洪峰過(guò)境_關(guān)注
株洲市水文局最新的《水情分析與預(yù)測(cè)》顯示，根據(jù)湘江上游實(shí)時(shí)雨水情及
06月27日 13:41
-
和順科技06月26日下跌，股價(jià)創(chuàng)歷史新低 全球焦點(diǎn)
06月26日，和順科技股價(jià)繼續(xù)下跌。截至今日收盤(pán)，和順科技下跌0 85%，
06月27日 13:38
-
#理想汽車(chē)在宜賓成立能源服務(wù)公司# 經(jīng)營(yíng)范圍含AI軟件開(kāi)發(fā)
天眼查App顯示，近日，宜賓車(chē)和家能源服務(wù)有限公司成立，法定代表人為
06月27日 13:37
國(guó)家能源集團(tuán)寧煤洗選中心：強(qiáng)化預(yù)警管理? 保證安全發(fā)展
國(guó)家能源集團(tuán)寧煤洗選中心：強(qiáng)化預(yù)警管理保證安全......更多>
【詩(shī)詞鑒賞】有蟬鳴才是夏天，在古詩(shī)詞里聽(tīng)蟬，聆聽(tīng)夏日里的蟬鳴！-世界滾動(dòng)
有蟬鳴才是夏天，在古詩(shī)詞里聞蟬，聆聽(tīng)夏日里的蟬鳴！......更多>
天天微資訊！萬(wàn)達(dá)信息（300168）6月26日主力資金凈賣(mài)出1.07億元
截至2023年6月26日收盤(pán)，萬(wàn)達(dá)信息(300168)報(bào)收于12 4......更多>
焦點(diǎn)速訊：光刻膠龍頭 JSR 宣布接受日本官民基金 JIC 的一萬(wàn)億日元收購(gòu)邀約
IT之家6月26日消息，日本半導(dǎo)體材料巨頭JSR今日宣布，... 更多>
焦點(diǎn)速訊：光刻膠龍頭 JSR 宣布接受日本官民基金 JIC 的一萬(wàn)億日元收購(gòu)邀約
IT之家6月26日消息，日本半導(dǎo)體材料巨頭JSR今日宣布，... 更多>
暴雪確認(rèn)戰(zhàn)網(wǎng)遭DDoS攻擊，導(dǎo)致《暗黑 4》等游戲沒(méi)法玩
DoNews6月26日消息，暴雪娛樂(lè)的Battle net在線服務(wù)25... 更多>
陳夢(mèng)4-0橫掃朱雨玲！末盤(pán)15-13堪稱(chēng)經(jīng)典，朱雨玲一弱點(diǎn)遭到針對(duì)
北京時(shí)間2020年2月2日，德國(guó)公開(kāi)賽女單半決賽陳夢(mèng)對(duì)陣... 更多>
天天微資訊！《暗黑破壞神4》強(qiáng)力裝備物品強(qiáng)度數(shù)值有多少？
在《暗黑破壞神4》中，裝備的強(qiáng)度數(shù)值代表著其基礎(chǔ)屬... 更多>
100所高校預(yù)估分?jǐn)?shù)線公布！速點(diǎn)！|天天短訊
100所高校預(yù)估分?jǐn)?shù)線公布！速點(diǎn)！---100所高校預(yù)估分... 更多>
世界觀速訊丨食品安全作文600字初中 食品安全作文600字
1、食品安全很重要現(xiàn)在社會(huì)經(jīng)濟(jì)發(fā)展了，人們的生活水... 更多>
溪邊那株無(wú)花果…… 每日消息
小溪繞我的家鄉(xiāng)梅村而過(guò)，村中不少人家的房子，也都是... 更多>
還路于民保暢通！欖核鎮(zhèn)開(kāi)展車(chē)輛整治行動(dòng) 觀速訊
為響應(yīng)群眾需求、解決群眾“急難愁盼”煩心事，推進(jìn)文... 更多>
聚“荔”前行，同心致遠(yuǎn)！東莞世界莞商聯(lián)合會(huì)舉辦系列會(huì)員活動(dòng)|訊息
6月26日下午，聚“荔”前行?同心致遠(yuǎn)——東莞世界莞... 更多>
白云丨同德街開(kāi)展“6?26國(guó)際禁毒日”宣傳教育活動(dòng)-焦點(diǎn)熱聞
信息時(shí)報(bào)訊（記者喻先晶通訊員羅磊勛）為深入推進(jìn)禁毒... 更多>
天天熱消息：奧尼爾：不排詹姆斯科比前
NBA之中關(guān)于排名的話題總是格外的引人關(guān)注，畢竟大家... 更多>
國(guó)家推動(dòng)礦山各類(lèi)數(shù)據(jù)互聯(lián)互通 礦山智能化市場(chǎng)未來(lái)潛能巨大 全球熱資訊
①?lài)?guó)家礦山安全監(jiān)察局發(fā)布《智能化礦山數(shù)據(jù)融合共享規(guī)... 更多>
營(yíng)業(yè)執(zhí)照公示信息