perfxlab

關(guān)注

文章：67 被閱讀：10.2w 粉絲數(shù)：2 關(guān)注數(shù)：0 點(diǎn)贊數(shù)：0

RISC-V跑大模型（二）：LLaMA零基礎(chǔ)移植教程

這是RISC-V跑大模型系列的第二篇文章，主要教大家如何將LLaMA移植到RISC-V環(huán)境里。

perfxlab 發(fā)表于 07-10 10:10 ?1932次閱讀

在我寫本文時(shí)，剛好是WAIC 2023舉行的時(shí)候，感覺無(wú)處不是大模型。

perfxlab 發(fā)表于 07-10 10:07 ?908次閱讀

有朋友來(lái)信說(shuō)： 1. “除了以NVIDIA（英偉達(dá)）為例，能不能談點(diǎn)國(guó)產(chǎn)GPU優(yōu)化的經(jīng)驗(yàn)分享？” 2....

perfxlab 發(fā)表于 05-25 09:08 ?1574次閱讀

主要是介紹如何對(duì)spmv算法進(jìn)行優(yōu)化。Spmv，即稀疏化的矩陣向量乘操作，關(guān)于稠密的矩陣向量乘操....

perfxlab 發(fā)表于 05-25 09:05 ?2181次閱讀

本篇文章是GEMM優(yōu)化的第一個(gè)部分，在這篇文章中，只說(shuō)優(yōu)化思路和分析。

perfxlab 發(fā)表于 05-25 09:03 ?5137次閱讀

這次講到并行算法設(shè)計(jì)，什么叫并行算法設(shè)計(jì)。每個(gè)人的理解都不太一樣，在GPU中，我的理解就是：設(shè)計(jì)bl....

perfxlab 發(fā)表于 05-25 09:03 ?3815次閱讀

記得在2020年某次采訪中我曾說(shuō)過(guò)：RISC-V要能成為與x86、ARM并列的三大指令集，就必須在云....

perfxlab 發(fā)表于 03-14 14:55 ?3422次閱讀