證明生成的過程中,約有60%的時(shí)間花在MSM上,其余時(shí)間由NTT/FTT主導(dǎo)。MSM和NTT都存在性能挑戰(zhàn),通常的解決辦法:
●MSM可以在多線程上執(zhí)行,從而支持并行處理。然而,當(dāng)處理大型數(shù)據(jù)向量時(shí),例如6700萬個(gè)參數(shù),乘法運(yùn)算可能仍然很慢,并且需要大量的內(nèi)存資源。此外,MSM存在可擴(kuò)展性方面的挑戰(zhàn),即使在廣泛并行化的情況下也可能保持緩慢。
●在算法過程中頻繁的數(shù)據(jù)混洗使得NTT難以在計(jì)算集群中分布,無法并行計(jì)算,并且由于需要從大型數(shù)據(jù)集中加載和卸載數(shù)據(jù),在硬件上運(yùn)行時(shí)需要大量帶寬。即使硬件操作很快,這可能也會導(dǎo)致速度變慢。例如,如果硬件芯片的內(nèi)存為16GB或更少,那么在100GB的數(shù)據(jù)集上運(yùn)行NTT將需要通過網(wǎng)絡(luò)加載和卸載數(shù)據(jù),這可能會大大降低操作速度。
按照官方的設(shè)想和規(guī)劃未來在Aleo上每天的交易量都是上億美金的規(guī)模,在這樣大數(shù)據(jù)量的要求下,每時(shí)每刻都有證明需要被委托出去在極短的時(shí)間內(nèi)完成證明的生產(chǎn),不可能指望顯卡能解決這個(gè)問題。就像AI大模型訓(xùn)練一樣,早期數(shù)據(jù)量和參數(shù)少的情況下可以用消費(fèi)級顯卡,但是現(xiàn)在更多的都是為AI訓(xùn)練設(shè)計(jì)的專用芯片和機(jī)器。
為了打破英偉達(dá)一家獨(dú)大的局面,前任全球芯片老大英特爾和多年老對手AMD對標(biāo)CUDA都分別推出了OneAPI和ROCm,Linux基金會更是聯(lián)合英特爾、谷歌、高通、ARM、三星等公司聯(lián)合成立了民間號稱“反CUDA聯(lián)盟”的UXL基金會,以開發(fā)全新的開源軟件套件,讓AI開發(fā)者能夠在基金會成員的任何芯片上進(jìn)行編程,試圖讓其取代CUDA,成為AI開發(fā)者的開發(fā)平臺。