硅谷：設計師利用生成式AI 輔助芯片設計

時間：2023-11-01 15:32:29

關鍵字：生成式AI 芯片設計 GPU

手機看文章

掃描二維碼
隨時隨地手機看文章

[導讀]像半導體設計這樣如此具有挑戰(zhàn)性的工作并不多見。在顯微鏡下，NVIDIA H100 Tensor Core GPU（上圖）這樣最先進的芯片看起來就像一個精心規(guī)劃的大都市，由數(shù)百億個晶體管組成，把它們連接起來的線比人的頭發(fā)絲還細 1 萬倍。

芯片工程師展示了一個高度專業(yè)化的行業(yè)如何使用NVIDIA NeMo 來定制大語言模型，以獲得競爭優(yōu)勢。

10 月31 日，NVIDIA發(fā)布的一篇研究論文描述了生成式AI 如何助力芯片設計，后者是當今最復雜的工程工作之一。

這項工作展示了高度專業(yè)化領域的公司如何利用內(nèi)部數(shù)據(jù)訓練大語言模型，從而開發(fā)提高生產(chǎn)力的AI 助手。

像半導體設計這樣如此具有挑戰(zhàn)性的工作并不多見。在顯微鏡下，NVIDIA H100 Tensor Core GPU（上圖）這樣最先進的芯片看起來就像一個精心規(guī)劃的大都市，由數(shù)百億個晶體管組成，把它們連接起來的線比人的頭發(fā)絲還細1 萬倍。

多個工程團隊進行協(xié)作，需要長達兩年的時間才能構建出這樣一個數(shù)字化超級大都市。

一些小組定義芯片的整體架構，一些小組負責各種超小型電路的設計與布局，還有一些小組負責測試工作。每項工作都需要采取專門的方法、軟件程序和計算機語言。

大語言模型廣闊的前景

該論文的主要作者、NVIDIA 研究總監(jiān)Mark Ren 表示：“我相信，隨著時間的推移，大語言模型將全面助力所有流程?！?

在同日舉行的國際計算機輔助設計會議上，NVIDIA 首席科學家Bill Dally 發(fā)表主題演講并公布了這篇論文。這個年度盛會每年都會吸引數(shù)百名電子設計自動化（EDA）領域的工程師參加。

此次會議在舊金山舉行。Dally 在會上表示：“這標志著在將大語言模型用于復雜的半導體設計方面邁出了重要一步。這項工作表明，即使高度專業(yè)化的領域也可以利用內(nèi)部數(shù)據(jù)來訓練極具價值的生成式AI 模型?！?

ChipNeMo 浮出水面

這篇論文詳細介紹了NVIDIA 工程師如何創(chuàng)建名為ChipNeMo 的定制大語言模型，供內(nèi)部使用。該模型使用公司內(nèi)部數(shù)據(jù)進行訓練并生成和優(yōu)化軟件，以更好地協(xié)助人類設計師。

Ren 在EDA 領域從業(yè)超過20 多年，他表示，從長遠來看，工程師們希望生成式AI 能夠用于芯片設計的各個階段，從而大幅提升整體生產(chǎn)力。

在針對可能的使用場景對NVIDIA 工程師進行調(diào)研之后，研究團隊一開始選擇了三個場景：聊天機器人、代碼生成器和分析工具。

初始用例

維護已知bug 的更新描述需要耗費大量時間，而上述分析工具中的后者能夠實現(xiàn)此類任務的自動化，并已得到廣泛的采用。

一個聊天機器人原型可以回答有關GPU 架構和設計的問題，并且已經(jīng)幫助許多工程師在早期測試中快速找到技術文檔。

代碼生成器將幫助設計者編寫芯片設計軟件。

一個正在開發(fā)中的代碼生成器（如上圖所演示）已經(jīng)用兩種芯片設計師專用語言創(chuàng)建了大約10-20 行軟件的片段。它將與現(xiàn)有工具集成，為工程師們提供一個方便的助手來進行設計。

使用NVIDIA NeMo 定制AI 模型

這篇論文主要關注該團隊收集設計數(shù)據(jù)并使用這些數(shù)據(jù)創(chuàng)建專門的生成式AI 模型，這個過程可以移植到任何行業(yè)。

作為起點，該團隊選擇了一個基礎模型，并使用NVIDIA NeMo 對其進行了定制。作為NVIDIA AI Enterprise 軟件平臺的一部分，NVIDIA NeMo 是一個用于構建、定制和部署生成式AI 模型的框架。定的NeMo 模型具有430 億個參數(shù)，這衡量了它對模式的理解力。它使用超過一萬億個文本和軟件中的token、單詞和符號進行了訓練。