免费脚本辅助，英伟达发布大语言模型，专攻辅助芯片设计

免费脚本辅助

一、自动回复机器人

自动回复机器人是一种基于脚本的智能客服系统，可以帮助您自动回复客户的消息。通过设置关键词和回复内容，您可以轻松地实现与客户的即时沟通。这种工具适用于各种场景，如在线客服、社交媒体互动等。使用自动回复机器人，您可以节省大量的时间和精力，专注于处理更重要的事务。

二、定时任务管理器

定时任务管理器是一款可以帮助您自动化执行任务的工具。通过编写脚本，您可以设置定时任务，让计算机在指定的时间自动完成特定的操作。例如，您可以设置每天早上8点自动打开电子邮件客户端，或者每天晚上10点自动备份文件。这样，您就无需亲自去执行这些重复性的工作，从而提高工作效率。

三、网络爬虫

网络爬虫是一种可以自动从互联网上抓取信息的工具。通过编写脚本，您可以让网络爬虫按照您的要求自动搜索和下载网页内容。这种工具在很多领域都有广泛的应用，如数据挖掘、舆情监控等。使用网络爬虫，您可以轻松地获取大量的信息，为您的工作和生活提供便利。

免费脚本辅助工具可以帮助我们自动化完成一些重复性的工作，从而提高工作效率。本文介绍了三种免费脚本辅助工具：自动回复机器人、定时任务管理器和网络爬虫。希望这些工具能够为您的生活带来更多的便捷。

在接下来的章节中，我们将深入探讨这些免费脚本辅助工具的具体应用场景和使用方法，帮助您更好地利用这些工具，提升工作效率。

二、免费脚本辅助工具的应用场景和使用方法

自动回复机器人

自动回复机器人广泛应用于在线客服、社交媒体互动等领域。以下是其具体的应用场景和使用方法：

1.在线客服

在电商、金融等行业，客户咨询量大，客服人员需要及时回应客户的需求。通过设置自动回复机器人，您可以实现与客户的即时沟通，提高客户满意度。具体方法如下：

-设置关键词：根据客户的常见问题，设置相应的关键词。

-设定回复内容：为每个关键词编写合适的回复内容。

-开启自动回复功能：启用自动回复机器人，让它在收到客户消息时自动回复。

2.社交媒体互动

在社交媒体平台上，与粉丝互动是维护品牌形象的重要手段。通过设置自动回复机器人，您可以实现与粉丝的即时互动，增强粉丝黏性。具体方法如下：

-设置关键词：根据粉丝的提问和评论，设置相应的关键词。

-设定回复内容：为每个关键词编写合适的回复内容。

英伟达发布大语言模型，专攻辅助芯片设计

金磊发自凹非寺

量子位|公众号QbitAI

英伟达推出了自家最新430亿参数大语言模型——ChipNeMo。

对于它的用途，英伟达在官方披露消息中也是非常的明确，剑指AI芯片设计。

具体而言，ChipNeMo可以帮助工作人员完成与芯片设计相关的任务——

包括回答有关芯片设计的一般问题、总结bug文档，以及为EDA工具编写脚本等等。

英伟达首席科学家BillDally对此表示：

我们的目标是让英伟达的设计师更有效率。

即使我们的生产率（因ChipNeMo）只提高了几个百分点，这也是值得的。

△英伟达首席科学家BillDally

以英伟达H100TensorCoreGPU为例，它由数百亿个晶体管组成，在显微镜下看着就像是一个精心规划建设的城市一般。

这些晶体管连接在比人类头发丝还细10000倍的“街道”上，需要多个工程团队协作两年多的时间来完成，其间繁琐且庞大的工作量，可见一斑。

因此，在英伟达看来，随着ChipNeMo这样大语言模型的问世，所有的工作流程都将在效率上得以提升。

用BillDally的话来说：

这项工作标志着将大语言模型应用于半导体设计的复杂工作的重要第一步。

它展示了即使是高度专业化的领域，也可以使用其内部数据来训练有用的生成式AI模型。

英伟达设计芯片有了新帮手

总体来看，ChipNeMo能够帮助英伟达内部的芯片设计师们完成三大方面的工作。

首先就是问答。

ChipNeMo包含一个原型聊天机器人，它可以回答有关GPU架构和设计的问题，帮助许多工程师在早期测试中快速找到技术文档。

例如，你可以向它提问：

为什么我们要添加重新计时阶段（retimingstages）？

ChipNeMo就会基于这个问题，给出精准的答案：

重新计时阶段的增加是为了改善设计的时序，并考虑到芯片不同部分之间的物理距离。

通过增加重定时级，我们可以减少信号在芯片不同部分之间传输所需的时间，这有助于提高设计的整体性能。

此外，重定时级还可以帮助减少信号上可能出现的噪声和干扰的数量，从而进一步提高设计的性能。

其次是DEA脚本生成。

例如只需向ChipNeMo用自然语言提出想要生成代码的要求即可：

在TOOL1中编写代码，输出给定矩形（0，0，100，100）中触发器单元的数量。

仅需静候片刻，带着注释的代码片段“啪的一下”就生成了。

据了解，英伟达目前还在对代码生成器（如下图所示）进行开发，它将来会和现有的工具做一个集成，好让工程师用起来更加方便。

最后是Bug总结和分析。

芯片设计人员只需要向ChipNeMo描述一下情况即可，例如prompt的内容可能包括Bug的ID、Synopsis、Module和Description等等。

而后ChipNeMo就会根据prompt，给出做好的技术总结和管理总结等。

ChipNeMo是怎么炼成的？

首先在数据集方面，英伟达主要采用的Bug总结、设计源（DesignSource）、文档以及维基百科、GitHub等硬件相关的代码和自然语言文本。

再经过一个集中的数据采集过程来收集，最终在清洗和过滤之后，形成了241亿个token。

其次在算法、架构设计方面，英伟达并没有直接拿目前已商用、开源的大语言模型来做部署。

而是主要采用了这些领域自适应（Domain-Adapted）技术，包括自定义标记器、领域自适应持续预训练、带有领域特定指令的监督微调（SFT），以及领域自适应检索模型。

在此方法之下，便提高了大语言模型在工程助理聊天机器人、EDA脚本生成和Bug摘要和分析等三个应用中的性能。

结果显示，这些领域自适应技术使得大语言模型的性能超过通用基础模型；同时模型大小最多可减少5倍，且保持相似或更好的性能。

不过论文作者也坦言：

虽然目前的结果已经取得了一些进展，但与理想结果之间仍存在改进空间。进一步研究领域适应的LLM方法将有助于缩小这一差距。

参考链接：

—完—

量子位QbitAI·头条号签约