业界首个面向半导体行业的专用大语言模型SemiKong发布

IT之家 12 月 29 日消息，由 Aitomatic 公司及其“AI 联盟”合作伙伴共同开发的 SemiKong 已正式发布，这款大型语言模型（LLM）是全球首个专为满足半导体行业需求而打造的 AI 工具。SemiKong 旨在融入半导体设计公司的工作流程，充当该领域的“数字专家”，从而显著加快新芯片的上市速度。

图源：台积电

据 Aitomatic 公司介绍，半导体行业正面临着专业知识严重流失的困境。随着越来越多的资深专家退休，他们丰富的经验和知识也随之流失，导致许多公司面临严重的人才缺口。针对这一问题，专门为半导体行业需求训练的 LLM 被认为是帮助新工程师快速获取必要信息、保持竞争力的有效途径。

SemiKong 基于 Meta 的 Llama 3.1 LLM 平台构建，近期发布了其 700 亿参数的版本。Aitomatic 与包括 Meta、AMD 和 IBM 在内的新成立的 AI 联盟的其他合作伙伴共同开发了这款 LLM，并由 Aitomatic 的 DXA 系统作为 SemiKong 部署的基石。

DXA，即 Domain-Expert Agents（领域专家代理），是 Aitomatic 将较小的 LLM 代理与 SemiKong 70B 中央“蜂巢”连接的方式。通过对客户公司的技术库或专家工程师的经验进行训练，DXA 可以根据该公司的特定需求进行定制。经过训练的 DXA 随后由核心 SemiKong 部署使用，以自动化开发任务或提供与工程师和工人进行类似聊天机器人的通信。

凭借其目前的 700 亿参数版本以及基于 SemiKong 的较小 DXA 代理，该 LLM 在半导体领域的实用性已远远超过了通用 AI 模型。IT之家注意到，SemiKong 宣称可将新芯片设计的上市时间缩短 20-30%，并将首次投产成功率提高 20%。此外，其还声称可以将新工程师的学习曲线缩短高达 50%。

SemiKong 是新兴的 AI 联盟内部合作的首批成果之一，该联盟于 2023 年 12 月宣布成立。作为众多旨在对抗英伟达在科技行业的主导地位的企业联盟之一，AI 联盟成员包括 IBM 和 AMD 等大型企业，以及耶鲁大学和东京大学等研究机构。