乐鱼体育-联想发布端侧AI新技术：PC本地推理能力直逼云端大模型

2025-05-29

　　【LEYU科技消息】5月7日，联想创新科技大会正式召开，大会以“让AI成为创新生产力”为主题，围绕混合式人工智能，从个人到企业，全方位呈现了联想的创新技术成果。

联想发布端侧AI新技术：PC本地推理能力直逼云端大模型

　　会上，联想首次提出“超级智能体”概念，并明确其三大核心功能，即感知与交互、认知与决策、自主与演进。同时，联想正式发布“联想天禧”个人超级智能体和“联想乐享”企业超级智能体。

　　值得关注的是，联想展示了在端侧算力领域的最新突破——“联想推理加速引擎”。该引擎由联想、清华大学及无问芯穹联合研发，是专为高效AI PC推理打造的软硬件协同优化平台。通过它，普通PC的本地推理能力可媲美OpenAI去年发布的o1-mini云端模型。

　　“联想推理加速引擎”运用高性能并行解码、算子融合优化及异构计算技术，在多种应用场景下大幅提升推理速度，同时显著降低功耗和内存占用。与大模型推理芯片结合后，硬件加速与软件优化无缝协作，性能提升形成叠加效应。

联想发布端侧AI新技术：PC本地推理能力直逼云端大模型

　　为直观展现该引擎实力，联想创新科技大会现场进行了“竞速赛”。三台配置相同的AI PC同时解答2024年高考数学压轴题，初代大模型耗时27秒且答案0分，二代大模型耗时26秒获满分，而搭载“联想推理加速引擎”的二代大模型仅耗时13秒便获满分。这表明，模型能力提升与“联想推理加速引擎”的算力优化，使设备预填充更快、解码速度更高、推理时间更短，内存占用和能耗更低，AI能力大幅提升。

-乐鱼体育

热门资讯

企业数字化智能体：打造企业数智化AI底座

2024-04-02

TitanIDE（社区版）重磅免费开放使用！

2023-09-26

CloudOS：落地平台工程，实现真正的DevOps

2023-08-16

热门标签

企业数字化智能体 Agent AI 智能体企业智能体数智化AI底座 TitanIDE（社区版）免费在线代码编辑器 CloudIDE免费 TitanIDE免费云端IDE 平台工程 DevOps CloudOS 云原生开发平台落地平台工程云原生物联网开发平台云原生物联网物联网容器云 cloudos 微服务容器编排边端交付 TITANIDE 在线IDE 云原生开发远程研发 IDE TitanIDE 云端开发环境模板 K8s 不懂K8s也能用K8s