“80块打造个人语音助手”、“150块DIY豆包智能机器人”……随着DeepSeek的爆火,个人用户部署AI大模型一夜间“出圈”。
科技界围绕AI降本所做的工作并非一夕之功。有业内人士表示,DeepSeek在算法层面的推理成本优化,为国产算力芯片和计算集群网络等硬件端的发展争取了更多空间,而软硬件成本的减少,也将相应为国内AI应用带来机会,由此形成产业发展正向循环。
越来越多个人开发者低成本的AI模型部署实践,让公众更加清醒地认识到,AI普惠时代已来,端侧AI落地箭在弦上。PC产品遭认为是端侧AI模型落地的首站。而受访的供应链人士认为,当前更大的想象空间还在智能眼镜、AI玩具等智能体等应用中,DeepSeek带来的轻量化模型,将为智能终端行业带来积极影响。
个人用户部署大模型火爆 40元开发板月售万件
“80块买一块开发板,按照教程进行硬件连接和固件烧录,就能接入DeepSeek等大模型,打造个人语音助手系统。”在技术社群中,有开发者分享了部署AI的技术帖。
不仅如此,《科创板日报》记者关注到,花150元还能自行搭建一个豆包智能机器人,358元能搭建接入大模型且具备手势识别、触摸交互的机器人……可以说,DeepSeek近期的持续爆火,使得AI大模型部署的知识交流同样火热,也让低成本搭建AI智能工具进入更广泛的公众视野。
“万能的淘宝”和技术开源贡献,让这一切加速走进现实。
据了解,以上方案均基于乐鑫科技的ESP系列芯片。在淘宝搜索ESP32关键词,可以看到包括乐鑫官方企业店在内,有多个商家售卖开发板或套件,不同套件价格低可至20元、配备屏幕及扬声器、麦克风的套件价格可高至340元。
《科创板日报》记者关注到,一套价格80元的聊天机器人ESP32-S3开发套件,全网销量已超1000件;价格40元的ESP32-S3开发板,则显示月售超1万件。
在评论区中,消费者以个人开发者居多。在购买商品后,商家会附送教学视频,同时还会为用户提供技术支持。
“一站式搞定,新手小白也可以操作”、“老板教我教到(晚上)12点半”、“老板晚上10点还在教我烧录”……多名买家如是反馈产品购买体验。
据乐鑫科技介绍,其ESP32-S3芯片硬件具备加速神经网络计算和信号处理等工作的向量指令,AI开发者们通过ESP-DSP和ESP-NN库使用这些向量指令,能够实现高性能的图像识别、语音唤醒和识别等应用。
有开发者称,ESP32-S3支持在本地离线运行一些AI模型,比如语音识别、人脸识别和移动检测。但大部分自然语言对话交互仍需要线上接入大语言模型。
除乐鑫科技外,恒玄科技、中科蓝讯、炬芯科技等公司的SoC芯片在终端AI部署中有所应用。
其中,恒玄科技应用于可穿戴设备中的BECO嵌入式AI协处理器,能够和主CPU核心配合工作,完成基于神经网络AI算法的音频处理,同时保持较低功耗水准。
炬芯科技则在其最新一代产品中整合了低功耗AI加速引擎,采用基于SRAM的存内计算技术,同时将产品逐步升级为CPU、DSP加NPU的三核异构计算架构,打造低功耗端侧AI算力。
产业链人士:看好DeepSeek对AI端侧的积极影响
DeepSeek的横空出世,为端侧AI落地应用进一步打开想象空间。
据了解,通过蒸馏,大模型推理能力可迁移至小参数模型,能够大幅提升AI部署的灵活性。据光大证券分析师刘凯在2月6日发布的研报称,蒸馏模型有1.5B、7B、8B、14B、32B、70B等多个版本,虽然蒸馏会损失部分能力,但更小的参数意味着更大的灵活性。第三方可以从DeepSeek-R1中蒸馏出更多版本的小参数模型并部署至手机、笔记本电脑、智能家居产品等各类终端产品中,预计将助力硬件销量提升、并涌现出更多基于AI服务的付费点。
端侧AI落地来势汹涌,其前景也得到了产业链人士的证实和看好。
加拿大总理特鲁多周五警告称,特朗普真的想要吞并加拿大,此前他并不是在开玩笑,因为他...
2 “80元部署个人语音助手”!DeepSeek开启AI普惠时代 端侧应用打开“80块打造个人语音助手”、“150块DIY豆包智能 机器人 ”……随着DeepSeek的爆火,个人用户部...
3 中信建投:市场迎来阶段性反弹 春季躁动行情值得期待中信建投 研报指出,节后市场出现反弹,各大指数均出现不同程度修复,其中以科技为主的小...
4 光大证券:AEC(有源铜缆)注入全新需求 铜连接持续景气2025年1月15日以来,高速铜缆连接概念持续火爆。Wind数据显示,截至2025年1月24日收盘,高速铜...
5 桂浩明:从战略投资角度看中长期资金入市1月底,中央六部门联合印发文件,公布了引导中长期资金入市的究竟政策。此举不仅化解了当...
6 又一外资唱多中国!美银:美股全球主导地位衰落 建议做多中国美股近两年来一直呈现梦幻般的涨势,但其强劲涨势目前已显著放缓,科技股引领大盘下跌目...
加拿大总理特鲁多周五警告称,特朗普真的想要吞并加拿大,此前他并不是在开玩笑,因为他...
2 “80元部署个人语音助手”!DeepSeek开启AI普惠时代 端侧应用打开“80块打造个人语音助手”、“150块DIY豆包智能 机器人 ”……随着DeepSeek的爆火,个人用户部...
3 中信建投:市场迎来阶段性反弹 春季躁动行情值得期待中信建投 研报指出,节后市场出现反弹,各大指数均出现不同程度修复,其中以科技为主的小...
4 光大证券:AEC(有源铜缆)注入全新需求 铜连接持续景气2025年1月15日以来,高速铜缆连接概念持续火爆。Wind数据显示,截至2025年1月24日收盘,高速铜...
5 桂浩明:从战略投资角度看中长期资金入市1月底,中央六部门联合印发文件,公布了引导中长期资金入市的究竟政策。此举不仅化解了当...
6 又一外资唱多中国!美银:美股全球主导地位衰落 建议做多中国美股近两年来一直呈现梦幻般的涨势,但其强劲涨势目前已显著放缓,科技股引领大盘下跌目...
7 “中国是我的第二个故乡” 黎巴嫩针灸师加米勒的中医文化情缘在黎巴嫩首都贝鲁特的萨米·苏尔哈大街上,有一家开设了近30年的中医诊所。诊所的主人加米...
8 (新春走基层)俄罗斯籍机长的“春节故事”:在工作与生活中中新网西安2月3日电 题:俄罗斯籍机长的“春节故事”:在工作与生活中感受中国年 中新网记...
9 (新春走基层)江苏常州“光采小镇”追光逐梦 未来更精彩中新网常州2月3日电 (唐娟 孙权)“我曾挂职过的金坛县,那里有一个直溪镇……”当代作家储...
10 湖北文旅消费持续升温 非遗活动年味十足中新网武汉2月3日电 (记者 梁婷)记者2日从湖北省文旅厅获悉,春节假期,湖北文旅消费持续升...
备案号:鄂ICP备2022006215号 Copyright © 2002-2024 关于我们 网站地图