详情

　　这四款模子消费级显卡即可运转，合用于笔记本电脑、手机、智能座舱、智能家居等低功耗场景，支撑垂曲范畴低成本微调。目前已正在Github和Huggingce等开源社区上线，Arm、高通、Intel、联发科技等多个消费级终端芯片平台颁布发表支撑摆设。用户可按照利用场景矫捷选择模子思虑模式——快思虑模式供给简练、高效的输出；而慢思虑涉及处理复杂问题，具备凸起的agent和长文能力，原发展上下文窗口达256k，意味着模子能够一次性记住并处置相当于40万中文汉字或50万英文单词的超长内容，相当于一口吻读完3本《哈利波特》小说，而且能记居处有人物关系、剧情细节，使用层面，四款小尺寸模子都可以或许满脚从端侧到云端、从通用到专业的多样化需求，而且曾经正在腾讯多个营业中使用，可用性和适用性颠末了实践的查验，例如，依托模子原生的超长上下文能力，腾讯会议AI小帮手、正在端侧使用上，腾讯手机管家操纵小尺寸模子提拔垃圾短信识别精确率，实现毫秒级拦截，现私零上传；腾讯智能座舱帮手通过双模子协做架构处理车载痛点，充实阐扬模子低功耗、高效推理的特征。