快科技8月4日音讯,今天,腾讯混元发布四款开源小尺度模型:0.5B、1.8B、4B、7B。
这四款模型消费级显卡即可运转,适用于笔记本电脑、手机、智能座舱、智能家居等低功耗场景,支撑笔直范畴低成本微调。
现在已在Github和Huggingface等开源社区上线,Arm、高通、Intel、联发科技等多个消费级终端芯片渠道宣告支撑布置。
这四款均归于交融推理模型,推理速度快、性能好价格低,用户可按需挑选快考虑或慢考虑形式。
用户可根据运用场景灵敏挑选模型考虑形式——快考虑形式供给简练、高效的输出;而慢考虑触及处理复杂问题,具有更全面的推理过程。
在言语了解、数学、推理等范畴表现出色,在多个揭露测验集上领先同尺度模型。
只需单卡即可布置,部分PC、手机、平板等可直接接入,对干流推理结构和多种量化格局兼容性强。
具有杰出的agent和长文才能,原生长上下文窗口达256k,意味着模型能够一次性记住并处理相当于40万中文汉字或50万英文单词的超长内容,相当于一口气读完3本《哈利波特》小说,而且能记住一切人物联系、剧情细节,还能根据这一些内容评论后续故事开展。
运用层面,四款小尺度模型都能够很好的满意从端侧到云端、从通用到专业的多样化需求,而且已经在腾讯多个事务中运用,可用性和有用性经过了实践的查验,是真实有用的模型。
例如,依托模型原生的超长上下文才能,腾讯会议AI小帮手、微信读书AI问书AI帮手均完成对完好会议内容、整本书本的一次性了解和处理。
在端侧运用上,腾讯手机管家运用小尺度模型提高废物短信辨认准确率,完成毫秒级阻拦,隐私零上传;腾讯智能座舱帮手经过双模型协作架构处理车载环境痛点,充沛的发挥模型低功耗、高效推理的特性。
特别声明:以上内容(如有图片或视频亦包含在内)为自媒体渠道“网易号”用户上传并发布,本渠道仅供给信息存储服务。
特朗普宣告撤销“普特会”,克里姆林宫称接见会面不会失败,由于普京相同不肯浪费时间
吴石将军献身后,陈诚为啥一向缄默沉静,2000年的一封密信揭开线岁男人KTV上班,三名女孩来喝酒,男人过度运用成永久伤口
1499元!REDMI投影仪4 Pro发布:600CVIA亮度 可投120英寸巨幕
REDMI又来掀桌子!旗下首款Mini LED电视发布:REDMI电视X 2026杀到4799元