欢迎来到合肥浪讯网络科技有限公司官网
  咨询服务热线:400-099-8848

加速落地 京东云大模型已支持数百个场景

发布时间:2024-06-10 文章来源:本站  浏览次数:90
6月6日,京东云城市大会在成都顺利举行,大会全面展示了京东场景大模型应用效果、言犀大模型技术能力升级,支持大模型的新一代数字基础设施,持续加速产业智能化变革。大模型落地应用的关键是在资源、性能、效果三者之间取得平衡。为了实现这一目标,京东云自研了推理引擎,通过利用推测解码,用小模型辅助大模型进行推理,从而加速大模型的推理速度并降低成本。在大模型应用开发方面,京东云自研了大模型产品,以支持更高效的研发运维。其中,自研的辅助编码助手 JoyCoder 帮助研发人员更高效地编写、阅读和优化代码,目前京东上万名研发人员在使用 JoyCoder,生成代码采纳率超过30%,助力开发周期缩短20%。在运维服务上,京东云自研了混合多云智能运维平台,提供指标异常检测、日志分析、故障定位等功能,在 QPS 达千万级流量时,可用率仍达到99.9%,大幅提升了运维效率。

基于京东云的自研技术,大模型已经在京东的数百个应用场景中得到了应用,包括直播带货、店铺运营、广告投放等领域。例如,在内容生产方面,超过9万商家借助大模型零成本制作店铺营销物料,AIGC 生成内容采纳率超50%,实现了大幅度的降本提效。在数字人直播方面,大模型加持的京东云言犀数字人已在超过5000间品牌直播间开播,带货 GMV 总量近百亿。

为了进一步推动大模型的应用,京东云还推出了一套支持大模型的完整工具,包括言犀 AI 开发计算平台、向量数据库、混合多云操作系统云舰、高性能存储平台云海、软硬一体虚拟化引擎京刚等核心产品。其中,言犀 AI 开发计算平台可以提供从基础资源、模型服务到智能体构建的一站式大模型服务,支持 GPU 资源的统一管理,兼容国内外主流 AI 芯片,实现集群算力资源的充分利用。

未来,京东云将继续与合作伙伴一道,以更丰富的应用场景和领先的技术能力,助推大模型抵达产业智能。

上一条:苹果与OpenAI合作惹...

下一条:免费匿名运用 GPT 等...