加速落地 京东云大模型已支持数百个场景

6月6日，京东云城市大会在成都顺利举行，大会全面展示了京东场景大模型应用效果、言犀大模型技术能力升级，支持大模型的新一代数字基础设施，持续加速产业智能化变革。大模型落地应用的关键是在资源、性能、效果三者之间取得平衡。为了实现这一目标，京东云自研了推理引擎，通过利用推测解码，用小模型辅助大模型进行推理，从而加速大模型的推理速度并降低成本。在大模型应用开发方面，京东云自研了大模型产品，以支持更高效的研发运维。其中，自研的辅助编码助手 JoyCoder 帮助研发人员更高效地编写、阅读和优化代码，目前京东上万名研发人员在使用 JoyCoder，生成代码采纳率超过30%，助力开发周期缩短20%。在运维服务上，京东云自研了混合多云智能运维平台，提供指标异常检测、日志分析、故障定位等功能，在 QPS 达千万级流量时，可用率仍达到99.9%，大幅提升了运维效率。

基于京东云的自研技术，大模型已经在京东的数百个应用场景中得到了应用，包括直播带货、店铺运营、广告投放等领域。例如，在内容生产方面，超过9万商家借助大模型零成本制作店铺营销物料，AIGC 生成内容采纳率超50%，实现了大幅度的降本提效。在数字人直播方面，大模型加持的京东云言犀数字人已在超过5000间品牌直播间开播，带货 GMV 总量近百亿。

为了进一步推动大模型的应用，京东云还推出了一套支持大模型的完整工具，包括言犀 AI 开发计算平台、向量数据库、混合多云操作系统云舰、高性能存储平台云海、软硬一体虚拟化引擎京刚等核心产品。其中，言犀 AI 开发计算平台可以提供从基础资源、模型服务到智能体构建的一站式大模型服务，支持 GPU 资源的统一管理，兼容国内外主流 AI 芯片，实现集群算力资源的充分利用。

未来，京东云将继续与合作伙伴一道，以更丰富的应用场景和领先的技术能力，助推大模型抵达产业智能。