8月30日音讯,当地时刻8月29日,谷歌云于美国旧金山举行了Google Cloud Next ’23大会,推出了20余款新品及更新,并突出强调了该公司2023年的重视要点——生成式AI。
首要,谷歌云根据AI进行了根底设施的优化,推出新式AI芯片Cloud TPU v5e,目前供给预览版;推出装备英伟达H100 GPU的A3虚拟机,将于下个月全面上市。此外,英特尔前高管创立的半导体公司 Ampere Computing也于当地时刻周二表明,其旗舰芯片将由谷歌云供给。
其次,谷歌云推出一系列开发者东西Vertex AI的新功用,包含添加Meta的Llama 2、Anthropic的Claude 2等大模型,每用户每月30美元的企业版Colab,以及据称是首例推出的数字水印功用等。
一起,Workplace和谷歌云也完结了AI才能Duet AI的更新,包含在Google Meet中供给会议记录、摘要、翻译,在Google Chat中可直接与Duet AI对话等功用。
谷歌云称,70%以上的生成式AI独角兽公司都是其客户,包含AI21、Anthropic、Cohere、Jasper、MosaicML、Replit、Runway和Typeface等,而且一半以上获得融资的AI创业公司是其客户,包含Copy.ai、Fiddler AI、PromptlyAI、Quora、Synthesized、Writer等公司。
后,针对开发者东西、数据、安全、可继续发展以及云生态体系等方面发布了公告。
一、面向AI大模型推出TPU v5e芯片,搭载英伟达H100的A3虚拟机下月上市
谷歌云称,其现在正处于核算领域千载难逢的拐点。25年来,谷歌云一直在出资数据中心和网络,现在具有由38个云区域组成的全球网络,方针是到2030年完全依靠无碳动力24小时7天无间断运转。
今日,谷歌云宣告了关键的根底设施前进,包含推出新款AI芯片Cloud TPU v5e、装备英伟达H100 GPU的A3虚拟机、GKE企业版(GKE Enterprise)、跨云网络(Cross-Cloud Network)以及谷歌分布式云(Google Distributed Cloud,GDC)。
谷歌云称,Cloud TPU v5e系迄今为止具本钱效益、多功用且可扩展的专用AI加快器,现已供给预览版。客户能够运用单个Cloud TPU渠道来运转大规模AI练习和推理。Cloud TPU v5e可扩展到数万个芯片,并针对功率进行了优化。与Cloud TPU v4比较,新版别每美元的练习功用提升2倍,推理功用提升2.5倍。TPU v5e供给与GKE、Vertex AI以及PyTorch、JAX和TensorFlow等抢先框架的集成,客户能够经过易于运用、熟悉的界面开始运用。
搭载英伟达H100 GPU的A3虚拟机将于下个月全面上市。它选用高功用网络和其他先进技术专门构建,可完结当今严苛的生成式AI和LLM立异,能够完结比上一代A2高出三倍的练习功用。
GKE企业版支撑多集群横向扩展,这是严苛的任务关键型AI或ML(机器学习)作业负载所必需的。客户现已能够看到生产率前进了45%,软件部署时刻缩短了70%以上。从今日起,Cloud TPU v5e 将支撑GKE,包含主动扩展、作业负载协谐和主动晋级。
跨云网络是一个全球网络渠道,可协助客户跨云衔接和维护应用程序。它具有开放性、作业负载优化,并供给ML驱动的安全性以完结零信赖。跨云网络旨在使客户能够从任何云端更轻松地拜访谷歌服务,可将网络延迟降低35%。
谷歌分布式云旨在满足希望在边际或数据中心运转作业负载的企业的独特需求。除了下一代硬件和新的安全功用之外,其还将经过Vertex AI集成和GDC Hosted上新的AlloyDB Omni保管产品,增强GDC产品组合,将AI引进边际。AlloyDB是谷歌的全代管式数据库服务,AlloyDB Omni是其可下载版别。
二、自研模型晋级,接入Llama 2等外部模型,AI生成内容检测东西等上线
Vertex AI是谷歌于2021年5月推出的全代管式ML(机器学习)东西,能协助用户更快地构建、部署和扩缩ML模型,以用于任何运用场景。谷歌云称,从本年4月到7月,生成式AI客户项目的数量增长了150多倍。
本年3月,谷歌云曾推出Vertex AI查找和对话(Vertex AI Search and Conversation)的预览版,以削减创建生成式查找和谈天应用程序的复杂性,能够让缺少机器学习专业知识的开发人员在短短几个小时内构建和部署智能应用程序。今日,谷歌云宣告该应用已全面上市,并推出了多轮查找、摘要、自然言语预编程东西、跨渠道实时检索和数据获取、输出迭代等新功用。
此外,谷歌云还宣告该渠道中发布的几个新模型和东西,包含PaLM 2、Imagen和Codey晋级、调整东西(Tools for tuning)、Llama 2等新模型接入、扩展服务、企业落地服务(Enterprise Grounding Service)、数字水印、Colab企业版等。
PaLM 2是谷歌自研的大言语模型,此次将晋级为32k上下文窗口,企业能够轻松处理研讨论文和书本等较长格局的文档。Imagen是其文生图扩散模型,此次将晋级视觉效果。Codey是谷歌根据PaLM 2构建的系列根底模型,此次将扩展其对新言语的支撑。
关于PaLM 2和Codey,谷歌云将分别供给适配器调整东西和预览版,能够经过少至100个示例来协助前进LLM功用。谷歌云还为Imagen引进一种名为“风格调整”(Style Tuning)的东西,只需少数参阅图片,企业客户就能够创建符合其特定品牌指南或其他创意需求的图画。
此次推出的新模型包含Meta的Llama 2和Code Llama、技术立异研讨所(TII)的Falcon LLM以及Anthropic的Claude 2。谷歌云称,其公司将是仅有一家一起为Llama 2供给适配器调整和RLHF(强化学习从人类反馈)的云供给商。
Vertex AI此次对扩展功用的更新使开发人员能够拜访、构建和办理一些供给实时信息、整合公司数据并代表用户采纳举动的扩展程序。这为生成式AI应用程序开辟了无限的新可能性,这些应用能够作为企业的扩展运转,经过拜访专有信息并在CRM(客户关系办理)体系或电子邮件等第三方渠道上采纳举动来完结。
企业落地服务可在Vertex AI根底模型、查找和对话中运用,使客户能够在自己的企业数据中接地,以供给更准确的呼应。谷歌云还与一些早期客户协作,测验支撑谷歌查找的技术的落地状况。
数字水印功用由谷歌DeepMind面向企业客户供给AI生成图画辨认水印服务SynthID供给技术支撑,可将水印直接嵌入像素图画中,使其对人眼不行见且难以被篡改。数字水印为客户供给了一种可扩展的办法,以负责任的办法创建和辨认AI生成的图画。谷歌云称,他们是首家为AI生成的图画供给这项技术的超大规模云核算供货商。
Colab全称Colaboratory,是谷歌旗下的浏览器Python代码修正器,用户无需任何装备便能够免费试用其GPU且轻松共享和协作。Colab企业版今日推出预览版,并方案于9月发布GA(General Availability,一般可用)版别。这项保管服务将谷歌Colab笔记本的易用性与企业级安全性和合规性功用结合在一起。数据科学家能够运用Colab企业版来协作加快AI作业流程,拜访Vertex AI渠道的全部功用、与BigQuery集成,乃至代码完结和生成。
三、Duet AI加快应用程序开发,简化根底设施和应用程序的操作和办理
谷歌云曾在5月的I/O大会上发布了Duet AI,在Workspace中引进了多个AI功用,全面临标微软的智能副驾“Copilot”。
本次大会上,谷歌云宣告在Workspace和谷歌云两个方面临Duet AI进行了一系列功用增强。Workspace中的Duet AI将于今日全面推出GA版别,而谷歌云中的Duet AI于今日推出更多预览功用,并将于本年晚些时候全面推出。
Workspace是谷歌旗下的作业和协作东西,具有超越30以用户和超越1000万付费客户。此前,谷歌云曾推出一些Duet AI驱动的功用来前进客户的作业功率,例如在Gmail和Google Docs中编写和完善内容、在Google Slides中创建原始图画、在Google Sheets中将主意转化为举动和将数据转化为见地、在Google Meet中树立更有意义的联系等。
今日,谷歌云在Workspace中进行了两个方面的Duet AI增强,分别针对Google Meet和Google Chat。
1、Workspace中的Duet AI更新
针对Google Meet,Duet AI将在视频通话期间做笔记、发送会议摘要,且能够主动翻译18种言语的字幕。此外,为了确保每位与会者都能清楚地看到、听到和了解会议内容,还供给了演播室外观、演播室灯光和演播室声响。
针对Google Chat,用户将能够直接与Duet AI谈天,询问有关个人内容的问题,获取空间中共享文档的摘要,并补上错过的对话。供给了更新的用户界面、新的快捷办法和增强的查找,让用户能够随时把握对话的新状况,一起供给了名为“huddles”的功用,让团队能够在现已开始协作的地方召开会议。
除了Workspace之外,Duet AI现在还能够在各种谷歌云产品和服务中供给AI协助。例如,作为编码帮手协助开发人员更快地编码,作为专家参谋协助运营商快速解决应用程序和根底设施问题,作为数据剖析师供给快速、更好的洞察力,以及作为安全参谋引荐佳实践以协助预防网络要挟。
2、谷歌云中的Duet AI更新
在谷歌云中发布的Duet AI更新首要包含五个方面,分别是软件开发、应用程序和根底设施运营、数据剖析、数据库加快和现代化以及安全运营。
在软件开发方面,Duet AI将在整个软件开发生命周期中供给专家协助,经过大限度地削减上下文切换来协助开发人员前进作业功率,从而使开发人员能够更长时刻地保持心流状况。除了代码完结和代码生成之外,它还能够经过协助进行代码重构来协助用户更快地完结应用程序现代化;经过在Apigee中运用Duet AI,任何开发人员都能够运用简单的自然言语提示轻松构建API和集成。Apigee是谷歌云的原生API办理东西,用于构建、办理和维护API,而且支撑任何运用场景、环境或规模。
在应用程序和根底设施运营方面,运营商能够直接在谷歌云操控台(Google Cloud Console)中以自然言语与Duet AI就多项服务进行对话,以快速检索有关根底设施装备、部署佳实践以及有关本钱和功用优化的专家主张的“操作办法”信息。
在数据剖析方面,BigQuery中的Duet AI能够为编写SQL查询和Python代码供给上下文协助,生成完整的函数和代码块,主动引荐代码补全,以自然言语解释SQL句子,并能够根据用户的架构和元数据生成主张。这些功用能够让数据团队愈加重视事务效果。
在数据库加快和现代化方面,Cloud Spanner、AlloyD和Cloud SQL中的Duet AI能够协助生成代码,以便于运用自然言语构建、修正或查询数据。谷歌云还将Duet AI的功用引进数据库搬迁服务(DMS),协助主动转换数据库代码,如存储进程、函数、触发器和包,这些代码无法运用传统翻译技术进行转换。
在安全运营方面,Duet AI将引进谷歌云安全产品中,包含Chronicle安全运营(Chronicle Security Operations)、Mandiant要挟情报(Mandiant Threat Intelligence)和安全指挥中心(Security Command Center),能够使安全专业人员更有效地预防要挟,削减安全作业流程中的作业量,并前进安全人才的水平。
四、推出AlloyDB AI等东西,新增SAP等协作伙伴
后,谷歌云在数据和剖析、信息安全、云生态体系等方面发布了几项重要公告。
1、数据和剖析方面
首要,谷歌云认为数据是生成式AI的中心,这也是他们继续为谷歌的数据和AI云开发新功用的原因。除了前文说到的Duet AI驱动的相关功用外,谷歌云还宣告了BigQuery Studio、AlloyDB AI以及数据云协作伙伴的更新。
BigQuery Studio是用于数据工程、剖析和预测剖析的单一界面,有助于前进数据团队的功率。经过与Vertex AI根底模型的新集成,谷歌云称其正在经过跨云剖析、管理和安全数据共享的立异等办法,协助企业运用AI完结其数据湖仓一体(Data Lakehouse)。
AlloyDB AI是兼容PostgreSQL的数据库服务AlloyDB的一部分。它为构建生成式AI供给了一套集成的功用,包含比规范PostgreSQL快10倍的高功用矢量查询。此外,借助 AlloyDB Omni,用户能够在几乎任何地方运转AlloyDB,包含本地部署、谷歌云、AWS、Azure或经过谷歌分布式云。
谷歌云正在继续扩展其数据云协作伙伴,并称将继续扩展可用的协作伙伴解决方案和数据集的范围。其协作伙伴,如Confluence、DataRobot、Dataiku、Datastax、Elastic、MongoDB、Neo4j、Redis、SingleStore和Starburst,都在推出新功用,协助客户利用数据加快和增强生成式AI开发。其协作伙伴也在向剖析中心(Analytics Hub)添加更多数据集,包含来自Acxiom、Bloomberg、TransUnion、ZoomInfo等的可信数据,客户能够运用这些数据集构建和练习生成式AI模型。
2、信息安全方面
本年早些时候,谷歌云推出了安全AI作业台(Security AI Workbench),这是一个业界内首个可扩展渠道,由其下一代安全大模型Sec-PaLM 2供给支撑。几周前,谷歌云发布了安全运营解决方案Chronicle CyberShield,协助政府打破信息孤岛,会集安全数据以协助加强国家态势感知。除了前面说到的Duet AI立异之外,谷歌云还宣告了Mandiant Hunt for Chronicle、无代理缝隙扫描、网络安全前进以及有保障的作业负载(日本区域)。
Mandiant Hunt for Chronicle将Mandiant一线专家对攻击者行为的新见地与Chronicle安全运营快速剖析、查找安全数据的才能相结合,协助客户获得精英级支撑而无需承担招聘、东西和训练的担负。
Security Command Center中的状况办理功用可检测Compute Engine虚拟机上的操作体系、软件和网络缝隙。
Cloud Firewall Plus为分布式防火墙服务添加了高级要挟防护和下一代防火墙(NGFW)功用,由Palo Alto Networks供给支撑;网络服务集成办理器允许网络办理员轻松集成受信赖的第三方NGFW虚拟设备以进行流量查看。
客户能够在谷歌云日本区域具有强制执行数据驻留的受控环境、本地操控加密密钥的选项以及办理拜访透明度。谷歌云还将继续发展咱们的监管和主权解决方案协作伙伴方案,为客户的监管云环境带来立异的第三方解决方案。
3、生态体系扩展
谷歌云称,其生态体系现现已过生成式AI为企业带来了实践价值,并为全球数百万用户带来了由谷歌云供给支撑的新功用。协作伙伴也在运用Vertex AI为客户构建自己的功用,包含Box、Canva、Salesforce、UKG等。大会上,谷歌云宣告了新的生态体系扩张。
电子签名企业DocuSign正在与谷歌协作,试点怎么运用Vertex AI来协助生成智能合约帮手,这些帮手能够总结、解释和回答复杂合约和其他文档中的内容。
软件供货商SAP正在利用SAP数据和Vertex AI构建新的解决方案,协助企业将生成式AI应用于重要的事务用例,例如简化汽车制造或前进可继续性。
人力资源公司Workday的财务和人力资源应用程序现已在谷歌云上运转,在其流程中开发生成式AI功用,作为其多云战略的一部分。这包含生成高质量职位描述的功用,以及经过Workday Extend中的技术API为应用程序开发人员供给谷歌云生成式AI的功用,一起协助确保客户敏感信息的高级别数据安全和管理。
此外,包含埃森哲、凯捷、德勤和Wipro在内的许多全球顶尖咨询公司已共同方案训练超越15万名专家,以协助客户施行谷歌云生成式AI。
结语:谷歌云推出二十余款产品或更新,生成式AI火力全开
此次Google Cloud Next大会是自2019年以来初次线下举行,在90分钟左右的开幕主题演讲中,谷歌云围绕其2023年战略中心——生成式AI,发布了20余款新产品或增强型产品,包括安全、数据、剖析等方面,全面布局生成式AI产品矩阵。
在发布产品之外,谷歌云也指出,尽管AI机会令人兴奋,但也面临着潜在的挑战。这也是谷歌云致力于负责任地开发和部署技术,以隐私、安全和安全为中心,并以长时间的AI原则为辅导等的原因。
谷歌云称,将继续大胆、负责任地采纳其一向的办法,让这些强大的东西可供运用,以便每个人都能受益。谷歌云的全面AI布局能否带领公司走进“黄金时代”,咱们会继续重视。 |