亚马逊云科技Uwem Ukpong:今年布局重点在Amazon Q和Amazon Bedrock

周兴
2024-03-19 16:44

3月19日消息,亚马逊云科技全球客户技术支持与服务副总裁Uwem Ukpong于3月14日制16日到访上海办公室。在此期间,Uwem Ukpong接受了每日经济新闻媒体的采访。他表示,2024年,亚马逊云科技的布局重点,就在Amazon Q和Amazon Bedrock。

据了解,Amazon Bedrock是亚马逊的云托管服务,在此之上已有不少大模型服务商接入,包括最近炙手可热的Claude 3。而Amazon Q是通用生成式AI助手,由亚马逊云科技去年11月底于re:Invent大会上发布。

谈及与企业合作时,Uwem Ukpong表示,“全球范围内,(过去)不少企业在云技术采纳方面是非常慢的,当你和这些企业谈云时他们会保持沉默,没有坚定的信念做出这一决定。但现在,他们面临着来自不同利益相关者和股东的压力,要求他们在生成式AI方面有所作为。而当客户企业需要开启生成式AI之旅,就意味着需要上云。”如今,亚马逊云科技的全球服务覆盖了全球51个国家和地区。

format-jpg图源:每日经济新闻

“20多年来,人工智能和机器学习一直是亚马逊关注的焦点。只不过我们以前不把它叫做生成式AI。事实上,亚马逊的零售业务已经大量地采用了人工智能的技术。”Uwem Ukpong说。他坦言,目前,亚马逊云科技基于生成式AI,提供了三层服务架构,包括利用基础模型构建的应用程序、使用基础模型进行构建的工具和用于基础模型训练和推理的基础设施。

第一,云基础设施服务。过去五年,亚马逊云科技持续加大在自研芯片方面的投入,不断突破性能和价格的极限,以支持对此有极高要求的机器学习训练与推理等工作负载。Amazon Trainium和Amazon Inferentia芯片可以提供极低成本地在云上训练模型和运行推理。除此之外,在GPU方面,英伟达多款先进算力均率先在亚马逊云科技落地。

这一层是亚马逊云科技的王牌产品,也是亚马逊云科技加固的重点。目前,亚马逊云科技基础设施遍及33个地理区域的105个可用区,并计划在马来西亚、墨西哥、新西兰、沙特阿拉伯和泰国等新建6个区域、18个可用区。

第二,模型层。基于Amazon Bedrock云托管服务,允许企业通过API访问从文本到图像的一系列在Amazon Bedrock之上的基础模型,如AI21 Labs、Anthropic、Cohere、Meta、Stability AI、Mistral AI等的基础模型以及Amazon Titan基础模型。并支持客户基于私有数据差异化定制。

第三,应用层,即生成式AI驱动的应用程序。目前主要是Amazon Q。Amazon Q于去年11月在re:Invent大会上发布,这是一种新型生成式AI支持的助手,可以根据客户业务进行定制,专门用于满足办公场景需要。可以通过连接如代码仓库、网址、数据库、文档、email等各种信息库,来帮助企业或者个人以自然语言对话的方式,提供历史数据检索、摘要生成、内容撰写等服务。

format-jpg

Amazon Q 图源:亚马逊云科技官网

Uwem Ukpong在此次采访中表示,企业这一年来积极上云,让亚马逊云科技的数据中心运营成本降低。但亚马逊云科技也面临着助力客户启动生成式人工智能POC(Proof of Concept,概念验证)所带来的压力。

其实,Uwem Ukpong多次提及的POC,比较像国内常说的“寻找落地场景”,他所掌管的部门在全球设有生成式AI创新中心。他说,生成式AI创新中心以及亚马逊提供的专业工程服务,就是帮助客户解决POC场景落地最后三公里的服务。

“我们一方面帮客户建立POC,帮助客户做概念认证,让客户的AI服务能够用起来。另一方面,我们在做POC的过程,也是更深层次了解客户需求的过程,我们把在全世界各地POC的经验收集起来,然后作为反馈发给亚马逊云科技软件开发团队,从而赋能未来的产品开发。”

Uwem Ukpong说,他观察到金融行业是目前生成式AI在采用的最为扎实、规模最大的行业之一,“保单需要根据个体用户的实际情况来进行定制。以前,人工流程需要两周时间来制作一张保单,目前借助生成式AI,这个流程只需要一天。”除此之外,生成式AI在家电、电商行业的应用也较为领先。比如传统工业的概念设计、电商营销素材图片生成等。

谈及亚马逊云科技的优势,Uwem Ukpong强调了技术和生态。“亚马逊云科技有一个最大的差异化,是具有广泛的模型选择。我们把更多的LLM放到Amazon Bedrock上,为客户提供丰富的自由选择的空间。”

format-jpg

Amazon Bedrock 图源:亚马逊云科技官网

Uwem Ukpong还透露了两点:一是,亚马逊选择40亿美元投资、已发布可以PK GPT-4的Claude 3的大模型公司Anthropic,主要使用Amazon Trainium和Amazon Inferentia芯片进行训练和部署未来的基础模型。经过行业测评,Claude 3从性能、准确率、速度和成本4个维度上已是目前行业上最领先的大模型。“亚马逊云科技拥有自研芯片的技术。(与Anthropic合作后)我们就可以直接从Anthropic那里获得很多一手的反馈,从而用于下一阶段的芯片技术的完善。”Uwem Ukpong说。

此外,亚马逊自研大模型,Amazon Titan基础模型的应用范围十分广泛,主要为高性能图像、多模态和文本模型为广泛的生成式人工智能应用提供支持,例如内容创建、图像生成以及搜索和推荐体验。

Uwem Ukpong强调,2024年,亚马逊云科技的服务与产品重点就是Amazon Q和Amazon Bedrock。Amazon Q是亚马逊云科技自研的新型生成式AI支持的助手,可以根据客户业务进行定制,专门用于满足办公场景需要。Amazon Q为员工提供信息和建议,帮助他们简化任务、加速决策和解决问题,并帮助激发工作中的创造力和企业创新。

他同时表示,2024年,生成式AI的应用将变得越来越复杂。“去年的POC很多都只是一些对话助理,今年的应用会变得复杂与深厚。我们将会看到更多的内容生成、数据洞察、甚至未来前景预测。”

1、该内容为作者独立观点,不代表电商报观点或立场,文章为作者本人上传,版权归原作者所有,未经允许不得转载。
2、电商号平台仅提供信息存储服务,如发现文章、图片等侵权行为,侵权责任由作者本人承担。
3、如对本稿件有异议或投诉,请联系:info@dsb.cn
相关阅读
3月5日消息,亚马逊科技宣布,致力于AI安全和研究的公司Anthropic的领先模型Claude 3系列将基于Amazon Bedrock提供服务。Claude 3系列模型具备行业领先的准确性、性能、速度和成本优势。这一进展将增强各种规模的企业在其组织中快速测试、构建和部署生成式AI应用的能力。客户将能够在Amazon Bedrock上访问Claude 3系列视觉模型-Claude 3 Opus、Claude 3 Sonnet和Claude 3 Haiku,Sonnet现已推出。
全托管生成式AI服务Amazon Bedrock已正式可用,为信息搜索、内容创建及药物发现等诸多领域提供支持。
亚马逊科技宣布,提供新的人工智能语言系统——Amazon Bedrock,允许用户根据特定提示开发图像、构建聊天机器人和总结文本。
10月7日消息,亚马逊科技今日宣布,亚马逊科技全托管生成式AI服务Amazon Bedrock现已正式可用。客户可以使用来自众多领先AI公司的高性能基础模型,以及构建生成式 AI 应用程序所需的一系列功能,Amazon Bedrock新增Amazon Titan Embeddings和Meta Llama 2模型,为客户寻找适合其应用场景的模型提供更多灵活选择等。
10月10日消息,亚马逊科技宣布,Meta的新一代模型Llama 3.2,包括其首款多模态模型,现已在Amazon BedrockAmazon SageMaker中正式可用。该系列模型进行了全新升级,提供高度差异化的功能更新,包括支持图像推理的小型和中型视觉大语言模型,以及针对设备端优化过的轻量级纯文本模型。
BrainBox AI推出了一款全新的、首创的、基于Amazon Bedrock的生成式人工智能虚拟建筑助手。
11月17日消息,德勤中国与亚马逊科技共同宣布创建生成式AI联合实验室。联合实验室还利用亚马逊科技海外区域托管生成式AI服务Amazon Bedrock和全托管机器学习服务Amazon SageMaker推出了系列解决方案,以满足企业的各类出海应用场景需求。
11月30日消息,亚马逊科技在2023 re:Invent全球大会上宣布,Amazon Bedrock发布更多模型选择和全新功能。据介绍,Amazon Bedrock是一项全面托管的服务,用户可访问来自AI21 Labs、Anthropic、Cohere、Meta、Stability AI和亚马逊的多种大语言模型和其他模型,以及客户构建生成式AI应用程序所需的广泛的功能,包括确保隐私和安全的同时简化开发。
8月5日消息,劳埃德银行表示已聘请亚马逊科技 高管Rohit Dhawan担任新设的人工智能战略主管一职。他此前负责亚马逊科技在亚太地区的数据和AI战略。Dhawan将负责把AI整合到客户和运营流程中,并在劳埃德银行内部新创建一个数据和AI职能部门。