亚马逊云科技陈晓建:生成式AI时代 技术普惠和负责任的AI至关重要

整整一年多,生成式AI已经吸足了全球科技界目光。在亚马逊云科技大中华区产品部总经理陈晓建看来,生成式AI不仅仅是大模型,还需要大量的基础模型以外的服务来支撑,如加速芯片,数据库,数据分析,数据安全服务等等。

作为全球云计算领导者,亚马逊云科技提供了完整的端到端的生成式AI技术堆栈,从底层的加速层如加速芯片,存储优化,到中间层模型构建工具和服务,再到最上层的生成式AI相关应用,每一层都在针对客户的不同需求持续创新。

在生成式AI时代的定位

当199IT问到在生成式AI时代,亚马逊云科技如何看待自身的定位。陈晓建表示,亚马逊云科技本身是一个基础设施的提供商,初心是做技术的普惠化,在生成式AI的今天,初心未变,亚马逊云科技仍然希望通过技术降低使用门槛,能够让生成式AI的技术为业务赋能。

除了普惠化之外,负责的AI也是亚马逊云科技所秉持的重心。包括六点——公平和偏见、稳定性、可解释性、治理、透明度、隐私和安全性。

因为AI技术如此之新,如此智能,所以在使用的时候其实会碰到很多非技术的问题,虽然它很聪明,可以干各种事情,但是并不是每一件事情都是对社会有利的。所以亚马逊云科技强调公平性,它不能按性别、年龄、种族而提供区别对待的服务。

如何保证服务的高可用性,至关重要。另外,要避免有害性,生成式AI本身是一把双刃剑,很多生成式AI的能力非常强,如果不在有害性方面去做很好的管理,可能会引导到一些并不是非常好的应用场景上。还包括个人隐私等。

陈晓建认为以上这些要点,决定了生成式AI最终能够跟产业结合会达到什么效果。

释放生成式AI的潜力

亚马逊云科技围绕应用场景、工具和基础设施、数据基座、AI原生应用构建和生成式AI服务,助力企业和开发者释放生成式AI的潜力。

基础模型的发展和迭代速度正超越以外任何一项技术,基本以月甚至天为单位持续迭代,而新出现的每一个大模型都在性能和特定领域有着独特的优势。在众多的基础模型中,应该如何便捷安全的选择最适合自己业务场景的基础模型,是每一家企业在构建生成式AI应用时面临的挑战。

亚马逊云科技正式推出了Amazon Bedrock,该服务与Amazon SageMaker Jumpstart结合,助力对基础模型有着不同需求的客户轻松、安全地选择基础模型。

Amazon Bedrock是企业使用基础模型构建和扩展生成式AI应用程序的最简单方法,它是一项无服务器服务,提供了广泛的模型选择、数据隐私,并且能够自定义模型,无需管理任何基础设施。该服务提供的基础模型来自Meta, Anthropic, Stability AI, AI21 Labs、Cohere等第三方领先提供商以及自身的Amazon Titan模型等,近期还加入了Meta的下一代开源大模型Llama2以及Anthropic的Claude2等热门基础模型。

与Amazon Bedrock相比,Amazon SageMaker需要客户管理应用程序架构中的模型部署、配置和托管,但拥有更大的灵活度和自由度对基础模型进行定制,客户可以从Amazon SageMaker Jumpstart中选择开源的基础模型,然后根据自身需求可以选择全量微调,轻量微调等不同方式,进一步确定微调框架,利用分布式训练实现微调,从而更好的评估微调效果。

Amazon Bedrock代理功能是一项全新的全托管功能,使开发人员能够更轻松地创建基于生成式AI的应用程序,以完成各种用例的复杂任务,并根据专有知识源提供最新的答案。开发人员只需进行简单操作,Amazon Bedrock 代理功能就会自动分解任务并创建编排计划,无需任何手动编码。该代理通过简单的 API 接口安全地连接到公司数据,自动将数据转换为机器可读的格式,并增加相关信息以生成最准确的回答。然后,代理可以自动调用 API 来满足用户的请求。

10多年来,亚马逊云科技对全球基础设施进行深度投资,能够为客户提供广泛的加速器选择,包括强大而灵活的基于GPU的解决方案,例如基于英伟达最新GPU芯片H100 Tensor Core的Amazon EC2 P5实例,与上一代相比速度快6倍,训练成本节省40%;还有基于亚马逊云科技自研的机器学习推理芯片Amazon Inferentia2推出的Amazon EC2 Inf2实例,与其他类似的EC2实例相比性价比高40%;基于自研机器学习训练芯片Amazon Trainium推出的Amazon EC2 Trn1实例,与同类实例相比训练成本节省高达50%。

开箱即用的生成式AI服务

编程是生成式AI技术得到快速应用的领域之一。软件开发者需要花费大量时间编写相当浅显和无差别的代码,真正用于创新的时间少之又少。从网上复制代码片段则可能无意中复制无效代码或有安全隐患的代码,或对开源代码的使用没有进行有效追溯。

亚马逊云科技的解决方案是Amazon CodeWhisperer,它是一款人工智能编码伙伴,在基础模型高级选项中使用,可以实时生成代码建议,从根本上提高开发人员的生产力。我们还进行了一项生产力测试,与未使用的参与者相比,使用Amazon CodeWhisperer的参与者完成任务的速度平均快57%,成功率高27%。

同时亚马逊云科技最近推出了Amazon Whisperer自定义功能,能够生成优于之前的代码建议,因为它允许客户使用私有代码库安全地定制 CodeWhisperer代码建议,这些私有代码库可涵盖内部API、数据库、最佳实践和架构模式等。

据悉,亚马逊云科技通过开箱即用的生成式AI服务及工具,已帮助1000+中小企业和初创公司快速实现生成式AI创新,已赋能10W+中国开发者。

帮助不同类型的客户使用生成式AI服务

亚马逊云科技使命是帮助不同规模、不同体量的客户降低创新门槛。

具体到生成式AI方面,一类是想要用生成式AI构建比较大规模的,计划面对上百万、上亿用户的AI原生的或者大模型要大规模应用的企业(它可能是初创企业),从算力、数据端到端的能力,用云的方式,通过Amazon Bedrock、Amazon SageMaker让他们尽可能容易的构建模型,快速发展,并且很容易扩展到很大的规模,利用好云的弹性,以极低的成本去运行。这是亚马逊云科技未来重点投入的地方。

对于企业内部来应用,提升协作效率,提升办公效率,这一类的客户最重要的应用可能部署的规模不会特别大,但是对业务要求和整个业务的理解,包括到底能不能产生业务价值要求是非常高的。亚马逊云科技更多是投入人力包括一些合作伙伴的政策去支持,行业专家加上技术专家满足客户需求。

陈晓建表示,“开发生成式AI应用是一个充满挑战的系统工程,并不是单纯的产品和服务拼接,因此,如何加速客户最终应用的商业化落地,除了亚马逊本身的资源以外,我们同样需要构建强大的合作伙伴生态,与它们一起助力解决生成式AI应用构建中的各种技术问题,加速应用落地。除了云服务之外,我们还提供解决方案架构师、产品技术专家、人工智能实验、数据实验室、快速原型团队、专业服务团队、培训与认证部门等多个资源共同助力客户成功,同时我们还携手生态合作伙伴与初创圈构建生成式AI的完整体系,进一步助力生成式AI技术的落地。”

感谢支持199IT
我们致力为中国互联网研究和咨询及IT行业数据专业人员和决策者提供一个数据共享平台。

要继续访问我们的网站,只需关闭您的广告拦截器并刷新页面。
滚动到顶部