2023亚马逊云科技re:Inforce中国站开启 解读生成式AI的安全挑战及对策

北京——2023年8月31日,“2023亚马逊云科技re:Inforce中国站”今日在北京召开。此次大会以“AI时代 全面智能的安全”为主题,聚焦生成式AI在安全层面给企业带来的挑战及机遇。亚马逊云科技认为,安全是构建生成式AI不可回避的重要议题,企业只有在AI旅程中做好数据、模型和应用的安全防护,才能更好地借助AI加速业务创新。在大会上,亚马逊云科技还宣布与涂鸦智能成立“联合安全实验室”,双方将在机密计算及数据隐私、Matter技术合作及体系建设、生成式AI在IoT领域的安全实践等方面展开联合共创;与德勤企业咨询合作发布《中国企业出海发展建议白皮书2023版》,为中国出海企业解读相应的法律法规,分析面临的问题和挑战,并提出应对策略提升出海企业数据安全。同时,亚马逊云科技还正式推出“敏感数据保护解决方案”,帮助客户在数据治理层面,实现自动化敏感数据发现并在统一平台上管理数据资产;以及多项安全新服务及功能,如Amazon Verified Permissions、Amazon CodeGuru Security、Findings Groups for Amazon Detective等,帮助客户构建应用程序的零信任管理,提升漏洞发现及响应的智能化。

如今,各行各业的企业都希望能抓住生成式 AI带来的机遇开展业务创新。企业根据自身场景,在云平台的支持下,可选择适合的基础模型,或利用自身数据基于基础模型构建定制化的模型,或直接使用开箱即用的生成式 AI 应用。企业借助生成式AI、大语言模型等前沿技术开始业务创新的过程中,会面临诸多围绕数据、模型、应用等新的安全挑战。生成式 AI需要依赖大量的数据和模型,任何一个环节的安全疏漏,如使用不安全的模型训练及微调、模型的泄露、不安全的应用、不安全的应用访问等等,都可能会导致企业自身数据及隐私的泄露,或者产生不准确甚至错误的结果。企业只有确保应用AI各个环节的安全合规,才能更好地的助力业务开展创新。

亚马逊云科技不仅提供了一系列的技术、服务和工具帮助更多企业充分释放生成式 AI 的潜力,同时确保安全合规是开展一切业务的基础,包括其生成式 AI的各种工具,涵盖数据、模型以及应用各个环节。同时,亚马逊云科技还将AI以及生成式 AI技术应用于其安全及合规服务中,以更智能的安全、合规服务应对复杂的安全威胁、提高合规效率。在IDC近期发布的《2023中国公有云托管安全服务能力报告》中,亚马逊云科技在专家能力、漏洞及威胁检测、威胁情报等7项目评估维度上是获得满分最多的厂商之一,其中“生态建设”评估维度是唯一获得满分的厂商。

确保数据、模型以及应用的安全,企业才能更好的释放生成式AI应用的价值

数据是企业使用AI进行业务创新的基础,例如企业需要使用高价值的业务数据进行模型训练及微调,数据在产生价值之前会经过数据存储、传输、使用、治理等各个环节。企业为构建生成式AI应用,首先应在数据流动的过程中确保端到端的数据安全,为生成式AI应用提供安全和有价值的数据输入。在亚马逊云科技,我们一直严格遵从客户拥有和控制数据的理念,提供了行业领先的技术和物理措施来防止未经授权的访问,为数据提供涵盖存储、传输、使用、治理等各个环节的加密及保护服务。例如,亚马逊云科技的客户可使用Amazon Key Management Service (Amazon KMS),并将其与亚马逊云科技众多服务深度集成轻松保护多种数据; Amazon Nitro 提供硬件级别的安全机制,实现了网络、存储隔离的独立安全通道,使用 Nitro Enclaves 的加密功能,客户可以进行机密计算,其中多个参与方可以加入和处理高度敏感的数据,而无需分别向每个参与方披露或共享实际数据。

亚马逊云科技还提供贯穿如Amazon Data Zone整个数据周期的治理服务,并在本次大会上推出了敏感数据保护解决方案,可实现对企业敏感数据的自动化发现并在统一平台管理数据资产。该解决方案允许客户创建数据目录、使用内置或定制数据识别规则定义敏感数据类型,该方案利用机器学习、模式匹配的方式自动识别敏感数据,并提供可视化面板,帮助客户更轻松地对敏感数据进行管理和保护。

企业需要借助模型以及基础模型构建AI应用,要确保训练结果的准确性和有效性,模型训练的安全性同样至关重要,企业应全方位的监控模型的安全运行,包括模型的访问安全、模型的管理、模型运行的安全监控等。针对自建模型的企业,Amazon SageMaker提供了多种功能帮助开发人员更轻松地构建、训练和部署模型,如Amazon SageMaker Model Cards可实现对模型信息的统一管理、Amazon SageMaker Model Monitor可自动监测模型的准确性。为了降低客户生成式 AI 的使用门槛,亚马逊云科技推出了完全托管的基础模型服务Amazon Bedrock,客户可根据自身需求通过API 访问及使用其中的基础模型。Amazon Bedrock与亚马逊云科技其他托管服务一样,客户可安全地在其虚拟私有云(VPC)中使用该服务并对基础模型进行微调,始终保持其自有数据以及模型的安全。

最后,生成式AI应用本身以及访问的安全性也同样重要。将安全功能嵌入AI应用之中是提升应用本身安全性的方法之一。以Amazon CodeWhisperer为例,该服务是亚马逊云科技推出的AI编程助手,可根据开发者指令利用内嵌的基础模型实时生成代码建议,该服务内置了代码安全扫描功能,可帮助开发者查找难以检测的漏洞并提出补救建议。针对应用的安全访问,企业可构建零信任的应用安全访问策略。亚马逊云科技日前推出了Amazon Verified Permissions,为用户构建的应用程序提供细粒度授权和权限管理,用户可以使用该服务管理其应用程序的角色和属性的访问控制。

加强AI赋能安全及合规服务,应对复杂的安全威胁、提升合规效率

亚马逊云科技将AI技术应用到其安全及合规服务中,通过更智能的安全及合规服务应对复杂的安全威胁、提升合规效率,如威胁检测服务Amazon GuardDuty可通过人工智能和机器学习将安全事件的误报率降低50%。亚马逊云科技通过在其500多项自身合规审计控制项中使用AI技术,大幅提升了自身的合规效率,将审计时间简约了53%。在此次大会上,亚马逊云科技推出了多项具有AI能力的安全服务新功能,包括推出Amazon CodeGuru Security 预览版,利用机器学习技术帮助用户识别代码漏洞,并提供修复漏洞的指导意见;扩大Amazon Detective发现组的范围至Amazon Inspector,该服务利用机器学习技术,可以帮助专业安全人员加快调查过程、确定根本原因。

与涂鸦智能成立“联合安全实验室”,为物联网行业安全发展注入新动能

亚马逊云科技宣布与全球领先的IoT开发者平台涂鸦智能成立“联合安全实验室”,双方将在智能家居、数据安全、安全文化建设、海外合规等领域,重点就机密计算及数据隐私、Matter技术合作及体系建设、生成式AI在IoT领域等安全实践展开联合共创。涂鸦智能与亚马逊云科技已有近九年的合作历史,此次“联合安全实验室”的成立将进一步加强双方的合作,为物联网行业安全发展注入新动能,致力于为客户和终端用户的物联网设备提供更多安全保障。

与德勤合作发布《中国企业出海发展建议白皮书2023版》

亚马逊云科技与德勤企业咨询合作发布了《中国企业出海发展建议白皮书2023版》,从组织建设和技术实践两方面提出安全合规建议。在组织建设方面出海企业应当建立健全管理体系,包括制定隐私处理原则、数据保护原则,实行数据生命周期管理制度、数据泄露管理规范,健全相关事件的响应、评估等操作规程;在技术实施方面,亚马逊云科技提供的300多项安全、合规服务及功能,涵盖威胁检测和事件响应、身份认证和访问控制、网络和基础设施安全、数据保护与隐私以及风险管控及合规五大领域,为企业提供全方位的云上安全保障。除此之外,亚马逊云科技还提供责任共担模型、云上隐私保护和几乎满足全球所有监管机构合规性要求的合规计划,全面助力中国企业应对出海合规挑战。

 

感谢支持199IT
我们致力为中国互联网研究和咨询及IT行业数据专业人员和决策者提供一个数据共享平台。

要继续访问我们的网站,只需关闭您的广告拦截器并刷新页面。
滚动到顶部