如何化解生成式AI带来的安全风险？Akamai给出答案（生成式方法）

现如今，各行各业都在探索如何利用创新技术加速产业升级，最直接的方式之一就是上云。

对于绝大部分企业而言，将业务迁移到云端所带来的优势是显而易见的。一方面，云计算具有按需自助服务、宽带网络访问、快速伸缩性等特点，使企业可以根据自身需求灵活调整和利用计算资源，能够高效地运营业务，从而快速应对市场环境的不断变化;另一方面，通过云计算的高效计算和存储能力，结合大数据、5G、物联网等数字技术，将发挥叠加效应，为企业带来更多的商业机遇和竞争优势，促进产业的快速发展和进步。

不过，随着企业上云用云进程的加快，安全问题开始变得日益突出。特别是随着生成式AI的出现，并被迅速应用于诸多领域，表现出令人瞩目的成效和能力的同时，也给云安全带来了新的挑战。

日前，比特网采访到AkamAI执行副总裁兼首席技术官Robert Blumofe博士，主要围绕生成式AI对网络安全的影响，进行了深入预测。

Akamai执行副总裁兼首席技术官 Robert Blumofe博士

近年来，生成式AI技术取得突破式发展，无论是DALL-E的图像生成能力，还是ChatGPT的自然语言处理技能，生成式AI的潜力正在被逐渐发掘，并吸引着众多企业纷纷入局。

Blumofe指出，在采用新技术方面，亚太地区往往走在世界的前列，而生成式 AI 也不例外。据IDC公布的数据显示，在采用生成式AI技术方面，亚太地区走在世界的前列，三分之二的公司已经在生成式AI领域进行投资或者在探索潜在的应用场景。

然而，与任何技术一样，总会有人试图利用它来达到恶意目的。生成式AI作为一种人工智能技术，利用机器学习模型和深度学习技术，通过研究历史数据的模式来生成文本、图像、音频、视频等内容。但与此同时，生成式AI还可以生成逼真且令人信服的虚假内容，如假新闻、假图片和假视频等，这些深度伪造内容往往难以辨别真伪，容易被误传和误导，对社会和个人造成不良影响。

也正因为如此，社会工程攻击将成为网络犯罪分子的首选武器。以前，社会工程攻击需要付出大量努力，不但需要对受害者进行广泛深入的研究，且需要花费大量时间精心伪造令人信服的虚假信息，现在有了生成式AI技术，所有这一切都发生了改变。

通过生成式AI技术，网络犯罪分子实现了社会工程攻击研究的自动化，并生成令人信服的深度伪造，这意味着网络犯罪分子可以更容易地获取受害者的信任，实施大规模、高收益的社会工程攻击。这可能导致云服务提供商和用户的敏感信息泄露、数据损坏或服务中断等问题，对云安全造成严重影响。因此，云安全领域需要采取相应的防御措施，加强用户教育，提高对深度伪造内容的辨识能力，以及采用先进的威胁检测和防护技术来应对社会工程攻击带来的安全挑战。

面对这种严峻的安全形势，企业该如何应对呢？

对此，Blumofe表示，应从培训AI素养、打造零信任环境、避免盲目追求AI技术三方面入手，应对生成式AI带来的安全挑战，具体来看：

在培训AI素养方面，随着生成式 AI 工具的应用变得越来越普及，人们将更加难以辨别是非真假，各企业需要对 AI 素养进行投资，以维持客户信任。

AI素养作为一种综合素质，不仅包括AI相关的知识和判断能力，还包括与AI技术使用相关的态度和伦理等。可以说，AI素养的提升无疑将有助于人们更好地适应和利用AI技术带来的变革和机会，同时维护互联网的健康发展和社会的福祉。

“亚太地区有机会在应对AI带来的真假难辨挑战方面发挥先导作用，同时确保深度伪造不会损害合法企业并帮助每个人能够区分事实与虚构内容。”Blumofe说道。

在打造零信任环境方面，目前，亚太地区及日本已经开始采取行动，出台了更严格的法规来保护个人身份信息并避免数据泄露。这些法规不仅加大了对违法行为的处罚力度，还要求企业采取更加有效的安全措施来保护用户数据。

为了满足法规要求并抵御社会工程攻击，许多企业开始对Zero Trust架构进行投资。这种架构的核心思想是“永不信任，始终验证”，强调对所有用户和设备的持续性验证，而不是仅仅依靠一次性的身份验证，即便是某个员工无意中成为社会工程攻击的受害者，也能确保企业关键资产的安全。

实际上，在Zero Trust架构中，微分段技术扮演了关键角色。它可以将网络划分为多个小段，每个小段都有自己的安全策略和访问控制，即使攻击者成功侵入网络，他们的活动范围也会被限制在一个小段内，这大大提高了系统的安全性，降低了社会工程攻击成功的可能性。

在优化安全基础保护措施方面，随着生成式AI技术的快速发展，网络犯罪分子也开始利用这些工具来推进其恶意目标，这让企业安全面临全新的挑战。因此，企业必须时刻保持警惕，确保自身的资产得到充分保护。

尽管AI，尤其是深度学习在解决安全挑战上占有一席之地，有些初创公司也宣称已经使用生成式AI来制造确保安全的“灵丹妙药”，但实际是，完善的安全基础防护措施仍然是保护企业资产免受已知和未知威胁侵扰的最佳方式，这包括身份验证、监测能力、Zero Trust访问策略和微分段等。

总的来说，虽然AI技术在企业安全中发挥着重要作用，但企业不应该盲目追求AI技术，而应该优先考虑基础的安全保护措施，应对日益严峻的网络安全威胁。

根据Akamai近期发布的“A Year in Review”SOTI报告分析，尽管面临种种网络安全挑战，用户仍可以通过遵循网络和运营协调的两项最佳实践来提高保护自身的有效性，从而使 Akamai 能够作为其网络团队的延伸。

首先，企业应该在安全时期与 SOCC 合作，主动建立防御态势，而不是在攻击期间才尝试这样做。这样可以预先缓解攻击，而不会对生产产生影响，并且客户将收到详细说明所避免的攻击的后续报告。

其次，企业应该积极致力于运营准备和备份计划。例如，企业应该确保知道在测试期间如何进出不同的平台。由于运营问题，五分钟的攻击可能会对用户造成巨大的损失，因此做好运营准备与应对纯粹的网络问题同样重要。

每一项重大的技术进步，都会引发双重用途的困境。随着生成式AI技术的快速发展，对企业的云安全能力提出了更高的要求。企业应时刻保持警惕，持续提升自身的网络安全防护能力，以确保业务的稳健运行和持续发展。