优点：人工智能可以实时分析和响应威胁。

BackupVault 创始人 Rob Stevenson 表示，人工智能可以帮助实时识别潜在的安全风险。我认为这是非常有价值的。史蒂文森说：“它可以监控网络上的大量流量，并快速发现可能表明存在漏洞或恶意软件的异常模式。” “它还可以通过自动化和提高加密技术的效率来增强加密技术。”

是 的技术专家和全栈开发人员，亲身经历了这一点。

示例：“人工智能可以成为增强数据安全性的强大盟友，”费尔南多说。 “在 Net Speed Canada，我们部署了人工智能驱动的入侵检测系统，可以持续监控网络流量，实时识别和响应潜在威胁。这提供了额外的安全层，在速度和准确性方面都远远超过了传统方法。”

，首席营销官，分享费尔南多的经验。 “人工智能可以通过其在威胁检测和加密方面的作用，成为保护数据的强大工具，”Nathalea 说。

“在我们发现问题之前，它就会标记可疑活动。最重要的是，人工智能加密工具会自动启动，因此如果出现漏洞，数据就会被扰乱，并且不太可能被滥用。这种自动化让我的团队晚上睡得更好。”

弱点：人工智能模型很容易被愚弄。

显示，近 100% 的互联网用户 (96%) 知道人工智能幻觉，而大约 86% 的人亲身经历过它们。此外，46% 的受访者经常遇到人工智能幻觉，35% 的受访者偶尔会遇到。与此同时，75% 的人工智能用户至少被误导过一次。

但这就是我想看的地方k 它变得更加有趣。人工智能不仅有可能无意中愚弄那些拼命争夺提供必要信息的用户……Shahnazari 表示，“人工智能模型也很容易被愚弄。”

示例：“例如，人们通过逐渐改变消费习惯来玩弄我们的系统，以获得更好的信用卡推荐，”Shahnazari 说。 “用户每月逐渐增加 500 美元的报告收入，直到有资格获得高级卡。人工智能没有将其标记为可疑，因为变化很小。”

优势：人工智能可以比人类更快地处理大量数据。

这不是什么秘密：人工智能可以以令人难以置信的速度处理数据——甚至微秒，这取决于您所使用的技术。 ，一家将智能安全摄像头技术与现场保安相结合的公司，其营销销售高级副总裁对此表示同意。 “人工智能在数据保护方面具有显着的优势，”鲍里斯说。 “它可以实时分析大量数据，检测异常现象和潜在违规行为的发现速度远远快于人类分析师。”

示例：Borys 分享了一个用例：“我们使用人工智能保护数据的一种方法是通过网络流量中的高级模式识别。我们的人工智能模型可以检测到可能表明存在违规行为的异常数据访问模式，从而使我们能够主动做出响应。我们的人工智能安全系统可以在几毫秒内识别并响应威胁，显着增强客户的数据保护。”

作为现有 HubSpot 用户，需要帮助整理您的数据吗？在 HubSpot 上尝试这些。如果您还没有尝试过，您可以免费进行路试。

弱点：人工智能在数据量和质量方面可能会出现问题。

回到 ，数据领导者将不断增加的数据量和种类视为人工智能的重大障碍。此外，42% 的人认为数据质量是人们将人工智能集成到其业务中的另一个主要障碍。

全栈开发人员 Tharindu Fernando 也将数据量视为数据保护的潜在威胁离子。 “如果管理不当，人工智能系统处理的海量数据可能会带来重大的隐私风险。为了减轻这些风险，我发现实施强大的加密协议并严格遵守数据保护法规至关重要。”

与此同时，Rob Stevenson 分享了有关数据质量的见解。 “一个主要弱点是对输入系统的数据质量的依赖，”史蒂文森说。 “如果数据受到损害或存在偏见，人工智能的输出可能会存在缺陷，从而导致糟糕的决策。人工智能系统也可能成为网络犯罪分子的有吸引力的目标，特别是如果模型包含敏感信息。”

来自 Deep Sentinel 的 Tomasz Borys 分享了以下示例。

示例：“我们发现人工智能既可以成为数据保护的强大工具，如果管理不当，也可能带来潜在风险，”Borys 说。 “根据我们的经验，我们的观点是：如果实施不当，人工智能确实会带来隐私风险。例如，人工智能系统十个需要大型数据集进行训练，如果不正确匿名，可能会暴露敏感信息。”

他补充道：“我们在开发人工智能模型来检测安全录像中的可疑行为时曾经遇到过这个问题。我们必须重新设计数据预处理，以确保在将其输入人工智能系统之前删除所有可识别信息。”

专业提示：保持数据干净、清晰并处于控制之下，这对您来说是繁重的工作。

如何在使用人工智能时保护数据

你知道，我也知道：生活并不总是非黑即白。通常情况下，它是灰色阴影的。人工智能如何与隐私互动就是这种情况。踢球者？人工智能既可以是问题的根源，也可以是问题的解决方案。

正如他们在文章中所说：“解决不良人工智能的最佳方法是使用良好的人工智能。”这就是为什么我们的专家回来向我们展示如何保护数据的原因。

1、多管齐下。

“我一直主张多方面的方法，”技术专家 Tharindu Fernando 说道。他解释说，这包括采用强大的加密算法、实施精细的访问控制以及定期对其人工智能系统进行安全审核。

此外，“在医疗保健项目中，我们更进一步，在我们的 AI 模型处理敏感数据之前对其进行匿名处理，确保符合 HIPAA 合规性，同时仍然受益于 AI 的分析功能。”

2. 实施强大的数据治理框架。

“在任何数据保护计划中，拥有强大的数据治理态势并确保加密和其他强大的访问控制到位至关重要，”首席运营官 Frank Milia 建议。 “采取主动的数据管理方法将有助于确保人工智能环境中受保护的数据尽可能安全。”

Tomasz Borys 同意 Milia 的观点，表示他们遵循严格的协议来确保使用人工智能时的数据保护。 Borys 制定了如下协议：

我们使用联邦文件尽可能使用学习技术，允许人工智能模型在不直接访问数据的情况下从数据中学习。 我们实施差异隐私，向数据集添加受控噪声，以防止单个数据点被识别。 我们定期审核我们的人工智能系统是否存在偏见和潜在的隐私泄露。

Borys 表示，这些措施帮助 Deep Sentinel 在利用 AI 力量的同时保持了完美的数据保护记录。

他补充道：“对我来说，人工智能是一种工具，与任何工具一样，它的影响取决于它的使用方式。关键要点是，通过实施强大的数据治理实践和保护隐私的人工智能技术，您可以利用人工智能的力量来保护数据，同时最大限度地降低风险。”这种平衡的方法使他们能够在安全技术方面进行创新，同时保持最高的数据隐私标准。

3. 投资正确的工具和培训。

“IT、风险和网络安全专业人员需要了解公司面临的最新挑战放松非结构化数据存储及其如何影响计算机硬件管理实践，”Milia 警告说。

“例如，最大的台式机制造商正在营销‘人工智能台式机’作为企业最终用途计算升级的下一个重要催化剂。这些桌面可能会将数据存储在日志、临时缓存、数据湖或内存转储中，这使得隔离或删除数据变得更加困难。”

除了让您的团队保持最新状态之外，Milia 建议组织实施工具来跟踪、管理和审核 AI 系统中的数据流，以解决这些问题。这包括需要开发从人工智能模型中清除敏感数据以及在新兴人工智能硬件上执行数据擦除的工具和方法。

4. 正确加密和匿名化数据。

“为了确保数据在使用人工智能时受到保护，首先要确保您收集的任何数据在被人工智能系统使用之前都经过正确加密和匿名处理，”史蒂文森说。 “这减少了暴露的机会如果确实发生违规，则会提供敏感信息。”

专业提示：史蒂文森还建议遵循最少数据收集的原则 - 不要收集超出完成任务所需的信息。

5. 通过人工监督补充自动化。

“人工智能可以通过提供更复杂的防御机制来成为改善数据保护的宝贵工具，”史蒂文森说。他解释说，人工智能驱动的系统可以通过检测人类可能错过的网络中的异常行为或漏洞来实时预测和阻止威胁。此外，人工智能可以协助数据分类，确保敏感信息得到正确识别并通过额外的安全层进行处理。

“利用人工智能自动化这些流程可以大大减少人为错误，而人为错误是数据泄露的常见原因，”他补充道。 “然而，通过人类监督来补充人工智能也很重要，定期审查模型以确保它们得到更新并按预期运行。”

专业提示：史蒂文森还建议您定期审核和更新人工智能模型，确保它们符合最新的安全协议。

6. 使用人工智能监控数据访问模式。

“为了保护数据，我们正在使用人工智能监控数据访问模式，”Kevin Shahnazari 说道。据 Shahnazari 称，他们的系统在凌晨 3 点发出了警报，当时一名员工下载了异常数量的客户数据。原来是授权维护，但这种监控让他们安心。

此外，为了在使用人工智能时保护数据，FinlyWealth 团队遵循三个规则：

最大限度地减少数据暴露——他们的模型只看到他们需要的内容。 使用合成数据进行测试——他们创建了 100,000 多个虚假用户配置文件进行开发。 定期模型审核——每月检查人工智能输出是否存在潜在泄漏。 7. 保持系统更新并使用屏蔽技术。

“为了在使用人工智能时保护数据，您必须保持系统更新并使用屏蔽技术s，”Mira Nathalea 说道。

“我们确保定期更新我们使用的人工智能算法，以便它们能够敏锐地应对新的威胁。我们还在处理过程中屏蔽敏感数据，因此即使出现问题，最关键的信息仍然受到保护。”

8. 从头开始​​将隐私考虑纳入人工智能系统。

最后，我们听取了人工智能会计自动化公司 的首席执行官兼联合创始人的发言。由于他的公司广泛使用人工智能，吉尔伯特在保护敏感财务数据方面对人工智能的潜在风险和好处进行了很多思考。

“与任何强大的技术一样，人工智能确实有可能被滥用，从而损害隐私，”吉尔伯特说。 “但是，我相信，通过适当的保障措施和负责任的开发，人工智能实际上可以增强数据保护。关键是从头开始将隐私考虑因素融入到人工智能系统中，而不是事后试图将其固定下来。”

帮助阿赫为此，Numeric 团队确定了一系列问题，可以考虑向任何嵌入人工智能的软件供应商询问。 “我们是怎么想出它们的？我们没有——这些问题与潜在客户向我们提出的许多问题相同。”吉尔伯特说。

以下是吉尔伯特建议提出的问题的概述：

您在哪里使用生成式人工智能，或者在哪里集成了它？ 您目前的 LLM 提供商有哪些？ （例如 OpenAI、Claude 等）

来源：hubspot