ChatGPT是一种生成式人工智能(AI)工具，旨在帮助用户获得洞察力以完成任务. Arguably, 生成式人工智能的概念可以比作个人电脑的进化与打字机的进化, or Google compared to a public library. ChatGPT can be considered an evolution of the encyclopedia. However, 通过这个先进的工具获得的知识使获得答案和更快地解决简单(或复杂)问题变得更容易. 它收集和使用来自用户的信息，以便开发人员获得更智能的结果. An AI chatbot can also make searches more valuable by creating ad hoc searches or filters to read data.
Many people are pondering whether ChatGPT is a friend or a foe. 类似于政府部门将大量非机密信息组合在一起可能导致更高的机密级别, AI has the same potential problem. Because it returns aggregate data from many sources, 它可以让恶意的网络攻击者收集足够的数据来渗透澳门赌场官方下载.
With these use cases and risk factors in mind, 安全专业人员有责任现在就采取行动，确定如何安全地利用人工智能——如果他们希望这样做的话.
Why ChatGPT Is Relevant to Cybersecurity
ChatGPT可以提供有用的信息，帮助网络专业人员分析安全事件，防止未来发生网络事件. 该程序能够生成一个主题的摘要，并提供可用于更深入研究的参考来源. Other uses entail:
- Saving time when asking for easily verifiable information如果用户询问有关Linux页面的信息或简短的how-to命令, ChatGPT can quickly provide that information.
- Pseudocode scripting engine-ChatGPT运行Python，可能完成Python能做的任何事情, depending on the implementation.
ChatGPT can also help enhance enterprise security. The tool can be used to provide:
- Threat analysis-ChatGPT可以接受与网络安全威胁相关的数据培训，以协助识别和分析潜在的安全事件.
- Big data analysis—Analyzing large volumes of data including log files, network traffic, 安全事件可以帮助组织更快速有效地识别和响应潜在的安全事件.
Cybercriminals Are Taking Notice
While AI models such as ChatGPT can be used for good, 同时，网络犯罪分子也在利用它们来改进他们的恶意策略. 他们通过询问chatgpt特定的问题来提高他们的信息收集. For example, a cybercriminal can use their knowledge, 询问chatgpt特定的问题，以增强他们已经具有欺骗性的工具的能力.
A cybercriminal can use their knowledge, 询问chatgpt特定的问题，以增强他们已经具有欺骗性的工具的能力.
黑客可能已经分析了澳门赌场官方下载的网络并发现了漏洞. At this point, they can ask ChatGPT questions such as, “I have found a network vulnerability, how do I fix it to protect my network?” It is worth noting that ChatGPT tries to avoid helping hackers, but if the hacker knows how to phrase the question correctly, ChatGPT does provide assistance.
黑客们知道，与让人工智能工具向他们展示如何利用网络漏洞相比，ChatGPT的这一系列问题对于发现有用的信息更有效. Once the desired information is revealed, 黑客可以创建一个清单并构建恶意代码来渗透目标漏洞. From a defensive standpoint, 网络安全人员可以向ChatGPT询问黑客提出的相同问题, but from a security engineering perspective, to defend the network.
从ChatGPT获得最有价值的信息需要提出正确的问题，并在初始查询的基础上进行扩展，以获得期望的结果和更深入的理解. 黑客们正在认识到，他们不能直接向ChatGPT提出恶意的问题, or they will receive a response such as, “I do not create malware.相反，他们要求它假装ChatGPT是一个可以执行特定脚本的人工智能模型.
恶意行为者继续利用并设计安装恶意软件的过程，或者让人们放弃未经授权的数据系统访问凭据. AI tools are making it easier for cybercriminals to harm people. ChatGPT只是另一个人工智能工具，他们正在学习与其他人工智能模型一起使用，例如:
- Dalle-2, which manipulates and can generate any image1
- Prime Voice AI, which can manipulate and clone any person's voice2
值得注意的一点是，利用人工智能通过社会工程操纵人类的能力正变得越来越可控. However, ChatGPT is not a Rosetta Stone-like translator for hackers. 尽管人工智能生成的脚本和社交媒体平台的脚本都是由机器制作的, their complexity, reliability and security can differ significantly. Thus, 在决定是否值得信任之前，评估每个人工智能生成的脚本或程序及其目的是至关重要的. 如果用户对脚本了解不够，无法跟踪脚本的功能，则可能产生意想不到的或破坏性的结果.
Conclusion
Soon, it will be necessary to support AI machines to monitor networks, 分析数据并解释结果，以便在没有人工干预的情况下识别和防御网络威胁. 这种防御隐藏在静态防火墙或安全事件管理(SIEM)工具的概念背后.
新的人工智能工具将获得与人类相同的威胁情报. 但人工智能工具将能够立即处理大量数据块，并从实时发生的情况中学习，以便在威胁发生之前做出适应性决策.
Conversely, 威胁行为者将利用人工智能来生成绕过和击败防御网络的人工智能工具的新方法. The world is entering a time when AI is fighting AI, 安全专业人员必须专注于比对手更快地为这项技术提供更多相关数据. 人工智能在网络安全方面的竞争正在以该模型能够承受的速度进行, correlate and suggest desired responses.
Endnotes
1 Openai.com, “DALL-E 2”
2 Welcome.ai, “Prime Voice AI”
Zachary Folk, CEH, CISSP-ISSEP, Security+
Is the director of solutions engineering at Camelot Secure. As an experienced cyberprofessional, 他的工作范围从系统管理到信息系统安全管理. 这种经验使他能够帮助澳门赌场官方下载集成遵从性和安全标准的技术解决方案. 福克还担任了14年的美国阿拉巴马州国民警卫队军官.