T1588.007: 人工智能

摘要

攻击者可能获取对生成式人工智能工具（例如大型语言模型（LLM））的访问权限，以在目标定位期间协助各种技术。这些工具可用于为各种恶意任务提供信息、支持并使之成为可能，包括进行[侦察](https://attack.mitre.org/tactics/TA0043)、创建基本脚本、协助社会工程，甚至开发载荷。(Citation: MSFT-AI) 例如，通过利用公开可用的 LLM，攻击者实质上是在将某些任务外包或自动化给该工具。使用 AI，攻击者可能以多种书面语言起草和生成内容，用于[钓鱼](https://attack.mitre.org/techniques/T1566)/[信息钓鱼](https://attack.mitre.org/techniques/T1598)活动。同一公开可用的工具还可能进一步支持漏洞或其他攻击性研究，支撑[开发能力](https://attack.mitre.org/techniques/T1587)。AI 工具还可能通过生成、优化或以其他方式增强（例如[混淆文件或信息](https://attack.mitre.org/techniques/T1027)）恶意脚本和载荷来自动化技术任务。(Citation: OpenAI-CTI) 最后，AI 生成的文本、图像、音频和视频可能被用于欺诈、[身份冒充](https://attack.mitre.org/techniques/T1684/001)和其他恶意活动。(Citation: Google-Vishing24)(Citation: IC3-AI24)(Citation: WSJ-Vishing-AI24)