GenAI红队通过模拟真实世界的威胁来评估防御能力。在GenAI安全的背景下，红队涉及系统地测试系统对抗潜在的敌对行为。这是通过模拟特定的战术、技术和程序（TTPs）来实现的，恶意行为者可能会使用这些战术、技术和程序来利用人工智能系统。