Entendé cómo se manipulan los sistemas de IA mediante prompt injection y aprendé a diseñar prompts y aplicaciones más resistentes a estos ataques.
Módulo 1
El ataque más común contra aplicaciones basadas en LLM.
Módulo 2
Técnicas concretas para reducir la superficie de ataque.
Módulo 3
Probar tus defensas antes de que las prueben por vos.
Tomá un system prompt real (tuyo o de un caso de estudio) y hacele una auditoría completa: identificá vectores de ataque, aplicá al menos 2 técnicas de defensa y documentá el resultado del red teaming.
Desafío adicional: Probar también un vector de injection indirecto simulando un documento externo malicioso.