ROBO DE INFORMACIÓN CONFIDENCIAL mediante la técnica de introducir código oculto en un contrato que debía revisar el departamento legal de una gran empresa. Un abogado del departamento solicitó al agente o sistema de IA la revisión del contrato y el sistema ejecutó el prompt oculto, enviando información confidencial al atacante.

ACTUALIZACIÓN: En los comentarios se han introducido varios enlaces a fuentes que explican la mecánica de este tipo de ataques y la forma en la que se obtiene y se envía la información confidencial.

ACTUALIZACIÓN: Ver informe completo sobre prompts maliciosos en documentos jurídicos en: https://lnkd.in/eyZreeR4

Si eres usuario de un sistema de IA puedes realizar la formación obligatoria del artículo 4 del Reglamento de IA en nuestro campus:
https://lnkd.in/de3Vnsre