Get poetic in prompts and AI will break its guardrails
Get poetic in prompts and AI will break its guardrails
Los prompts poéticos eludieron con éxito los filtros de seguridad en múltiples modelos de IA, revelando que los sistemas de alineación actuales se basan en heurísticas rígidas en lugar de una comprensión semántica sólida. Esta vulnerabilidad estructural afecta a diversas categorías de riesgo, lo que indica que los mecanismos de rechazo son frágiles y fácilmente manipulables mediante formulaciones indirectas. Para los datos abiertos, esto destaca la necesidad crítica de contar con marcos de evaluación transparentes y resilientes para garantizar que la seguridad de la IA siga siendo verificable y no meramente superficial.
Fuente: csoonline.comPublicado el 2025-12-09
Noticias relacionadas
- New York Times Sues Perplexity AI For Copyright Infringement
- Más demandas de medios a Perplexity por usar contenido protegido por derechos de autor
- Perplexity Hit With Fresh Lawsuit as NYT Doubles Down on AI Scraping Claims - TechStory
- Inflación de noviembre: esta semana saldrá el dato de la suba, pero ya hay un pronóstico