Enterrado en la tarjeta del sistema Opus 5, no en las puntuaciones de evaluación del titular: es el modelo con mayor capacidad de inyección de prompts, hasta la fecha, de Anthropic.


Los comprobantes:
> probado en evaluaciones de prompt-injection, no solo en un escenario
> resistió intentos activos del equipo rojo
> señalado por el propio responsable principal de Anthropic como el resultado que más le entusiasma, por encima de los benchmarks
La inyección de prompts es el ataque que vuelve a tu agente contra ti. Cada llamada a una herramienta con datos no confiables es una exposición. Mover ese número vale más que un punto en un banco de pruebas de código.
Ver original
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
  • Recompensa
  • Comentar
  • Republicar
  • Compartir
Comentar
Añadir un comentario
Añadir un comentario
Sin comentarios
  • Fijado