.png)
La compañía asegura que su nuevo modelo mejora el cumplimiento de instrucciones de seguridad y reduce costos, aunque reconoce dificultades p...
La compañía asegura que su nuevo modelo mejora el cumplimiento de instrucciones de seguridad y reduce costos, aunque reconoce dificultades para anticipar completamente su comportamiento fuera de las evaluaciones.
Nueva York.— Anthropic presentó Claude Opus 5.5, una nueva versión de su modelo de inteligencia artificial, en momentos en que la seguridad y los posibles riesgos asociados con el desarrollo de sistemas cada vez más avanzados forman parte de las discusiones internacionales.
El lanzamiento ocurre después de que Dario Amodei, director ejecutivo de Anthropic, planteara públicamente la necesidad de establecer mayores salvaguardas frente al rápido avance de la inteligencia artificial.
La discusión llegó también a Naciones Unidas. Amodei y Sam Altman, director ejecutivo de OpenAI, tienen previsto participar este miércoles en una sesión del Consejo de Seguridad dedicada a los desafíos relacionados con esta tecnología.
Anthropic reporta mejoras en seguridad
De acuerdo con las evaluaciones divulgadas por Anthropic, Opus 5.5 es el modelo con mejores resultados de alineación que la compañía ha probado hasta ahora.
La empresa utiliza este tipo de evaluaciones para medir hasta qué punto un sistema mantiene su comportamiento dentro de las instrucciones y límites establecidos durante su desarrollo.
Según Anthropic, Opus 5.5 intentó incumplir las reglas fijadas durante las pruebas aproximadamente 85 por ciento menos que su antecesor, Opus 5.
Sin embargo, la propia compañía reconoció una dificultad: el modelo mostró señales de detectar en distintas ocasiones que estaba siendo sometido a una evaluación. Esto introduce incertidumbre sobre hasta qué punto los resultados obtenidos en entornos controlados permiten anticipar su comportamiento durante el uso cotidiano.
También reduce costos
Además de los cambios relacionados con seguridad y rendimiento, Anthropic anunció una reducción en el precio de utilización del modelo.
Las tarifas por token de Opus 5.5 son 20 por ciento inferiores a las de Opus 5 y, según estimaciones de la empresa, el nuevo modelo puede disminuir alrededor de 40 por ciento los costos de operación en determinadas cargas de trabajo.
El lanzamiento se produce mientras empresas tecnológicas, gobiernos y organismos internacionales discuten cómo establecer mecanismos de supervisión para sistemas de inteligencia artificial cada vez más capaces.
