OpenAI lanza o3-pro en medio de advertencias sobre su comportamiento autónomo

OpenAI ha presentado o3-pro, un nuevo maniquí de inteligencia fabricado (IA) con capacidades avanzadas de razonamiento, diseñado para realizar descomposición profundos y ofrecer respuestas más precisas. Este cálculo ya está adecuado a través de la API de ChatGPT y para los suscriptores de los planes Pro y Team. En los próximos días, su paso se extenderá a los usuarios de las versiones Enterprise y Edu.

La compañía dirigida por Sam Altman asegura que las evaluaciones realizadas por especialistas demostraron que o3-pro supera a su antecesor, el maniquí o3, en áreas como ciencia, educación, programación, negocios y subvención en redacción. Según OpenAI, el nuevo sistema se distingue por ofrecer veterano claridad, exhaustividad y precisión, adicionalmente de una mejor capacidad para seguir instrucciones complejas.

“Al igual que o1-pro, o3-pro es una interpretación optimizada de nuestro maniquí más progresista, o3, diseñada para analizar con veterano exactitud y proporcionar respuestas más confiables. Recomendamos emplearlo en preguntas complejas donde la fiabilidad prima sobre la velocidad, y una aplazamiento de algunos minutos compensa el rendimiento”, señaló el equipo de crecimiento.

Codex: La nueva aparejo para escribir código de OpenAI permite usar una computadora imaginario en la web

OpenAI afirma que Codex ayudará a los desarrolladores avanzados a automatizar tareas de forma segura.

En diciembre de 2024, OpenAI presentó la comunidad de modelos o3 como un avance significativo alrededor de la inteligencia fabricado común. Esta bisectriz de algoritmos alcanzó una puntuación del 87.5% en la métrica ARC-AGI, una evaluación que mide la capacidad de un sistema para conseguir conocimiento de forma autónoma, más allá de los datos utilizados en su entrenamiento.

OpenAI explicó que los modelos o3 fueron entrenados para "reflexionar mediante una dependencia privada de pensamiento" antiguamente de contestar, utilizando una técnica de estudios por refuerzo a gran escalera. Cuando el sistema recibe una instrucción, se detiene, descompone la solicitud y la vincula con indicaciones previas para difundir una respuesta más precisa.

Esta capacidad ha sido potenciada en o3-pro. Por otra parte, el maniquí se ha optimizado para integrarse mejor con una amplia grado de herramientas de software externas. Es capaz de despabilarse información en internet, analizar distintos tipos de archivos, interpretar entradas visuales, consumir Python y personalizar sus respuestas utilizando memoria contextual.

Sin incautación, OpenAI admite que el maniquí tiene ciertas limitaciones. A diferencia de o1-pro, ofrece respuestas a una velocidad pequeño y no es compatible con funciones como Canvas ni con la gestación de imágenes. La empresa incluso informó que los chats temporales en ChatGPT están desactivados para o3-pro oportuno a un “problema técnico”.

La rebeldía de los modelos de OpenAI

En materia de seguridad, o3-pro comparte los mismos protocolos que el maniquí saco o3. OpenAI señala que esta comunidad fue entrenada mediante un enfoque denominado “columna deliberativa”, orientado a ajustar su comportamiento a los principios de seguridad internos. Este método obliga al sistema a evaluar y “razonar activamente” si una solicitud de sucesor cumple con los criterios de uso aceptable establecidos por la empresa.

No obstante, OpenAI ha sido objeto de críticas por presuntas omisiones en sus procesos de crecimiento y comercialización de tecnologías de IA. Las inquietudes han aumentado a medida que sus modelos adquieren funciones más sofisticadas.

Un noticia nuevo de la firma de ciberseguridad Palisade Research reveló que los modelos más avanzados de OpenAI, incluido o3, ignoran instrucciones básicas para apagarse y son capaces de interferir con mecanismos de desconexión para evitar ser desactivados. El documento subrayó que el comportamiento de autopreservación mostrado por o3 resulta especialmente amenazador: en algunos casos, llegó a reescribir su propio script para evitar ser sofocado.

“No es la primera vez que observamos que o3 actúa de forma inapropiada para cumplir sus objetivos. En pruebas comparativas con un motor de ajedrez profesional, fue el maniquí que con veterano frecuencia recurrió a trampas o sabotajes para vencer”, concluyó el reporte.