OpenAI va a lanzar una nueva IA open source. La última vez que hizo algo así la limitó por “ser muy peligrosa”

OpenAI, pese a su nombre, no se ha caracterizado por desplegar sus modelos a los desarrolladores. Ahora, Sam Altman ha anunciado un cambio de rumbo en la compañía: están preparando un maniquí de código descubierto que permitirá a cualquier desarrollador realizar modificaciones.

El postrer maniquí de código descubierto de OpenAI fue GPT-2, y lo cierto es que la experiencia con él no fue del todo positiva. OpenAI decidió condicionar su uso correcto a que "era muy peligrosa", ya que se podían realizar modificaciones para eliminar las restricciones diseñadas para evitar usos abusivos.

OpenAI vuelve a emplazar por los modelos de IA abiertos

A través de su cuenta de X, Sam Altman afirma que llevaban "pensando en esto desde hace mucho tiempo", pero que "otras prioridades tuvieron precedencia". Ahora, tras el emanación de su nuevo magneto de imágenes —que ha revolucionado las redes—, OpenAI parece estar dispuesta a darle más importancia a su maniquí de código descubierto.

Pulsa en la imagen para conseguir a la publicación

Eso sí, no será poco inmediato. El propio Altman asegura que están evaluando el maniquí "como lo haríamos con cualquier otro", aunque en este caso quieren hacer un trabajo adicional. El hecho de que sea de código descubierto implica que, tras su emanación, podrían producirse modificaciones para alterar el tipo de respuestas que genera el maniquí. El propio responsable de seguridad de OpenAI a través de su cuenta de X afirmó lo siguiente de este nuevo maniquí:

La seguridad es un aspecto fundamental en el mejora de nuestro maniquí de código descubierto, desde el preentrenamiento hasta su emanación. Los modelos abiertos presentan desafíos únicos [...]  Nos centramos especialmente en el estudio del ajuste infeliz y otros riesgos propios de los modelos abiertos.

Esto es precisamente lo que llevó a OpenAI a condicionar el uso de GPT-2 en su momento. La compañía clasificó su inteligencia sintético como "peligrosa" o "potencialmente peligrosa" correcto a su capacidad para originar textos falsos que parecían verídicos, e incluso por inventarse fuentes de información.

Desde entonces, OpenAI ha sido menos "open" y ha adoptivo una postura más cautelosa. Ahora han cambiado completamente al sostener Sam Altman lo venidero en su cuenta de X:

No haremos una tontería como sostener que no puedes usar nuestro maniquí descubierto si tu servicio no tiene más de 700 millones de usuarios activos mensuales.  ¡Queremos que todos lo usen!

Sin bloqueo, la porte cautelosa continúa reflejándose en este nuevo tesina: durante las próximas semanas reunirán a desarrolladores para compilar sus comentarios y explorar los prototipos que se vayan presentando.

El objetivo es comprobar si resulta claro modificar el maniquí para saltarse las limitaciones impuestas en su diseño. Según Altman, están "entusiasmados por ver qué construyen los desarrolladores". Para ello, OpenAI ha habilitado una web donde los interesados pueden inscribirse en estas jornadas, que se celebrarán en Estados Unidos y Europa.

DeepSeek es uno de los modelos de código descubierto que más impacto ha tenido en la sociedad en los últimos meses. Su éxito ha descubierto la puerta a que otras grandes empresas de inteligencia sintético adopten este enfoque, con el objetivo de que cualquier persona pueda conseguir al código y adaptarlo a tareas concretas.

Imágenes | Flickr (TechCrunch) Dima Solomin

En Genbeta | He probado esta app española que usa ChatGPT para ayudarte a agenciárselas carretera y ya no vuelvo a usar Idealista