ARTDEPARTMENT
ARTDEPARTMENT
El conflicto admitido que mantienen Elon Musk y Sam Altman ha facilitado que salgan a la luz una serie de correos electrónicos entre los fundadores de OpenAI (figuras prominentes de Silicon Valley como Elon Musk, Sam Altman, Andrej Karpathy, Ilya Sutskever y Greg Brockman) que exponen cómo se gestaron decisiones secreto sobre la compañía y cómo se dio forma a su visión sobre la IA durante aquellos primeros pasos.
En mayo de 2015, Sam Altman propuso a Elon Musk una idea que sentaría las bases de OpenAI:
"He estado pensando mucho sobre si es posible impedir que la Humanidad desarrolle IA. Pienso que la respuesta es casi definitivamente 'no'.
Si de todos modos va a suceder, parece que sería bueno que cualquiera que no sea Google lo haga primero.
¿Alguna idea sobre si sería bueno que Y Combinator iniciara un Plan Manhattan para la IA?".
"Probablemente valga la pena conversar al respecto", contestó Elon Musk dos horas más tarde.
La idea giraba en torno a una estructura sin fines de beneficio (qué allí queda eso) que promoviera la distribución equitativa de los beneficios de la IA, un concepto angurriento que buscaba atraer a los mejores talentos con una estructura híbrida entre los incentivos del mundo empresarial y la cometido social de una fundación.
Altman sugirió que un equipo corto de expertos iniciales podría sentar las bases para el esquema, poniendo sobre la mesa nombres de figuras influyentes como Bill Gates, Dustin Moskovitz y Pierre Omidyar, por otra parte de los propios Altman y Musk.
"Estoy de acuerdo en todo", contestó Musk. Y este intercambio original de pareceres fue la piedra sobre la que se asentó una de las entidades más influyentes en el campo de la IA.
Los correos asimismo reflejan el respeto/temor con destino a el predominio de Google DeepMind en el campo de la IA. Karpathy calculó que DeepMind podría estar operando con un presupuesto anual cercano a los 500 millones de dólares, una signo que, aunque considerable, representa una fracción del potencial de ingresos de Alphabet.
Con bienes masivos, infraestructuras avanzadas y llegada a un tercio de toda la investigación mundial en IA, Google representaba un competidor formidable. Musk calificó a DeepMind como una amenaza potencial correcto a su "filosofía de una sola mente para administrar el mundo".
Los impulsores de OpenAI asimismo muestran en sus correos una preocupación constante sobre cómo competir con Google DeepMind, que ya estaba avanzando rápidamente en el avance de IA: para atraer a los mejores investigadores, OpenAI diseñó un paquete de compensación que combinaba salarios competitivos y billete en la estructura de financiación de Y Combinator.
Sin secuestro, asimismo se enfrentaron a contraofertas agresivas de DeepMind y otras grandes empresas tecnológicas. En un correo de diciembre de 2015, Altman destacó que DeepMind había comenzado a ofrecer "ofertas masivas" a los empleados de OpenAI, intentando descarrilar su progreso. "Si no atraemos a los mejores talentos, seremos irrelevantes", advertía Musk dos meses a posteriori.
A medida que OpenAI sigue avanzando en la carrera por alcanzar la 'IA militar' (AGI), las decisiones tomadas hace unos pocos abriles pueden terminar teniendo una influencia imprevista sobre el futuro de la Humanidad
Entre las figuras destacadas en esta novelística, Andrej Karpathy se erige como un pensador quimérico: En sus correos, Karpathy señaló que el progreso en IA está impulsado principalmente por la disponibilidad de sistemas computacionales masivos, datos y la infraestructura para procesarlos. Esta perspectiva subraya la importancia de modificar en capacidad computacional, incluso por encima de los avances algorítmicos.
Y esa perspectiva ha funcionado correctamente durante algunos abriles, aunque ya sabemos que cada vez tiene menos represión.
La tensión sobre cómo organizar la gobernanza de OpenAI emergió como un tema central. Musk buscaba sostener un control firme, argumentando que era necesario para respaldar que OpenAI se mantuviera fiel a su cometido. Sin secuestro, Sutskever y Brockman expresaron preocupaciones sobre el aventura de concentrar demasiado poder en una sola persona. El primero de ellos escribía lo posterior en uno de sus e-mails:
"El objetivo de OpenAI es hacer que el futuro sea mejor y evitar una dictadura de la IA militar. A ti te preocupa que Demis [Hassabis, CEO de DeepMind] pueda crear una dictadura de la IA militar. A nosotros asimismo. Por lo tanto, es una mala idea crear una estructura de la que tú pudieras convertirte en dictador si así lo deseas".
Este desacuerdo condujo a debates internos intensos y, eventualmente, a la salida de Musk de la sociedad directiva en 2018.
Curiosamente, entreambos puntos de paisaje terminaron teniendo razón: como Elon Musk temía, OpenAI renegó rápidamente tanto de su superficie 'open' como de su naturaleza carente de actitud de beneficio, y como Sutskever temía, la compañía terminó degenerando en una estructura de concentración personalista del poder... sólo que éste ahora es ejercido por Sam Altman.
Vía | LessWrong
Imagen | Marcos Merino mediante IA
En Genbeta | Los trece consejos del CEO de OpenAI para tener éxito en los negocios. Uno de ellos, inspirado mínimo menos que por Elon Musk
Compartir este artículo
Consultoria Personalizada
¡Si aun no tienes presencia en internet o
necesitas ayuda con tus proyectos, por favor, escribenos!
En ARTDEPARTMENT nos especializamos en brindar soluciones para que tu negocio, empresa o proyecto sea visible en internet.