Debemos pensar seriamente en poder 'desconectar' la IA cuando llegue a este punto, según el ex CEO de Google

La inteligencia sintético evoluciona a una velocidad vertiginosa en los últimos tiempos, por lo que se agradece que voces influyentes de la industria intenten resaltar tanto los beneficios como los peligros de esta tecnología.

Durante una entrevista flamante con ABC News, Eric Schmidt (ex-CEO de Google) advirtió que la Humanidad debe prepararse para un futuro en el que los sistemas de IA sean capaces de mejorar por sí mismos, con resultados potencialmente catastróficos.

Meter al inteligencia en la botella cuando ya está fuera

Schmidt explicó que los avances en IA, que actualmente se centran en herramientas específicas como asistentes virtuales o generadores de texto, podrían dar paso a sistemas mucho más complejos y autónomos. Según Schmidt,

"con el tiempo, se le dirá al ordenador: 'Aprende todo y haz todo', y habremos llegado a un punto peligroso".

Este hito, conocido como IA Genérico (AGI, por sus siglas en inglés), implicaría que las máquinas sean capaces de realizar cualquier tarea intelectual accesible a la mente humana.

El real problema radica en que, llegados a ese punto, estas máquinas podrían ser capaces de auto-mejorarse, lo que las llevaría a pasar incluso las capacidades humanas en todas las áreas (lo que se denomina superinteligencia sintético).

Para Schmidt, eso convertiría en poco esencial tener a nuestra disposición un mecanismo de control —un "interruptor de extinguido"— para desactivar los sistemas en caso de emergencia. Sin confiscación, plantea una duda inquietante: ¿será posible para los humanos persistir el control sobre máquinas tan avanzadas?

Advertencias / optimismo / regulación

Schmidt no está solo a la hora de expresa esta clase de preocupaciones: Geoffrey Hinton, conocido como el 'Padrino de la IA', afirmó en su momento que no ve un camino claro para certificar la seguridad en la era de la AGI; incluso Elon Musk señaló que existe una probabilidad de entre un 10% y un 20% de que la IA tenga consecuencias "devastadoras".

Aunque las advertencias suenen alarmantes, estas figuras todavía reconocen los inmensos beneficios de la IA. Schmidt lo expresó con optimismo:

"El poder de esta inteligencia significa que cada persona tendrá el equivalente a un erudito en su faltriquera".

Es sostener, la IA podría convertirse en un amigo que potencie la creatividad y la productividad a niveles nunca ayer vistos. Ahora admisiblemente, eso se aplicará a 'cada persona', y muchas personas se dedican a cosas en las que cualquier ayuda que reciban se convierte en un peligro para el resto.

Regulación: un camino aún incierto

La desarrollo de la IA plantea un dilema urgente: ¿quién regula estas tecnologías? Schmidt enfatizó que el exposición de la IA no debería proyectar exclusivamente en manos de tecnólogos. Inmediato con el fallecido Henry Kissinger, coautor del obra 'Genesis: Fabricado Intelligence, Hope, and the Human Spirit', Schmidt abogó por un papel activo de los gobiernos en la supervisión de estas tecnologías.

Vía | Fortune

Imagen | Marcos Merino mediante IA

En Genbeta | "La humanidad podría atreverse no fallecer": la advertencia de un habituado en IA que insta a destruir sus centros de entrenamiento