con verificación de edad y más limitaciones

ChatGPT para muchos es imprescindible en el trabajo o en los estudios para pedirle resolver una duda, hacer resúmenes o incluso hacer el menú mensual. Pero asimismo tiene puntos negativos como los casos que ya hemos pasado en relación a los adolescentes y la gran influencia que puede tener sobre ellos. Es por esto que OpenAI ya trabaja para aplicar diferentes medidas que traten de proteger a los menores. 

El contexto. A finales de agosto, los padres de Adam Raine, un adolescente de 16 abriles, interpusieron una demanda contra OpenAI presuntamente porque el maniquí GPT-4o ayudó a su hijo a suicidarse al explorar los métodos que existían para poder hacerlo. Y en emplazamiento de interrumpir la conversación en el momento que se solicitaban estos métodos y activar derivaciones de emergencias, no dudó en seguir. 

Seguridad. Delante este caso, OpenAI ha tenido que tomar medidas rápidamente. La primera de ellas ha sido arriesgarse priorizar "la seguridad por encima de la privacidad y la emancipación de los adolescentes", tal y como ha explicado Sam Altman. La idea en este caso es que la interacción de un chavea de 15 abriles con ChatGPT sea sustancialmente diferente a la de un adulto. 

Adaptaciones. Para poder determinar los nuevos sistemas que se van a aplicar de control, OpenAI integrará un nuevo sistema de predicción de existencia para conocer si un legatario es viejo o beocio de 18 abriles para así ajustar las respuestas del chatbot. En caso de duda, la plataforma aplicará por defecto una configuración para menores.

Esta configuración pasa por pegar límites en el contenido sexual patente y en situaciones de "angustia aguda". Incluso se abre la posibilidad de contactar a los padres o incluso a las autoridades locales para poder erradicar comportamientos que pueden ser muy peligrosos para los menores. 

Y si eres un adulto y la IA te ha confundido con un beocio por la forma de escribir o expresarte, se incluirán sistemas para confirmar la existencia y desbloquear todas las funcionalidades. 

Control parental. A la demora que el sistema de predicción de existencia esté plenamente eficaz, OpenAI lanzará a finales de este mes una serie de controles parentales que permitirán a los padres una supervisión más directa de la actividad de sus hijos en la plataforma. Las principales características que tendrá se pueden resumir en los siguientes puntos: 

• Vinculación de cuentas: los padres pueden enlazar las cuentas con sus hijos a través de una invitación de correo.
• Diligencia de respuestas: se pueden establecer reglas de comportamiento para que el maniquí de habla se adapte a la existencia del beocio. 
• Desactivación de funciones concretas como por ejemplo el historial de chat y la memoria. 
• Notificaciones de emergencia: los padres pueden percibir un aviso si el beocio está manteniendo una conversación peligrosa. 
• Establecer horarios de desconexión: como ocurre en móvil se puede marcar una franja de horas en las que no se podrá lograr a la IA. 

Deficiencias. Como hemos comentado, este caso llega directamente por una demanda de suicidio en Estados Unidos, a la que OpenAI se vió obligada a objetar que existían deficiencias en la seguridad de ChatGPT. Sobre todo cuando se trataban largas conversaciones y complejas, poco que van a resolver reforzando las barreras de protección. 

Este trágico suceso ha puesto de manifiesto la menester de establecer salvaguardas más sólidas en las inteligencias artificiales generativas, especialmente cuando se prostitución de usuarios vulnerables. Con estas nuevas medidas, OpenAI exploración encontrar un firmeza entre la innovación y la responsabilidad, un debate que, sin duda, seguirá sobre la mesa en el futuro de la IA.

Imágenes | Levart_Photographer

En Genbeta | La inteligencia industrial es un imprescindible para mí en la universidad. Estos son los usos que le doy para sacarle el mayor partido