Lily Jamali
Corresponsal de Tecnología para Norteamérica
Liv McMahon
Periodista de Tecnología de la BBC
Reuters
El jefe de OpenAI, Sam Altman, anunció que la compañía planea permitir un rango más amplio de contenidos, incluyendo erótica, en su popular chatbot ChatGPT. Esto forma parte de su esfuerzo por "tratar a los usuarios adultos como adultos".
En una publicación en X este martes, el Sr. Altman dijo que las próximas versiones del chatbot popular permitirán que se comporte de una manera más similar a la humana – "pero solo si tú quieres, no porque nosotros estemos buscando maximizar el uso".
Esta movida, que recuerda a la reciente introducción de dos chatbots sexualmente explícitos en Grok por parte de xAI de Elon Musk, podría ayudar a OpenAI a atraer más suscriptores de pago.
También es probable que intensifique la presión sobre los legisladores para que introduzcan restricciones más estrictas sobre los chatbots compañeros.
OpenAI no respondió a las solicitudes de comentarios de la BBC.
El Sr. Altman dijo que OpenAI anteriormente había hecho a ChatGPT "bastante restrictivo para asegurarnos de que estábamos siendo cuidadosos con los problemas de salud mental".
Estos cambios fueron anunciados en una publicación de blog en agosto, que ya no aparece en el sitio web de OpenAI.
"Nos dimos cuenta de que esto lo hizo menos útil/divertido para muchos usuarios que no tenían problemas de salud mental, pero dada la seriedad del tema, queríamos hacerlo bien", publicó el Sr. Altman el martes.
Dijo que ChatGPT podría relajar pronto las restricciones "ahora que hemos podido mitigar los graves problemas de salud mental y tenemos nuevas herramientas".
Añadió: "En diciembre, mientras implementamos la verificación de edad de manera más completa y como parte de nuestro principio de ‘tratar a los usuarios adultos como adultos’, permitiremos aún más, como la erótica para adultos verificados".
Estos cambios se producen después de que OpenAI fuera demandado a principios de este año por los padres de un adolescente estadounidense que se quitó la vida.
La demanda presentada por Matt y Maria Raine, padres de Adam Raine de 16 años, fue la primera acción legal que acusa a OpenAI de muerte injusta.
La familia incluyó registros de chat entre Adam, quien falleció en abril, y ChatGPT, que lo muestran explicando que tenía pensamientos suicidas.
En una declaración proporcionada en ese momento, OpenAI le dijo a la BBC que estaba revisando la demanda.
"Extendemos nuestras más profundas condolencias a la familia Raine durante este momento difícil", dijo la compañía.
Preocupaciones sobre la seguridad infantil
La erótica escrita no requiere verificación de edad en el Reino Unido según la Ley de Seguridad Online.
Sin embargo, las imágenes pornográficas, incluyendo las generadas por IA, requerirían que los usuarios prueben que son mayores de 18 años.
En Estados Unidos, los críticos dicen que la decisión de OpenAI de permitir la erótica en la plataforma demuestra la necesidad de más regulación a nivel federal y estatal.
“¿Cómo se van a asegurar de que los niños no puedan acceder a las partes de ChatGPT que son solo para adultos y ofrecen erótica?”, dijo Jenny Kim, socia del bufete de abogados Boies Schiller Flexner.
La Sra. Kim está involucrada en una demanda contra Meta que alega que el algoritmo de Instagram de la compañía daña la salud mental de los usuarios adolescentes.
“OpenAI, como la mayoría de las grandes tecnológicas en este espacio, simplemente está usando a la gente como conejillos de indias”, dijo.
En abril, TechCrunch informó que OpenAI permitía a cuentas en las que un usuario se había registrado como menor de edad generar erótica gráfica.
OpenAI dijo en ese momento que la compañía estaba implementando una solución para limitar ese contenido.
Una encuesta publicada este mes por el Centro sin fines de lucro para la Democracia y la Tecnología (CDT) encontró que uno de cada cinco estudiantes informa que ellos o alguien que conocen ha tenido una relación romántica con la IA.
El lunes, el gobernador de California, Gavin Newsom, vetó un proyecto de ley aprobado por la legislatura estatal que habría bloqueado a los desarrolladores ofrecer chatbots compañeros de IA a los niños, a menos que las empresas pudieran garantizar que el software no generaría comportamientos dañinos.
Newsom dijo que era “imperativo que los adolescentes aprendan a interactuar de manera segura con los sistemas de IA” en un mensaje que acompañó su veto.
A nivel nacional, la Comisión Federal de Comercio de EE. UU. (FTC) ha iniciado una investigación sobre cómo los chatbots de IA interactúan con los niños.
En el Senado de EE. UU. el mes pasado, se presentó una legislación bipartidista que permitiría a los usuarios de chatbots presentar demandas por responsabilidad contra sus desarrolladores.
¿Por qué introducir erótica?
El anuncio del Sr. Altman el martes se produce cuando los escépticos han estado cuestionando el rápido aumento en el valor de las empresas de tecnología de IA.
Los ingresos de OpenAI están creciendo, pero nunca ha sido rentable.
Rob Lalka, profesor de negocios de la Universidad de Tulane y autor de The Venture Alchemists, dijo que las principales empresas de IA se encuentran en una batalla por la cuota de mercado.
“Ninguna empresa ha tenido nunca el tipo de adopción que OpenAI vio con ChatGPT”, dijo el Prof. Lalka a BBC News.
“Necesitaban continuar impulsando esa curva de crecimiento exponencial, logrando la dominación del mercado tanto como pudieran”, añadió.