Un proyecto de ley en Nueva York prohibiría a los chatbots de IA dar consejos legales o médicos
La legislación permitiría a los usuarios demandar a las empresas si sus chatbots se hacen pasar por profesionales licenciados
Los legisladores dicen que la medida busca proteger al público mientras las herramientas de IA se usan más.
Los chatbots de IA han pasado los últimos años respondiendo casi cualquier tipo de pregunta imaginable, pero los legisladores de Nueva York se preparan para trazar una línea firme alrededor de al menos un par de categorías de conversación. Un proyecto de ley que avanza en la legislatura estatal prohibiría que los chatbots de IA proporcionen asesoramiento legal o médico y permitiría a los usuarios demandar a las empresas detrás de esos sistemas si cruzan ese límite.
La propuesta, el Proyecto de Ley del Senado S7263, se aplicaría a los chatbots de IA que imitan o se hacen pasar por profesionales licenciados, como abogados o médicos. El corazón del proyecto aplica el mismo principio sobre cómo los individuos no pueden ejercer la abogacía o la medicina sin las licencias apropiadas a la IA. Esa regla pretende asegurar que las personas reciban orientación de profesionales capacitados que puedan ser responsables por sus consejos.
Si un chatbot de IA responde de una manera que efectivamente sustituye el asesoramiento legal o médico licenciado, los desarrolladores podrían estar violando la ley. El proyecto de ley, que incluye otras medidas de seguridad para la IA, recientemente pasó del Comité de Internet y Tecnología del Senado de Nueva York con apoyo unánime.
Los proveedores de chatbots también tendrían que informar claramente a los usuarios que están interactuando con un sistema de inteligencia artificial y no con un profesional humano. Incluso si un chatbot muestra una advertencia de que no es médico o abogado, ese descargo de responsabilidad no protegería a la empresa si el sistema aún proporciona consejos prohibidos.
Pero también es parte de un esfuerzo más amplio para regular los chatbots de IA en Nueva York. Otros proyectos de ley se centran en proteger a los menores que interactúan con chatbots de IA o fortalecer los requisitos de transparencia para sistemas de IA generativa y medios sintéticos.
“La gente merece cuidado real de personas reales”, dijo la Senadora estatal Kristen Gonzalez, quien presentó el proyecto, en un comunicado. “Merecen transparencia, responsabilidad y la promesa de que sus datos están seguros mientras utilizan la tecnología.”
## Consejo de IA
Para hacer cumplir la ley, las personas podrían presentar demandas civiles contra empresas cuyos chatbots de IA violen la regla. Los usuarios podrían buscar daños y recuperar costos legales si prueban con éxito que un chatbot proporcionó asesoramiento profesional no autorizado.
Cuando millones de personas usan chatbots de IA para redactar correos y responder preguntas sobre temas que van desde cocina hasta política fiscal, no es sorprendente que muchos traten las respuestas de la IA como consejo genuino. Esa es precisamente la situación que los legisladores esperan evitar en áreas donde los errores podrían tener consecuencias graves.
Todavía se permitirían explicaciones educativas sobre conceptos generales. Lo que los legisladores quieren evitar es el escenario en el que un chatbot instruye con confianza a alguien sobre cómo tratar una condición médica o interpretar un contrato legal. Pero siempre hay situaciones ambiguas. Por ejemplo, un chatbot podría explicar los síntomas de una condición médica resumiendo información disponible públicamente. Sin embargo, esa misma explicación podría influir en las decisiones de salud de un usuario, haciéndola parecer asesoramiento médico en la práctica.
A pesar de esas preocupaciones, la tendencia más amplia hacia regular la inteligencia artificial parece improbable que se frene. La creciente influencia de la IA ha llevado a los legisladores a preguntarse si la tecnología debería enfrentar reglas similares a las que gobiernan las profesiones tradicionales.
La regulación tecnológica a menudo se extiende de una jurisdicción a otra. Las leyes promulgadas en estados grandes frecuentemente se convierten en modelos para legislación similar en otros lugares. Entonces, para los desarrolladores de IA, la propuesta de Nueva York ofrece un adelanto del tipo de preguntas que los gobiernos harán cada vez más, y que quieren que los chatbots de IA no respondan.
Sigue a TechRadar en Google News y añádenos como fuente preferida para obtener nuestras noticias, reseñas y opinión en tus fuentes. ¡Asegúrate de hacer clic en el botón Seguir!
Y por supuesto también puedes seguir a TechRadar en TikTok para noticias, reseñas, unboxings en formato video, y obtener actualizaciones regulares nuestras en WhatsApp también.
Los mejores portátiles para negocios para todos los presupuestos
Nuestras mejores selecciones, basadas en pruebas y comparativas del mundo real.