Nueva York firma una ley para impedir que los chatbots finjan ser humanos ante menores

Un chatbot que le dice a un adolescente que tiene sentimientos o que mantiene una relación romántica con él estará alcanzado por las nuevas restricciones de Nueva York. La gobernadora Kathy Hochul firmó el miércoles 28 de octubre una ley para impedir que los llamados compañeros de inteligencia artificial ofrezcan funciones consideradas inseguras a menores de 18 años. Entrará en vigor el 1 de enero de 2027. nysenate.gov

La medida apunta a una característica que distingue a estas herramientas de otros servicios digitales: pueden sostener conversaciones que imitan un vínculo personal. En los fundamentos de la iniciativa, sus impulsores advierten que esa capacidad puede llevar a los menores a compartir información íntima y a tratar las respuestas de un sistema como consejos de una persona de confianza.

Qué conversaciones busca frenar la ley

Según el anuncio de la Gobernación, las restricciones incluyen que estos sistemas se presenten como personas reales, afirmen estar vivos o tener emociones humanas, o aseguren mantener una relación personal, romántica, profesional o de autoridad con un menor.

También alcanzan las preguntas emocionales no solicitadas y determinados usos de información privada de salud o de conversaciones anteriores. La protección busca limitar funciones que pueden favorecer la dependencia emocional.

Otro grupo de prohibiciones se concentra en respuestas peligrosas: promover o facilitar autolesiones, trastornos alimenticios y consumo problemático de sustancias, así como generar contenido sexualmente explícito. Los sistemas tampoco podrán alentar a los menores a guardar secretos, aislarse o evitar pedir ayuda a sus padres, adultos de confianza o profesionales.

La iniciativa S.9051B/A.10379C, impulsada por la senadora Kristen Gonzalez y el asambleísta Alex Bores, establece restricciones sobre esas funciones; no supone una prohibición general del uso de inteligencia artificial por parte de adolescentes.

Verificación de edad y sanciones para las empresas

La edad será una parte central del cumplimiento. Las compañías deberán ofrecer más de una forma de verificarla, incluida al menos una alternativa que no dependa únicamente de una identificación oficial. La información recopilada para esa comprobación deberá eliminarse después de utilizarla.

Además, las funciones restringidas no podrán ofrecerse a usuarios cuya mayoría de edad no haya sido confirmada, de acuerdo con la explicación estatal.

La Fiscalía General podrá acudir a los tribunales para exigir el cumplimiento y solicitar sanciones civiles de hasta $25,000 por infracción, además de otras medidas.

Para las familias, el cambio tendrá una fecha concreta: las obligaciones comenzarán el 1 de enero de 2027. Hasta entonces, la firma de la ley no garantiza que las aplicaciones que usan sus hijos ya hayan modificado estas funciones.