Hasta hace unos años hablar de Inteligencia Artificial, conocida ahora más comúnmente como IA, era sinónimo de progreso y avances tecnológicos. Pero a raíz de recientes alertas que han comenzado a salir a la luz por parte de creadores y desarrolladores de nuevas herramientas, la preocupación ha ido ganando terreno entre neoyorquinos del común.
Expertos han ido más allá y afirman que si no se le pone freno a la Inteligencia Artificial, al mejor estilo de películas de ciencia ficción como “Terminator”, la humanidad se empezará a extinguir en un par de décadas. Por ello este lunes el Concejo Municipal convocó a una audiencia plenaria, en la que empresas dedicadas a la IA explicaron las amenazas que representa la herramienta y la manera en que se pueden encontrar soluciones legislativas.
“La idea de que la inteligencia artificial se autorregulará desafía toda lógica”, aseguró con evidente preocupación la presidenta del organismo legislativo de la Gran Manzana, Julie Menin, durante la diligencia a la que acudieron representantes de empresas de IA, como OpenAI, Anthropic, Meta y Google. La gran ausente fue SpaceXAI, de Elon Musk, que no respetó la citación obligatoria del Concejo.
“Dada la gravedad de lo que está en juego, estas empresas tienen la obligación ante el público de comparecer ante el Concejo, responder a nuestras preguntas y aportar sus comentarios sobre nuestra propuesta legislativa bajo juramento”, agregó la jefe del Concejo Municipal, en medio del ambiente de inquietud que aumentó después de que OpenAI revelara que dos de sus modelos se habían salido de sus entornos de control, al igual que pasó con otras empresas.
Alex Turner, ex investigador de Google DeepMind, fue claro en advertir que la Inteligencia Artificial “desalineada”, podría resultar más peligrosa de lo que incluso muchos críticos han señalado.
“Existe una probabilidad bastante alta de que estemos corriendo para construir y desarrollar a nuestro propio adversario aquí mismo: una IA desalineada. Una IA desalineada es adversaria de todos, incluido nosotros mismos”, dijo el experto.
Alice Friend, directora de políticas de IA y tecnologías emergentes de Google, manifestó que actualmente sí existe responsabilidad legal y que hay que ir más allá de la parte legislativa.
“En Google, creemos que los marcos legales vigentes sí se aplican a la IA. Y como dije en mi declaración inicial, llevamos tiempo sosteniendo que, si algo es ilegal sin IA, sigue siéndolo con ella”, dijo la vocera de Google.
Jacob Coxon, exempleado de Anthropic, quien denunció irregularidades y fue de los primeros en reportar preocupaciones sobre los graves riesgos de la Inteligencia Artificial, recalcó que se ha tratado la IA con un enfoque extremadamente imprudente por parte de la industria respecto al desarrollo tecnológico.
“Siguiendo la trayectoria actual, considero es más probable que sí a que no, que la humanidad pierda el control frente a estas IA, lo cual podría desembocar en la extinción humana”, dijo.
El concejal Oswald Feliz, presidente del Comité de Seguridad Pública del organismo legislativo, recalcó la necesidad de que se adopten medidas de control como las que está promoviendo actualmente el Concejo, entre ellas supervisar los riesgos que plantea la inteligencia artificial y requerir informes sobre el impacto de las herramientas algorítmicas en los empleados de la ciudad y los cambios en las responsabilidades laborales.
Asimismo, exigir a los propietarios de sistemas de IA generativa que implementen métodos que prohibirían el uso de medios de generación de funcionarios y hacer ilegal en Nueva York comercializar, ofrecer a la venta, vender o implementar un modelo de inteligencia artificial (IA) que no haya recibido validación de terceros o no tenga la capacidad técnica para ser apagado por un operador humano.
“Una de las mayores preocupaciones es que no se han creado medidas de control, y que recientemente, el gobierno federal declaró básicamente que había creado un comité de unas 10 personas para que se autorregulen”, denunció el concejal latino.
Pero más allá de la coincidencia de posturas entre los operadores de IA y la urgencia planteada por los concejales para examinar urgentemente los riesgos que plantea la Inteligencia Artificial, así como las posibles salvaguardas necesarias para proteger a los neoyorquinos, en las calles de la Gran Manzana también han ido creciendo las preocupaciones.
Padres de familia como Carlos Lezama, quien aplaudió que recientemente el alcalde Zohran Mamdani le haya puesto freno al uso de IA en la educación de los más pequeños en las escuelas, se confesó no solo angustiado sino aterrado por el auge indiscriminado de programas de IA.
“Al principio uno oía hablar de inteligencia artificial como una evolución tecnológica y el temor principal era que se robara muchos trabajos y nos dejara sin empleo, pero ahora vemos que eso no es lo peor sino que acaben con nuestro planeta”, dijo el inmigrante hondureño, quien consideró importante que el Concejo y otras autoridades metan en cintura a los operadores de IA.
“Estamos en un momento en que, midiendo las distancias, hay que tratar este asunto como si se tratara del freno a la proliferación de armas nucleares, porque si no regulan y penalizan severamente a los creadores de IA irresponsables, mañana vamos a ver programas y robots atacando a los seres humanos. Eso da miedo”, agregó el neoyorquino.
Bárbara Delgado, quien trabaja cerca de la oficina principal de Google en Manhattan, también se declaró preocupada y mencionó que la responsabilidad sobre el uso y la producción de IA debe ser compartida entre las compañías, el gobierno y los padres de familia y escuelas.
“Siempre hablamos de lo importante que es trabajar unidos, pero creo que esta vez si es necesario que eso se cumpla porque no basta con que el Concejo Municipal promulgue leyes si las empresas no las cumplen o los padres en las casas o los maestros en las escuelas no controlan el acceso a IA”, dijo la madre de familia. “Hay que tomar este asunto con seriedad y deben poner multas o castigos severos a quienes violen las regulaciones”.
Gerardo Hernández, quien trabaja en una escuela del Bajo Manhattan, también se refirió al reto que enfrenta la Gran Manzana con el auge de la IA y dijo que aunque considera que es exagerado pensar que los programas cibernéticos acabarán con la humanidad, manifestó que si no se le mete control, se formarán generaciones que no desarrollen el pensamiento y sus habilidades.
“He escuchado que dicen que la IA va a destruir al mundo, pero no creo que sea porque vaya a haber un ataque de robots sino que lo que puede haber es una crisis de pensamiento”, dijo el maestro. “Urge crear maneras más sólidas para hacer que los muchachos piensen, investiguen y escriban sus tareas ellos mismos, pues últimamente veo que de la nada muchos empezaron a escribir bien, y estoy seguro que eso es cosa de IA. Hay que estar más encima de los muchachos”.
La audiencia del Concejo Municipal ocurre apenas un par de semanas de serias advertencias por parte de ejecutivos del sector de Inteligencia Artificial y el organismo legislativo neoyorquino aseguró que continuará revisando el tema para tomar medidas de control sobre la distribución y el despliegue de productos de IA.
La meta es aumentar la transparencia y ralentizar el desarrollo de los modelos más avanzados y que exista mayor escrutinio sobre prácticas de seguridad de las empresas, pues según afirmaron asistentes a la audiencia, podrían literalmente “estar jugando con nuestras vidas”.
El Defensor del Pueblo, Jumaane Williams, se sumó a las quejas contra IA y en la audiencia dijo que hay que trabajar fuertemente para regular los programas tecnológicos.
“Regular la inteligencia artificial implica proteger a nuestras poblaciones más vulnerables frente a una exposición perjudicial y, además, limitar la integración de esta tecnología en nuestros sistemas más críticos”, aseguró el funcionario, tras advertir que el impacto llega a todos los niveles.
“Ya hemos sido testigos de las consecuencias de permitir el acceso a esta tecnología sin salvaguardas: tiroteos masivos y otros actos violentos planificados con ayuda de chatbots, suicidios que podrían haberse evitado, el acoso generalizado a mujeres y niñas mediante imágenes de contenido sexual generadas artificialmente y el uso de la imagen de personas para estafar a víctimas desprevenidas”, dijo Williams.
“En aras de la innovación y el beneficio económico, y ante el temor de perder terreno frente a China, hemos permitido que la industria lucre a costa de la destrucción y el robo de materiales protegidos”, destacó. “No debemos normalizar estos daños; gran parte de la legislación que se debate hoy en día consiste en medidas de sentido común destinadas a corregir la falta de rendición de cuentas y transparencia observada hasta la fecha”.
#Aumenta #preocupación #entre #neoyorquinos #por #impacto #Inteligencia #Artificial
