{"id":1338,"date":"2023-07-13T21:21:20","date_gmt":"2023-07-13T19:21:20","guid":{"rendered":"https:\/\/www.transformaw.com\/blog\/?p=1338"},"modified":"2023-07-14T12:05:27","modified_gmt":"2023-07-14T10:05:27","slug":"nuevos-avances-en-la-regulacion-de-la-ia-ny-a-la-cabeza","status":"publish","type":"post","link":"https:\/\/www.transformaw.com\/blog\/nuevos-avances-en-la-regulacion-de-la-ia-ny-a-la-cabeza\/","title":{"rendered":"Nuevos avances en la regulaci\u00f3n de la IA: NY a la cabeza"},"content":{"rendered":"\n

Mar\u00eda Rosa Vallecillo G\u00e1mez.
Profesora Titular de Derecho del Trabajo y de la Seguridad Social.
Universidad de Ja\u00e9n.<\/em><\/p>\n\n\n\n\n\n\n\n

\n\n\n\n

1.El pasado mes de junio, el Parlamento Europeo adopt\u00f3 su posici\u00f3n negociadora sobre la ley de Inteligencia Artificial<\/strong> (IA), que se convertir\u00e1 en el primer conjunto de normas del mundo para una gesti\u00f3n en profundidad de los riesgos de la IA. Como parte de su\u00a0estrategia digital<\/a>, la UE ha comenzado a trabajar en la regulaci\u00f3n de la inteligencia artificial (IA) para garantizar mejores condiciones tanto en el desarrollo como en el uso de esta tecnolog\u00eda innovadora. La\u00a0IA puede aportar muchos beneficios<\/a>, como lo son una mejor asistencia sanitaria, un transporte m\u00e1s seguro y limpio, una fabricaci\u00f3n m\u00e1s eficiente y una energ\u00eda m\u00e1s barata y sostenible, pero su uso no est\u00e1 exento de riesgos.<\/p>\n\n\n\n

No son los primeros pasos que se dan para regular esta tecnolog\u00eda. Ya en abril de 2021, la Comisi\u00f3n propuso el primer marco regulador de la UE para la IA, de manera que el uso de sistemas de IA, sea cual sea su aplicaci\u00f3n, se analicen y clasifiquen seg\u00fan el riesgo que supongan para los usuarios. El nivel de regulaci\u00f3n depender\u00e1 del nivel de peligro que implique su uso. Una vez aprobada esta normativa, se convertir\u00e1 en la primera norma a nivel mundial, sobre IA.<\/p>\n\n\n\n

\n\n\n\n

2.Elementos imprescindibles que ha de incluir la legislaci\u00f3n sobre IA<\/strong>. La prioridad del Parlamento es garantizar que los sistemas de IA que se utilicen en todos los pa\u00edses de la UE sean seguros, transparentes, trazables, no discriminatorios y respetuosos con el medio ambiente. En esta l\u00ednea, cobra una especial importancia la exigencia de que los sistemas de IA deban ser supervisados por personas, en lugar de a trav\u00e9s de una retroalimentaci\u00f3n, en evitaci\u00f3n de ineficiencias y efectos indeseados. El Parlamento, adem\u00e1s, pretende establecer una definici\u00f3n de la IA que sea uniforme y tecnol\u00f3gicamente neutra para que pueda aplicarse a cualquier futuro sistema que la aplique.<\/p>\n\n\n\n

\n\n\n\n

3.NY es pionera y ya avanza.<\/strong> Pero mientras tanto, al otro lado del charco, se van consolidando iniciativas que pueden ser importables al viejo continente. Nueva York, en los \u00faltimos tiempos, se ha convertido en el banco de pruebas de normas pioneras en EE UU, lo que, si aplicamos la t\u00e9cnica de las buenas pr\u00e1cticas, se traslada al resto del mundo. A las recientes leyes aprobadas – la que fija un\u00a0sueldo m\u00ednimo para los repartidores\u00a0<\/a>y otra que proh\u00edbe la discriminaci\u00f3n laboral por razones de peso -, se suma una tercera, en vigor desde primeros del mes de junio, que pone coto al\u00a0uso descontrolado de la Inteligencia Artificial (IA)<\/a>. La nueva norma impone restricciones al uso de herramientas automatizadas de decisi\u00f3n de empleo (AEDT, en sus siglas inglesas) \u2013 los algoritmos – para impedir que los procesos de selecci\u00f3n de personal se vean condicionados por elementos de discriminaci\u00f3n sexistas y raciales. Una herramienta automatizada de decisi\u00f3n de empleo (AEDT) es un programa inform\u00e1tico que utiliza el aprendizaje autom\u00e1tico, el modelado estad\u00edstico, el an\u00e1lisis de datos o la inteligencia artificial para ayudar sustancialmente a la contrataci\u00f3n, es decir, facilitar o agilizar la elecci\u00f3n de la persona adecuada seg\u00fan el algoritmo.<\/p>\n\n\n\n

La ley, la primera de este tipo en el mundo seg\u00fan algunos expertos, estipula que los programas inform\u00e1ticos de contrataci\u00f3n basados en el aprendizaje autom\u00e1tico o la IA deben superar una auditor\u00eda realizada por una empresa externa para demostrar que est\u00e1n libres de sesgos racistas o sexistas. Los programas de contrataci\u00f3n basados en IA ya estaban en el punto de mira por presentar evidencias de sesgos de racismo, sexismo y otras discriminaciones, pero ha habido que esperar a la generalizaci\u00f3n de aplicaciones como ChatGPT y Midjourney para que tanto los congresistas como un buen n\u00famero de ejecutivos de empresas tecnol\u00f3gicas se planteen establecer esta regulaci\u00f3n. De todas maneras, hasta el momento, el Congreso ha dado pocas pistas sobre cu\u00e1les podr\u00edan ser esos l\u00edmites.<\/p>\n\n\n\n

Seg\u00fan la ley de Nueva York, los empleadores o agencias de empleo que deseen utilizar los algoritmos deben asegurarse de que se ha realizado la auditor\u00eda de sesgos antes de utilizar la herramienta. Pero tambi\u00e9n antes de la publicaci\u00f3n de res\u00famenes de resultados de la auditor\u00eda en su sitio web y antes de notificar a los candidatos y empleados el sistema que se utilizar\u00e1 para su evaluaci\u00f3n. Deber\u00e1 incluir instrucciones para solicitar un ajuste razonable de requisitos del puesto teniendo en cuenta las capacidades personales. Y, adem\u00e1s, la empresa deber\u00e1 publicar en su sitio web un aviso sobre el tipo y la fuente de los datos utilizados para la herramienta y la pol\u00edtica de conservaci\u00f3n y protecci\u00f3n de datos. Las empresas que utilicen software<\/em> algor\u00edtmico de terceros tienen, por ley, prohibido el uso de dichos programas si no han sido debidamente auditados.<\/p>\n\n\n\n

\n\n\n\n

4.La regulaci\u00f3n no resuelve todos los problemas<\/strong>. Las ciudades\u00a0utilizan tecnolog\u00edas algor\u00edtmicas y automatizadas\u00a0<\/a>para tomar todo tipo de decisiones, desde determinar la distribuci\u00f3n del censo escolar hasta decidir si alguien debe quedar en libertad bajo fianza antes de un juicio. Pero hasta ahora exist\u00edan pocas salvaguardas para garantizar que estas tecnolog\u00edas\u00a0tomen<\/em>\u00a0decisiones justas. Las primeras experiencias con herramientas de IA demostraron en los \u00faltimos a\u00f1os que pueden ser categ\u00f3ricamente injustas: por ejemplo, a finales de la pasada d\u00e9cada se descubri\u00f3 que los algoritmos utilizados por las fuerzas del orden para evaluar y puntuar los riesgos de seguridad de menores o delincuentes fichados pueden afectar de forma negativa y desproporcionada a los afroamericanos, el grupo de poblaci\u00f3n m\u00e1s susceptible, junto con el de los latinos, de ser arrestado o interpelado por la polic\u00eda.<\/p>\n\n\n\n

Los expertos afirman<\/a> que, aunque la nueva ley neoyorquina es importante para los trabajadores, sigue siendo muy limitada. Julia Stoyanovich, profesora de inform\u00e1tica de la Universidad de Nueva York y miembro fundador del Grupo de Trabajo sobre Sistemas de Decisiones Automatizadas de la ciudad -el primero de este tipo en EE UU, establecido en 2018 para revisar el uso de algoritmos en los programas de la ciudad-, considera que es un comienzo importante, pero a\u00fan muy limitado. \u201cMe alegro mucho de que la ley est\u00e9 en vigor, de que ahora haya normas y de que vayamos a empezar a aplicarlas\u201d, declar\u00f3 la investigadora a NBC News. \u201cPero tambi\u00e9n hay muchas lagunas. Por ejemplo, la auditor\u00eda de prejuicios es muy limitada en cuanto a categor\u00edas. No tenemos en cuenta la discriminaci\u00f3n por edad, por ejemplo, que en la contrataci\u00f3n es muy importante, o por discapacidad<\/em>\u201d, a\u00f1adi\u00f3. La experta tampoco ve claro c\u00f3mo se aplicar\u00e1 la ley ni en qu\u00e9 medida, pero lo cierto es que la iniciativa de Nueva York contribuye a alimentar el debate sobre el\u00a0desarrollo y el uso descontrolados<\/a>\u00a0de la IA.<\/p>\n\n\n\n

Los resultados de la IA dependen tanto de su uso como de los datos de los que se provea. El mero hecho de que exista una posibilidad de sesgar, ya sea de manera involuntaria como intencionada, el dise\u00f1o o los propios datos, ya supone la existencia de un problema, por acci\u00f3n o por omisi\u00f3n. Muchas veces, la percepci\u00f3n que se tiene es que el uso de n\u00fameros para representar una realidad compleja, supone una objetivizaci\u00f3n de una realidad social compleja adem\u00e1s de un sentimiento de precisi\u00f3n, y eso no siempre es as\u00ed. Es lo que se conoce como \u00abmathwashing\u00bb.<\/p>\n\n\n\n

En el caso que nos ocupa, el de la selecci\u00f3n de personal, uno de los principales peligros del uso de la IA es el que se deriva de una toma de decisiones mal dise\u00f1ada porque los datos introducidos pueden dar lugar a decisiones influenciadas por la etnia, el sexo o la al contratar o despedir. Igualmente, la IA supone riesgos para la privacidad y la protecci\u00f3n de datos cuando se utilizan, por ejemplo, equipos de reconocimiento facial o para el seguimiento online o la creaci\u00f3n de perfiles de personas. Adem\u00e1s, permite fusionar informaci\u00f3n que una persona ha proporcionado con datos nuevos, lo que genera resultados inesperados.<\/p>\n\n\n\n

La carrera por regular ha comenzado y el mundo mira a las grandes potencias en busca de orientaci\u00f3n porque una atomizaci\u00f3n de reglas que afectan a la tecnolog\u00eda m\u00e1s relevante de este siglo puede tener consecuencias indeseadas sobre casi todo, incluido el comercio internacional y la competitividad de los pa\u00edses. El 14 de junio de 2023, los eurodiputados adoptaron su posici\u00f3n negociadora sobre la ley de IA. Ahora comenzar\u00e1n las conversaciones sobre la forma final de la ley en el Consejo, junto a los pa\u00edses de la UE. El objetivo es alcanzar un acuerdo a finales de este a\u00f1o.<\/p>\n","protected":false},"excerpt":{"rendered":"

Mar\u00eda Rosa Vallecillo G\u00e1mez.Profesora Titular de Derecho del Trabajo y de la Seguridad Social.Universidad de Ja\u00e9n.<\/p>\n","protected":false},"author":1,"featured_media":899,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-1338","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-sin-categoria"],"_links":{"self":[{"href":"https:\/\/www.transformaw.com\/blog\/wp-json\/wp\/v2\/posts\/1338"}],"collection":[{"href":"https:\/\/www.transformaw.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.transformaw.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.transformaw.com\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.transformaw.com\/blog\/wp-json\/wp\/v2\/comments?post=1338"}],"version-history":[{"count":2,"href":"https:\/\/www.transformaw.com\/blog\/wp-json\/wp\/v2\/posts\/1338\/revisions"}],"predecessor-version":[{"id":1340,"href":"https:\/\/www.transformaw.com\/blog\/wp-json\/wp\/v2\/posts\/1338\/revisions\/1340"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.transformaw.com\/blog\/wp-json\/wp\/v2\/media\/899"}],"wp:attachment":[{"href":"https:\/\/www.transformaw.com\/blog\/wp-json\/wp\/v2\/media?parent=1338"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.transformaw.com\/blog\/wp-json\/wp\/v2\/categories?post=1338"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.transformaw.com\/blog\/wp-json\/wp\/v2\/tags?post=1338"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}