La Unión Europea trabaja desde hace tiempo para promover el desarrollo y el uso de la inteligencia artificial desde el punto de vista ético y humanista que caracteriza al Viejo Continente. La comisión ha dado un paso firme en este sentido con la presentación de una propuesta de reglamento que recoge las que serán las normas y medidas destinadas a regular este tipo de sistema y aplicaciones con el objetivo de «Convertir a Europa en el centro mundial de una inteligencia artificial digna de confianza»
Este paso es significativo porque se trata de la primera vez en la historia que se afronta la elaboración de un marco jurídico sombre la IA ue, además, estará acompañado de la aprobación de un nuevo plan que estará coordinado con los Estados miembros y persigue garantizar la seguridad y los derechos de las personas y empresas, al igual que reforzar la adopción, la inversión y la innovación en esta tecnología en toda la UE.
Para la vicepresidenta ejecutiva responsable de la cartera de una Europa Adaptada a la Era Digital, Margrethe Vestager, en lo que respecta a la IA:
«la confianza es una obligación, no un adorno”. Según sus palabras, «al establecer las normas, podremos facilitar el advenimiento de una tecnología ética en todo el mundo y velar por que la UE siga siendo competitiva”.
Asegura que estas normas
“A prueba de futuro y propicias a la innovación”
“intervendrán cuando sea estrictamente necesario, esto es, cuando estén en juego la seguridad y los derechos fundamentales de los ciudadanos de la UE»
El nuevo Reglamento sobre la IA incorpora normas que abordarán los riesgos específicos que plantean los sistemas de IA. Las nuevas normas, que se aplicarán directamente de la misma manera en todos los Estados miembros, siguen, por tanto, un planteamiento basado en el riesgo: inadmisible, alto, limitado, mínimo o nulo.
Así, se prohibirán los sistemas de IA cuyo riesgo sea inadmisible y que se consideran una clara amenaza para la seguridad, los medios de subsistencia y los derechos de las personas. Por ejemplo, los sistemas o aplicaciones de Inteligencia artificial que manipulan el comportamiento humanos para eludir la voluntad de los usuarios y sistemas que permitan la puntuación social por parte de los gobiernos.
En lo que respecta a los sistemas de IA considerados de alto riesgo, estos estarán sujetos a obligaciones estrictas antes de que puedan comercializarse. Dichos sistemas abarcan las tecnologías de IA empleadas en infraestructura criticas: formación educativa o profesional; componentes públicos y privados esenciales.
En especial, se consideran de alto riesgo y estarán sujetos a requisitos estrictos todos los sistemas de identificación biométrica remota. Su uso en directo, según reza la propuesta de reglamento, en espacios de acceso publico con fines policiales está «Prohibido en principio». Obviamente, hay excepciones: por ejemplo, cuando sea estrictamente necesario para la búsqueda de un menor desaparecido, para prevenir una amenaza terrorista concreta e inminente, o para detectar, localizar, identificar o enjuiciar a un autor o sospechoso de un delito grave. En todo caso, su uso estará sujeto a la autorización de un órgano judicial u otro organismo independiente y a los limites adecuados desde el punto de vista de la duración.
En aquellos sistemas de IA cuyo riesgo sea limitado, se establecen obligaciones especificas de transparencia. En el caso de sistemas o aplicaciones con riesgo mínimo o nulo, la propuesta de reglamento permite el uso gratuito de soluciones como videojuegos basados en la IA o filtros de correo basura. En realidad, reconocen desde la Comisión:
«La inmensa mayoría de los sistemas de IA entra en esta categoría»
Dado que estos sistemas de IA solo representan un riesgo mínimo o nulo para los derechos o la seguridad de los ciudadanos, el proyecto de reglamento no interviene en este terreno.
Fuente computerworld