{"id":1465,"date":"2024-10-25T14:03:05","date_gmt":"2024-10-25T14:03:05","guid":{"rendered":"http:\/\/ponder.es\/?p=1465"},"modified":"2024-10-30T14:03:25","modified_gmt":"2024-10-30T14:03:25","slug":"high-risk-systems-under-regulation-ia","status":"publish","type":"post","link":"https:\/\/ponder.es\/es\/high-risk-systems-under-regulation-ia\/","title":{"rendered":"Sistemas de alto riesgo seg\u00fan el Reglamento IA"},"content":{"rendered":"<p><strong>Siguiendo con nuestro an\u00e1lisis del Reglamento Europeo de Inteligencia Artificial hoy veremos los sistemas clasificados c\u00f3mo de Alto Riesgo.<\/strong> Estos est\u00e1n permitidos pero deben cumplir con una serie de requisitos, c\u00f3mo tambi\u00e9n veremos.<\/p>\n\n\n\n<p>El Anexo III  los enumera de la siguiente manera, y ser\u00e1n de alto riesgo cuando la salida que producen sea relevante en una decisi\u00f3n con posible riesgo sobre la salud, la seguridad o los derechos fundamentales.<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li><strong>a. Sistemas de identificaci\u00f3n biom\u00e9trica<\/strong> (los que identifiquen personas sin su participaci\u00f3n activa, recordando la prohibici\u00f3n existente para las fuerzas y cuerpos de seguridad mencionada antes.<\/li>\n\n\n\n<li><strong>b. Gesti\u00f3n de infraestructuras cr\u00edticas<\/strong> (como el tr\u00e1fico, la electricidad o el agua).<\/li>\n\n\n\n<li><strong>c. Educaci\u00f3n y formaci\u00f3n profesional<\/strong> (como gesti\u00f3n del acceso a la educaci\u00f3n o planificaci\u00f3n del desarrollo acad\u00e9mico).<\/li>\n\n\n\n<li><strong>d. Selecci\u00f3n de personal y gesti\u00f3n de las relaciones laborales.<\/strong>.<\/li>\n\n\n\n<li><strong>e. Gesti\u00f3n del acceso de las personas a servicios esenciales p\u00fablicos y privados<\/strong> (como beneficios sociales, servicios de emergencia, cr\u00e9dito o seguros).<\/li>\n\n\n\n<li><strong>f. Actividades de fuerzas y cuerpos de seguridad<\/strong> (como valoraci\u00f3n de pruebas o de sospechosos).<\/li>\n\n\n\n<li><strong>g. Migraci\u00f3n, asilo y control de fronteras<\/strong> (como pol\u00edgrafos, o valoraci\u00f3n de solicitudes)<\/li>\n\n\n\n<li><strong>h. Administraci\u00f3n de justicia y procesos democr\u00e1ticos<\/strong>.<\/li>\n<\/ul>\n\n\n\n<p>La Comisi\u00f3n tiene capacidad para a\u00f1adir o retirar sistemas de estas categor\u00edas.<\/p>\n\n\n\n<p><strong>\u00bfCu\u00e1les son los requisitos para desarrollar o utilizar estos sistemas?<\/strong><\/p>\n\n\n\n<ol class=\"wp-block-list\">\n<li class=\"translation-block\">Deber\u00e1n contar con un sistema de gesti\u00f3n de riesgos para el sistema de IA que contemple, en particular, los riesgos sobre la salud, seguridad y derechos fundamentales relacionados con su prop\u00f3sito.<\/li>\n\n\n\n<li class=\"translation-block\">Deber\u00e1n contar con una gobernanza y gesti\u00f3n de los datos de entrenamiento y prueba, asegurando buenas pr\u00e1cticas en su dise\u00f1o, recolecci\u00f3n y preparaci\u00f3n, asegurando su relevancia y correcci\u00f3n y sus apropiadas propiedades estad\u00edsticas, evitando sesgos que afecten negativamente a las personas.<\/li>\n\n\n\n<li class=\"translation-block\">Deber\u00e1n producir documentaci\u00f3n t\u00e9cnica actualizada, que demuestre que se cumplen los requisitos exigidos.<\/li>\n\n\n\n<li class=\"translation-block\">Deber\u00e1n tomar autom\u00e1ticamente registros de actividad del sistema.<\/li>\n\n\n\n<li class=\"translation-block\">Aportar informaci\u00f3n a los usuarios sobre las capacidades del sistema, sus requisitos de equipamiento, su \u00e1mbito de aplicaci\u00f3n, su nivel de precisi\u00f3n, las condiciones de utilizaci\u00f3n que pueden implicar riesgos, los mecanismos para supervisi\u00f3n humana, etc.<\/li>\n\n\n\n<li class=\"translation-block\">Permitir la supervisi\u00f3n por personas durante su uso para minimizar los riesgos a la salud, seguridad y derechos fundamentales, en particular de los riesgos residuales tras la aplicaci\u00f3n de medidas de mitigaci\u00f3n. Los usuarios podr\u00e1n monitorizar los sistemas e interpretar sus salidas. Para identificaci\u00f3n biom\u00e9trica remota, la salida requerir\u00e1 verificaci\u00f3n por una persona f\u00edsica, posiblemente dos.<\/li>\n<\/ol>\n\n\n\n<p class=\"translation-block\">Los sistemas deber\u00e1n proporcionar un nivel adecuado de precisi\u00f3n, robustez y ciberseguridad. Las medidas de ciberseguridad deben ser apropiadas y proporcionadas a sus circunstancias.<\/p>","protected":false},"excerpt":{"rendered":"<p>Continuing with our analysis of the European Artificial Intelligence Regulation, today we will examine High-Risk systems. These systems are permitted but must comply with a series of requirements, as we will also see. Annex III lists them as follows, and they are classified as high-risk when their output is relevant to a decision that could [&hellip;]<\/p>","protected":false},"author":1,"featured_media":1530,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_et_pb_use_builder":"","_et_pb_old_content":"","_et_gb_content_width":"","_joinchat":[],"footnotes":""},"categories":[1],"tags":[],"class_list":["post-1465","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-blog"],"_links":{"self":[{"href":"https:\/\/ponder.es\/es\/wp-json\/wp\/v2\/posts\/1465","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/ponder.es\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/ponder.es\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/ponder.es\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/ponder.es\/es\/wp-json\/wp\/v2\/comments?post=1465"}],"version-history":[{"count":0,"href":"https:\/\/ponder.es\/es\/wp-json\/wp\/v2\/posts\/1465\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/ponder.es\/es\/wp-json\/wp\/v2\/media\/1530"}],"wp:attachment":[{"href":"https:\/\/ponder.es\/es\/wp-json\/wp\/v2\/media?parent=1465"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/ponder.es\/es\/wp-json\/wp\/v2\/categories?post=1465"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/ponder.es\/es\/wp-json\/wp\/v2\/tags?post=1465"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}