Los eurodiputados checos debaten sobre los riesgos de la IA
En la UE se prolongan los debates sobre la versión final del reglamento sobre el uso de la inteligencia artificial (IA). Sobre el tema habló el eurodiputado Marcel Kolaja.
Los Veintisiete adoptaron una posición común en cuanto al reglamento sobre el uso de la inteligencia artificial (IA) durante la presidencia checa del Consejo de la UE en la segunda mitad de 2022. Actualmente, los eurodiputados siguen debatiendo sobre la nueva directriz con el fin de reducir eventuales futuros riesgos de dicha tecnología.
Cámaras biométricas
Según informó el vicepresidente del partido Pirata y miembro del Parlamento Europeo, Marcel Kolaja, la regulación es el primer documento de este tipo en el planeta y su propósito es prevenir la discriminación o la violación de las libertades ciudadanas. Uno de los temas más controvertidos para Kolaja es la tecnología de reconocimiento de rostros.
“En el ejemplo de Rusia podemos ver que el régimen de Putin utiliza estos sistemas, por supuesto, bajo la excusa de mantener la seguridad, para identificar a los asistentes a las manifestaciones contra la guerra. El uso de esta tecnología permitiría identificar a cada persona en todo lugar. Es un sistema orwelliano”.
Al contrario, el grupo político más grande de la Eurocámara, el Partido Popular Europeo, no apoya la prohibición total de las cámaras biométricas, explica el eurodiputado Jiří Pospíšil.
“La prohibición total no nos parece una solución buena porque esta manera de reconocer los rostros se puede aprovechar en la lucha contra el crimen. El sistema puede ayudar significativamente a la hora de capturar a un perpetrador. Sería una pena privarnos de esta posibilidad prohibiendo tales sistemas”.
De acuerdo con la reciente información brindada por Marcel Kolaja, a nivel europeo se está negociando una versión del reglamento que permitiría la evaluación de las cámaras biométricas solo bajo orden judicial.
E-proctoring
Otro asunto problemático para Kolaja es el llamado e-proctoring, herramienta mediante la cual las escuelas pueden controlar a distancia si los estudiantes no hacen trampas durante los exámenes. Como advierte el eurodiputado, este sistema puede fallar a la hora de “controlar” a una persona discapacitada o una persona de piel oscura. Debido al riesgo de discriminación, Kolaja propuso que el e-proctoring fuera categorizado como una herramienta de alto riesgo.
Según advierte Daniel Šitera del Instituto de RR.EE., la IA puede crear problemas a la hora de evaluar los exámenes de ingreso a las escuelas.
“Recién terminaron los exámenes de ingreso a los institutos y vi a muchos padres enfadados por el hecho de que el sistema funcionara a base de una calificación única. Y si a los padres les fastidia ahora, imagínense que a nuestros hijos los evaluarán máquinas y las máquinas decidirán en qué escuela van a estudiar o no”.
Šitera también dijo a la Radio Checa que la cuestión no es si la UE necesita un reglamento de la IA o no, sino que si las regulaciones tendrán un carácter más estricto o menos. Según él, el reglamento es necesario primero por el hecho de que la UE se atrasa en este asunto, en comparación con China o EE.UU.
En segundo lugar, la UE intenta perfilarse como una líder en IA y emprende el camino de una “IA de confianza”, es decir, quiere abordarla desde el punto de vista ético que impediría efectos negativos como la polarización de la sociedad, la reducción de la autonomía de los ciudadanos frente el Estado, etcétera.
Y la tercera razón es que si la UE no aplica una regulación para todos los estados miembros, cada estado inventaría sus propias reglas.
“Si no se hiciera un reglamento conjunto, las empresas tendrían gastos de administración extra. Por ejemplo, las empresas checas si quisieran entrar en el mercado alemán, tendrían que adoptar sus leyes. Así tendremos unas reglas comunes europeas que permiten un mayor movimiento en el espacio europeo”.
Añade Šitera que las empresas también temen al cierre de la UE al resto del mundo. En este caso el experto sostiene que los políticos europeos son conscientes de eso y que quieren aplicar el llamado “efecto de Bruselas”, es decir, ampliar los reglamentos de la UE al resto del planeta o negociar cierta compatibilidad con EE.UU.
