/ viernes 19 de agosto de 2022

El reconocimiento facial también discrimina

Con frecuencia los dispositivos de reconocimiento facial se utilizan para vigilar a las personas de color, más que a las blancas. Irónicamente, esta tecnología es más precisa con los tonos de piel claros que con los oscuros

Una tarde en nuestro laboratorio, mi colega y yo estábamos probando nuestro nuevo prototipo de software de reconocimiento facial en una computadora portátil. El software usó una cámara de video para escanear nuestros rostros y adivinar nuestra edad y sexo.

El dispositivo adivinó correctamente mi edad, pero cuando mi colega, que es de África, lo probó, la cámara no detectó ningún rostro. Intentamos encender las luces de la habitación, ajustamos los asientos y el fondo, pero el sistema aún tenía problemas para detectar su rostro.

Te puede interesar: San Francisco, primera ciudad en prohibir el reconocimiento facial

Después de varios intentos fallidos el software finalmente detectó su rostro, pero se equivocó de edad y proporcionó el género incorrecto.

Nuestro software era sólo un prototipo, pero la dificultad para trabajar con tonos de piel más oscuros refleja las experiencias de las personas de color que intentan usar la tecnología de reconocimiento facial.

En los últimos años, los investigadores han demostrado la injusticia de los sistemas de reconocimiento facial y descubierto que el software y los algoritmos desarrollados por las grandes empresas tecnológicas son más precisos para reconocer los tonos de piel más claros que los más oscuros.

Sin embargo, The Guardian informó recientemente que el Ministerio del Interior del Reino Unido planea hacer que los inmigrantes condenados por delitos penales escaneen sus rostros cinco veces al día utilizando un reloj inteligente equipado con tecnología de reconocimiento facial.

Un portavoz del Ministerio del Interior dijo que la tecnología de reconocimiento facial no se usaría con los solicitantes de asilo que llegan ilegalmente al Reino Unido, y que el informe sobre su uso en delincuentes inmigrantes era “puramente especulativo”.

La Inteligencia Artificial carece de sentido común / Cortesía | EFE

Hay muchos matices en este tema, aunque debemos preguntarnos: ¿Qué derechos se ven frenados por una violación de la privacidad, en qué medida, y quién juzga si una violación de la privacidad está en equilibrio con la gravedad de un delito penal?

En el caso de los delincuentes a los que les toman fotografías de sus rostros varias veces al día, podríamos argumentar que la violación de la privacidad es de interés para la seguridad nacional de la mayoría de las personas, si el delito es grave. El gobierno tiene derecho a tomar tal decisión ya que es responsable de la seguridad de sus ciudadanos. Sin embargo, para delitos menores, el reconocimiento facial puede ser una medida demasiado fuerte.

En su plan, el Ministerio del Interior no ha diferenciado entre infractores leves y graves; ni ha proporcionado evidencia convincente de que el reconocimiento facial mejore el cumplimiento de las leyes de inmigración por parte de las personas.

En todo el mundo es más probable que el reconocimiento facial se utilice para vigilar a las personas de color al monitorear sus movimientos con más frecuencia que los de las personas blancas. y esto sucede a pesar del hecho de que los sistemas de reconocimiento facial son más precisos con los tonos de piel más claros que con los más oscuros.

Las fallas en el reconocimiento facial también podrían crear problemas de seguridad nacional para el gobierno. Por ejemplo, podría identificar erróneamente la cara de una persona como otra. La tecnología de reconocimiento facial no está lista para algo tan importante como la seguridad nacional.

➡️ Suscríbete a nuestro Newsletter y recibe las notas más relevantes en tu correo

Como sociedad, debemos esforzarnos por mantener la dignidad y la privacidad de las personas, excepto en los casos más graves. Más importante aún, debemos asegurarnos de que la tecnología no tenga el potencial de discriminar a un grupo de personas en función de su origen étnico. La ley y el reglamento deben aplicarse por igual a todas las personas.

El portavoz del Ministerio del Interior agregó: “El público espera que controlemos a los delincuentes extranjeros condenados... Los delincuentes extranjeros no deben tener ninguna duda de nuestra determinación de deportarlos, y el gobierno está haciendo todo lo posible para aumentar la cantidad de delincuentes extranjeros que están siendo deportados”.

* Investigadora Doctoral, Universidad de Northumbria, Newcastle.

Lee también otros contenidos de Normal ⬇️

Una tarde en nuestro laboratorio, mi colega y yo estábamos probando nuestro nuevo prototipo de software de reconocimiento facial en una computadora portátil. El software usó una cámara de video para escanear nuestros rostros y adivinar nuestra edad y sexo.

El dispositivo adivinó correctamente mi edad, pero cuando mi colega, que es de África, lo probó, la cámara no detectó ningún rostro. Intentamos encender las luces de la habitación, ajustamos los asientos y el fondo, pero el sistema aún tenía problemas para detectar su rostro.

Te puede interesar: San Francisco, primera ciudad en prohibir el reconocimiento facial

Después de varios intentos fallidos el software finalmente detectó su rostro, pero se equivocó de edad y proporcionó el género incorrecto.

Nuestro software era sólo un prototipo, pero la dificultad para trabajar con tonos de piel más oscuros refleja las experiencias de las personas de color que intentan usar la tecnología de reconocimiento facial.

En los últimos años, los investigadores han demostrado la injusticia de los sistemas de reconocimiento facial y descubierto que el software y los algoritmos desarrollados por las grandes empresas tecnológicas son más precisos para reconocer los tonos de piel más claros que los más oscuros.

Sin embargo, The Guardian informó recientemente que el Ministerio del Interior del Reino Unido planea hacer que los inmigrantes condenados por delitos penales escaneen sus rostros cinco veces al día utilizando un reloj inteligente equipado con tecnología de reconocimiento facial.

Un portavoz del Ministerio del Interior dijo que la tecnología de reconocimiento facial no se usaría con los solicitantes de asilo que llegan ilegalmente al Reino Unido, y que el informe sobre su uso en delincuentes inmigrantes era “puramente especulativo”.

La Inteligencia Artificial carece de sentido común / Cortesía | EFE

Hay muchos matices en este tema, aunque debemos preguntarnos: ¿Qué derechos se ven frenados por una violación de la privacidad, en qué medida, y quién juzga si una violación de la privacidad está en equilibrio con la gravedad de un delito penal?

En el caso de los delincuentes a los que les toman fotografías de sus rostros varias veces al día, podríamos argumentar que la violación de la privacidad es de interés para la seguridad nacional de la mayoría de las personas, si el delito es grave. El gobierno tiene derecho a tomar tal decisión ya que es responsable de la seguridad de sus ciudadanos. Sin embargo, para delitos menores, el reconocimiento facial puede ser una medida demasiado fuerte.

En su plan, el Ministerio del Interior no ha diferenciado entre infractores leves y graves; ni ha proporcionado evidencia convincente de que el reconocimiento facial mejore el cumplimiento de las leyes de inmigración por parte de las personas.

En todo el mundo es más probable que el reconocimiento facial se utilice para vigilar a las personas de color al monitorear sus movimientos con más frecuencia que los de las personas blancas. y esto sucede a pesar del hecho de que los sistemas de reconocimiento facial son más precisos con los tonos de piel más claros que con los más oscuros.

Las fallas en el reconocimiento facial también podrían crear problemas de seguridad nacional para el gobierno. Por ejemplo, podría identificar erróneamente la cara de una persona como otra. La tecnología de reconocimiento facial no está lista para algo tan importante como la seguridad nacional.

➡️ Suscríbete a nuestro Newsletter y recibe las notas más relevantes en tu correo

Como sociedad, debemos esforzarnos por mantener la dignidad y la privacidad de las personas, excepto en los casos más graves. Más importante aún, debemos asegurarnos de que la tecnología no tenga el potencial de discriminar a un grupo de personas en función de su origen étnico. La ley y el reglamento deben aplicarse por igual a todas las personas.

El portavoz del Ministerio del Interior agregó: “El público espera que controlemos a los delincuentes extranjeros condenados... Los delincuentes extranjeros no deben tener ninguna duda de nuestra determinación de deportarlos, y el gobierno está haciendo todo lo posible para aumentar la cantidad de delincuentes extranjeros que están siendo deportados”.

* Investigadora Doctoral, Universidad de Northumbria, Newcastle.

Lee también otros contenidos de Normal ⬇️

Municipios

Conoce el “atole de Judas”, nuevo patrimonio gastronómico de San Juan Huactzinco

Únicamente tres viudas lo ofrecen en la procesión del Viernes de Dolores

Cultura

Es Casa Xúa hogar de los defensores del maíz nativo de Ixtenco

Productores, investigadores, cocineras y artesanos forman parte de este proyecto encaminado a la preservación de la identidad

Local

Presentan cartel del XIII Parlamento Juvenil Tlaxcala; se llevará a cabo del 29 de abril al 31 de mayo

Se ajustarán a cumplir con las acciones afirmativas emitidas por el Instituto Tlaxcalteca de Elecciones

Elecciones 2024

[Actualización] Da TET un respiro al PRI; sí podrá registrar candidatos a diputados locales

Aunque presentó documentación de manera extemporánea, no pueden coartarles su derecho de ser votados, sostiene

Municipios

Reprueban pobladores irrupción en alcaldía de Contla por grupo de Cuauhtenco

Algunas personas afirman que los inconformes son un grupo minoritario que solo representa intereses políticos de un sector

Elecciones 2024

Podrán votar un millón 42 mil 687 tlaxcaltecas este 2 de junio; INE recibió la lista nominal definitiva

La Junta Local del INE recibió la lista nominal definitiva, actualizada al 2 de abril de 2024