La gran semana contra la IA sesgada: la UE y EEUU empiezan
a regular
==========================================================
Por Will Douglas Heaven  
Traducido por Milutinovic  
23 Abril, 2021  

La Unión Europea ha publicado su tan esperado conjunto
de regulaciones sobre inteligencia artificial, con
restricciones sobre la vigilancia masiva y la
manipulación. Por su parte, la FTC ha anunciado que
empezará a perseguir a las empresas que utilicen y vendan
algoritmos sesgados

Está siento una semana extraordinaria para el rechazo
gubernamental al mal uso de la inteligencia artificial
(IA). El miércoles, la Unión Europea (UE) publicó
su tan esperado conjunto de regulaciones sobre la IA,
cuyo primer borrador se  filtró la semana pasada. Se
trata de un reglamento es amplio, con restricciones sobre
la vigilancia masiva y el uso de IA para manipular a
las personas.

Pero la declaración de intenciones de la Comisión
Federal de Comercio de Estados Unidos (FTC, por sus
siglas en inglés), descrita el 19 de abril en una 
breve publicación de blog de la abogada Elisa Jillson,
podría tener más impacto en el futuro inmediato. Según
la publicación, la FTC planea perseguir a las empresas
que utilicen y vendan los algoritmos sesgados.

Puede que la noticia haya puesto nerviosas a varias
empresas, opina el profesor de la Universidad de Washington
(EE. UU.) Ryan Calo, especializado en tecnología
y derecho. Y afirma: "En realidad, no es solo esta
publicación de blog, es un ejemplo muy claro de lo que
parece ser un cambio radical".

    Woah, woah, WOAH. An official @FTC blog post by a staff
    attorney noting that "The FTC Act prohibits unfair or
    deceptive practices. That would include the sale or
    use of – for example – racially biased algorithms."
    https://t.co/kM4u3gOEC5

    — Ryan Calo (@rcalo) April 19, 2021

La UE es conocida por su mano dura contra las Big Tech,
mientras que la FTC ha tenido un enfoque más suave,
al menos en los últimos años. La agencia tiene como
objetivo vigilar las prácticas comerciales desleales y
deshonestas. Sus competencias son limitadas: no tiene
jurisdicción sobre las agencias gubernamentales,
bancos u organizaciones sin ánimo de lucro. Pero
puede intervenir cuando las empresas no reflejan
fielmente las funciones de los productos que venden,
y eso significa que las que afirman que sus sistemas
de reconocimiento facial, algoritmos de vigilancia
predictiva o herramientas de atención médica no están
sesgados ahora podrían estar en el punto de mira. "Ahí
es donde tienen el poder, y es un poder enorme", sostiene
Calo.

## Pasar a la acción

La FTC no siempre ha estado dispuesta a ejercer dicho
poder. Tras las críticas de la década de 1980 y 1990
de que era demasiado agresiva, se echó atrás y tuvo
menos enfrentamientos, especialmente contra las empresas
tecnológicas. Esto parece estar cambiando.

En la publicación del blog, la FTC advierte a los
proveedores que las afirmaciones sobre la inteligencia
artificial deben ser "veraces, no engañosas y respaldadas
por pruebas. Por ejemplo, digamos que un desarrollador
de inteligencia artificial dice a los clientes que su
producto proporcionará 'decisiones de contratación 100 %
imparciales', pero el algoritmo se construyó con datos que
carecían de diversidad racial o de género. El resultado
podría ser engaño, discriminación y una acción judicial
por parte de la FTC".

La actividad de la FTC tiene apoyo bipartidista en
el Senado de EE. UU., donde  esta semana se les
preguntó a los comisionados qué más podían hacer
y qué necesitaban para hacerlo. "Hay viento en popa",
asegura Calo.

    Over the last decade, the FTC has shown it lacks
    the will to meaningfully hold large firms like
    @Google accountable when they repeatedly violate
    the law. At today's Senate hearing, I'll argue
    that we must turn the page on the FTC's perceived
    powerlessness. https://t.co/APX8BSjATZ

    — Rohit Chopra (@chopraftc) April 20, 2021

Por otro lado, las regulaciones sobre la IA de la
UE, aunque establecen unos límites claros, son solo
recomendaciones. Al igual que en el caso del Reglamento
General de Protección de Datos (GDPR) aprobado en 2018,
la decisión de cómo implementarlas dependerá de cada
Estado miembro de la UE.

Una parte del lenguaje también es vago y está abierto a
interpretación. Por ejemplo, la disposición contra las
"técnicas subliminales más allá de la conciencia de una
persona para distorsionar materialmente su comportamiento"
de una manera que pueda causar daño psicológico. ¿Se
aplica eso a las fuentes de noticias de las redes sociales
y a la publicidad dirigida? "Podemos esperar que muchos
lobbies intenten excluir explícitamente la publicidad
y los motores de recomendación", opina el profesor del
University College London (Reino Unido) Michael Veale,
que se dedica al derecho y la tecnología.

Se necesitarán años de desafíos legales en
los tribunales para aclarar los detalles y las
definiciones. "Eso será solo después de un proceso muy
largo de investigación, denuncias, multas, apelación,
contrapelación y remisión al Tribunal de Justicia de la
Unión Europea. En ese momento, el ciclo comenzará de
nuevo", resalta Veale. Pero la FTC, a pesar de su campo de
acción limitado, tiene autonomía para actuar al momento.

Una gran limitación que comparten la FTC y la Comisión
Europea es su incapacidad de frenar el uso de la
tecnología de IA dañina por parte de los gobiernos. Las
regulaciones de la UE incluyen salvaguardias en cuanto el
uso estatal de la vigilancia, por ejemplo. Y la FTC solo
está autorizada a perseguir empresas. Podría intervenir
impidiendo que los proveedores privados vendan software
sesgado a los organismos encargados de hacer cumplir la
ley. Pero será difícil implementarlo, dado el secretismo
en torno a tales ventas y la falta de reglas sobre lo que
las agencias gubernamentales deben notificar al adquirir
la tecnología.

    Artificial Intelligence is a fantastic opportunity
    for Europe.

    And citizens deserve technologies they can trust.

    Today we present new rules for trustworthy AI. They
    set high standards based on the different levels of
    risk. pic.twitter.com/EuzaIUBW9i

    — Ursula von der Leyen (@vonderleyen) April 21, 2021

Sin embargo, las noticias de esta semana reflejan un enorme
cambio mundial hacia una regulación seria de la IA, de
esa tecnología que se ha desarrollado e implementado con
poca supervisión hasta ahora. Los perros guardianes de
la ética llevan años pidiendo restricciones sobre las
prácticas injustas y dañinas en el uso de la IA.

La UE considera que sus regulaciones colocan a la IA bajo
las protecciones existentes de las libertades civiles. "La
inteligencia artificial debe servir a las personas y,
por lo tanto, la inteligencia artificial siempre debe
respetar los derechos de las personas", afirmó la
presidenta de la Comisión Europea, Ursula von der Leyen,
en un discurso antes de hacer público el reglamento. Este
reglamento también ayudará a la IA con su problema de
imagen. Como expresó Ursula von der Leyen: "Queremos
animar a nuestros ciudadanos a poder confiar en su uso".

## Vía
https://www.technologyreview.es/s/13308/la-gran-semana-contra-la-ia-sesgada-la-ue-y-eeuu-empiezan-regular