Científicos plantean una medida extrema para regular 
la inteligencia artificial
=======================================================

Por Juan Carlos Figueroa 16 de febrero de 2024

Un análisis de la Universidad de Cambridge plantea que la
forma más efectiva de regular los nuevos desarrollos es
controlando la distribución de los chips que potencian los
nuevos sistemas de inteligencia artificial.
de 2024

Desde que estalló el boom de la inteligencia artificial,
gobiernos de todo el mundo apretaron el acelerador para
intentar controlar una tecnología y una industria que se
vuelve cada vez más poderosa. Proyectos de ley hay muchos,
con enfoques muy diferentes, pero un nuevo estudio de la
Universidad de Cambridge cree que la forma más efectiva
está en el control de una pieza clave: los chips.

En el análisis, publicado esta semana, participan expertos
de otras universidades, como Harvard y Oxford, y algunos
especialistas de OpenAI, la creadora de ChatGPT. El grupo
propone medidas que van desde el control de la distribución
de los chips, hasta la posibilidad de crear un interruptor
para suspender de manera remota estos dispositivos.

«La computación relevante para la inteligencia artificial
es un punto de intervención particularmente eficaz: es
detectable, excluible y cuantificable, y se produce a
través de una cadena de suministro extremadamente
concentrada», dicen los expertos en el informe. Esto, en
contraposición con la complejidad de intentar regular los
resultados de los desarrollos, como los algoritmos o los
modelos entrenados. «Son bienes intangibles, no rivales y
fácilmente compartibles, los que los hace intrínsecamente
difíciles de controlar».

El análisis resalta que, en estos momentos, los chips
avanzados que se utilizan para entrenar los sistemas de
inteligencia artificial son fabricados por un grupo muy
reducido de actores. Nvidia, por ejemplo, controla casi el
90 % de este mercado. «Esto permite a los responsables
políticos restringir la venta de estos productos a personas
o países de interés», remarcan.


## Los pros y los contras de un botón para apagar la 
inteligencia artificial

Los expertos propusieron medidas prácticas, como
implementar un registro global para las ventas de chips de
inteligencia artificial. La medida permitiría rastrear en
estas piezas a lo largo de su ciclo de vida en cualquier
parte del mundo. Para un registro como este, los
investigadores plantean la incorporación de un
identificador único para cada chip. Así se evitaría, por
ejemplo, el tráfico ilegal.

Medidas como estas aumentarían la visibilidad y comprensión
de los responsables de formular políticas sobre los
desarrollos de la inteligencia artificial. Los
especialistas resaltan que la visibilidad es «crucial»,
porque permitirá a los gobiernos «anticipar problemas,
tomar decisiones más precisas, rastrear resultados dentro
de un país y negociar e implementar acuerdos entre países».

Algo se ha avanzado en este sentido en Estados Unidos. El
estudio expone como ejemplo la medida dictada por el
presidente Joe Biden el año pasado para identificar todas
las empresas que están desarrollando modelos grandes de
inteligencia artificial. O la postura del Departamento de
Comercio de este país, que ha reforzado las limitaciones
para la venta de aceleradores a China.

El botón para suspender de manera remota los chips es
planteado como una medida extrema. Dicen que se podrían
incorporar interruptores de apagado en el silicio para
evitar su uso en aplicaciones maliciosas. Esto ayudaría a
los reguladores a accionar rápido en caso de que
identifiquen algún uso peligroso.

Advierten, sin embargo, que no es una solución perfecta. Un
interruptor de este tipo podría ser blanco de
ciberdelincuentes y aprovecharse para usos abusivos de la
inteligencia artificial.


## Pruebas de entrenamiento

El análisis también platea la posibilidad de que varias
partes coordinen esfuerzos para aprobar tareas de
entrenamiento en sistemas de inteligencia artificial
potencialmente riesgosos. «Las armas nucleares utilizan
mecanismos similares llamados enlaces de acción
permisivos», explica el reporte.

Durante la Cumbre sobre Seguridad de la Inteligencia
Artificial, celebrada en noviembre en Reino Unido, una
veintena de gobiernos y los principales desarrolladores se
comprometieron a trabajar juntos en futuras pruebas para
sus modelos. Representantes de OpenAI, Anthropic, Google,
Microsoft, Meta y xAI participaron de las sesiones en las
que se discutió la propuesta.

En esta cumbre, se anunció la creación de un nuevo centro
global de pruebas con sede en el Reino Unido. El gobierno
británico adelantó que se pondría especial atención en los
peligros de la inteligencia artificial para la seguridad
nacional y la sociedad.

Recibe cada mañana nuestra newsletter. Una guía para
entender lo que importa en relación con la tecnología, la
ciencia y la cultura digital.


## Vía

https://hipertextual.com/2024/02/cientificos-proponen-medida-apagar-chips-inteligencia-artificial