Últimas publicaciones
Image Alt

Inteligencia artificial: ¿es necesaria su regulación?

Inteligencia artificial: ¿es necesaria su regulación?

El término “inteligencia artificial” fue acuñado por John McCarthy en 1956; sin embargo, en la actualidad se ha venido utilizando de manera indistinta hasta llegar al punto de tergiversarse. En términos simples, la IA es la simulación de procesos de inteligencia humana por parte de sistemas, los cuales pueden incluir procedimientos de aprendizaje, razonamiento y autocorrección.

Así también en la actualidad se pueden distinguir diferentes categorías de IA. De acuerdo a Stuart Russel y Peter Norvig, estos son los siguientes:

  • Sistemas que piensan como humanos:  es decir sistemas que tratan de imitar los procesos del pensamiento humano, como en caso de toma de decisiones, resolución de problemas o el aprendizaje automático.
  • Sistemas que actúan como humanos: son sistemas informáticos que imitan el comportamiento humano, como es el caso de la robótica.
  • Sistemas que piensan racionalmente: se trata de imitar el pensamiento lógico del ser humano.
  • Sistemas que actúan racionalmente: se considera como un paso más allá de la IA, puesto que los sistemas tratan de imitar el comportamiento humano y son capaces de tomar decisiones en función de esos razonamientos.

Por otro lado, mucho se suele confundir los términos autoaprendizaje (machine learning), inteligencia artificial y aprendizaje profundo (deep learning), ya que se les considera en algunos casos como sinónimos a pesar de guardar  una relación género-especie. Sobre ello, se definen de la siguiente manera:

  • El autoaprendizaje o mejor llamado machine learning forma parte de uno de los tipos de IA. Corresponde a la programación de un sistema para acceder y manipular datos y, a su vez, usarlos para redefinir modelos sin que alguien cambie explícitamente la programación. Un ejemplo de ello es cuando se identifican fraudes en la industria financiera, ya que se valen de datos masivos para elaborar un modelo que detecte patrones fraudulentos.
  • El aprendizaje profundo o llamado deep learning también forma parte del subconjunto de IA. Se trata del descubrimiento y la clasificación de información, lo cual implica la toma de grandes cantidades de datos sin estructura y los revisa a fin de identificar patrones.  Por ejemplo, cuando nos encontramos en Netflix podemos ver que nos salen ciertas sugerencias de películas o series; o en Amazon cuando nos aparecen productos similares o complementarios al que acabamos de adquirir.

Regulación e inteligencia artificial

Reconociendo la importancia e impacto de la IA en el mundo actual, el pasado 18 de diciembre de 2018 el Grupo de Expertos de Alto Nivel de la Comisión Europea sobre Inteligencia Artificial (AI HLEG) presentó el borrador de las Directrices éticas para una IA confiable (Ethics guidelines for trustworthy AI). Dicho documento fue sometido a consulta pública y luego de haber recibido más de 500 comentarios; finalmente se emitió la versión final el 08 de abril de 2019.

Las Directrices señalan que la IA contiene tres aspectos importantes, los cuales son (i) la legalidad, aplicando a las regulaciones existentes, (ii) los principios alineados a la ética y (iii) los procedimientos técnicos sólidos, pues un mal uso puede ocasionar daños inminentes. Así, en su capítulo primero se definen los principios éticos en los sistemas de IA, lo cual involucra seguir la línea de los derechos humanos reconocidos internacionalmente, así como también reconocer sus implicancias dentro de la dignidad humana, la libertad y  la justicia.

En el segundo capítulo se hace mención a la privacidad y al gobierno digital  recalcando que la prevención de los daños a la intimidad mediante el uso de IA requiere de una adecuada gestión en la calidad y seguridad de los datos. Es por ello que se detallan ciertos principios como la transparencia,  el acceso y la calidad e integridad de la información. A la par, se hace reconocimiento de métodos técnicos como la implementación de arquitecturas de IA y métodos de explicación sobre el porqué del funcionamiento del sistema; así también métodos no técnicos como códigos de conducta, regulaciones y certificaciones.

El tercer capítulo  se refiere a una evaluación piloto sobre (i) la utilización de la IA dentro de las organizaciones y su relación con los trabajadores de la misma, (ii)  las técnicas utilizadas para el fortalecimiento y seguridad en las utilización de IA, (iii) los aspectos de privacidad y gobierno digital de acuerdo a los principios sugeridos en el capítulo 2, (iv) la implementación de un canal de transparencia, (v) la presencia de diversidad, no discriminación y equidad en la accesibilidad, (vi) bienestar social y ambiental dentro de los proyectos y (vii)  el impacto dentro de la contabilidad de la organización.

Ahora, lo que realmente busca la Comisión Europea es establecer un marco de implementación de IA confiable y una orientación concreta sobre su logro; mas no establece políticas de cumplimiento obligatorio de los países miembros, ya que se entiende que su regulación podría ocasionar restricciones en el desarrollo de la misma.

No obstante, reconocemos que no todo es perfecto y existe el riesgo latente del mal uso o fallas durante la utilización de la IA; por tanto, lo que se propone es que se estudie y conozca el mercado en todo su panorama en caso salte un producto y/o servicio inspirado en la IA, a fin de implementar un manual de buenas prácticas o, de ser el caso, promover su regulación.

En conclusión, la IA es capaz de generar enormes beneficios para la sociedad; no obstante, ello no significa que su uso se encuentre exento de contingencias. Es por ello que, así como la Comisión Europea plantea un camino a seguir en caso de utilización de la utilización de IA, nuestro gobierno tiene la tarea de formular y fomentar una cultura de implementación de la IA, pues se reconoce que mediante ella se puede lograr el bienestar de la sociedad y el desarrollo de la confianza en la tecnología.

1 Russell, S.J.; Norvig ,P (2004). Inteligencia Artificial: Un enfoque Moderno. Segunda edición. Madrid, España; Pearson Educación S.A.

Publicar un Comentario