Si los legisladores no protegen al público de la inteligencia artificial (IA), la vida tal y como la describe George Orwell en su novela '1984' podría "llegar a ser así en 2024", advirtió el presidente de Microsoft Brad Smith.
En conversación con el programa Panorama de la BBC emitido este miércoles, que en esta ocasión exploraba el uso cada vez mayor que hace China de la inteligencia artifical para monitorear a sus ciudadanos, Smith dijo que "será difícil seguir estando al día" ante el rápido avance de dicha tecnología.
Los críticos temen que dicho monitoreo pudiera suponer una amenaza para la democracia.
"Si no promulgamos leyes que protejan al público en el futuro, nos encontraremos con que la tecnología avanza y será muy difícil ponernos al día", afirmó Smith.
"Recuerdo constantemente las lecciones de George Orwell en su novela "1984". La historia central trataba sobre un gobierno que podía ver lo que todos hacían y escuchar lo que todos decían todo el tiempo".
"Bueno, eso no sucedió en 1984, pero si no tenemos cuidado, podría suceder en 2024".
La inteligencia artificial en China
En ciertas partes del mundo, la realidad es cada vez más cercana en este sentido a la ciencia ficción, agregó.
La ambición de China es convertirse en el líder mundial en inteligencia artificial para 2030, y muchos consideran que tiene una capacidad mucho más grande que la Unión Europea para su desarrollo.
- En 2019, China superó a EE.UU. en el número de patentes obtenidas por instituciones académicas para la innovación en tecnologías de IA.
- El 54% de los 770 millones de cámaras CCTV del mundo se encuentran en China, según una investigación de Comparitech.
Eric Schmidt, ex director ejecutivo de Google y ahora presidente de la Comisión de Seguridad Nacional de Inteligencia Artificial de EE.UU., advirtió que es "imperativo vencer a China en IA".
"Estamos en un conflicto geopolítico estratégico con China", dijo. "La forma de ganar es aunar nuestros recursos para tener estrategias nacionales y globales para que las democracias ganen en IA".
"Si no lo hacemos, estaremos mirando hacia un futuro en el que se nos impondrán otros valores".
El doctor Lan Xue, quien asesora al gobierno chino, señaló que el reconocimiento facial podría resultar "tremendamente útil" para identificar a las personas en reuniones multitudinarias si hay un "accidente grave".
"De hecho, China ha hecho un progreso tremendo en el desarrollo de la tecnología", agregó Xue. "(EE.UU.) siente que esto es una amenaza ... y quería comenzar esta Guerra Fría de la tecnología".
Y Keyu Jin, profesora asociada de la London School of Economics dijo que, aunque los valores y políticas chinas sean "enormemente diferentes", su visión no es "converger, sino coexistir".
"China no busca exportar sus valores".
Proyecto Maven
Schmidt se convirtió en asesor del Pentágono en 2016, mientras conservaba su puesto de presidente ejecutivo de Alphabet, la empresa matriz de Google.
En los años siguientes, Google inició un contrato con el Pentágono, lo que le permitió a este utilizar algunas de sus tecnologías de reconocimiento de imágenes como parte de un proyecto militar.
El Proyecto Maven ?como se llamó? utilizó el aprendizaje automático para identificar a personas y objetos en videos de drones.
"Maven era en ese momento una forma de reemplazar los ojos humanos por una visión automática (al analizar) las imágenes captadas por drones en diversos conflictos árabes", explicó Schmidt.
"El uso de esa tecnología me pareció positivo para la seguridad nacional y la asociación (con el Pentágono) buena para Google".
"Sangre en mis manos"
Pero el proyecto recibió críticas por parte de varios empleados de Google, quienes renunciaron y presentaron una petición contra la iniciativa.
"Google no debería estar involucrado en el negocio de la guerra", señaló la ingeniera de software Laura Nolan, quien dimitió en 2018, cuando descubrió la naturaleza del proyecto en el que estaba trabajando el gigante tecnológico.
"Me sentí como si tuviera sangre en mis manos". Y es que, dijo, le parecía que en un futuro la tecnología podría usarse para seleccionar blancos (militares).
Pero Google argumentó que su IA solo se utilizaría con fines no ofensivos, antes de retirarse por completo del Proyecto Maven en junio de 2018.
Schmidt dijo que sentía que la tecnología que podría ayudar a los militares a tomar las decisiones correctas era "algo bueno".
En busca de asociaciones
El Departamento de Defensa de Estados Unidos continúa buscando posibles asociados en Silicon Valley, en un intento por ganar la carrera armamentística global de IA.
Seth Moulton, presidente de la Fuerza de Tareas del Futuro de la Defensa de EE.UU., está instando a las empresas tecnológicas a que apoyen al Departamento de Defensa.
"Porque estamos en una carrera, porque estamos en esta competencia, eso es realmente a lo que se reduce", dijo. "¿Vas a ayudarnos a ganar esta carrera o estarás esencialmente contra nosotros?".
"China no tiene el mismo sistema de gobierno que nosotros", añadió.
"¿Podría la carrera armamentista de IA conducir a un conflicto con China? Por supuesto".
Xue concuerda en que existe la posibilidad de un conflicto, "pero no es inevitable". "EE.UU.y China deberían colaborar para evitar que eso suceda".
