Presidente de Microsoft: ‘la vida se parecerá a 1984 de Orwell’ en 2024 si no se protege al público

Presidente de Microsoft, Brad Smith, advierte que ‘la vida se parecerá a 1984 de George Orwell’ en 2024 si los legisladores no protegen al público contra la IA

​

• En declaraciones a BBC Panorama, Brad Smith dijo que se necesitan leyes para controlar la IA.
• La Inteligencia Artificial puede tomar vastos conjuntos de datos y hacer predicciones y llamadas.
• Un ejemplo dado en el programa fue el de China, que la utiliza para vigilar a los ciudadanos.
• Smith dice que el mundo se está poniendo al día con la ciencia ficción y que hay que actuar ya.

La vida podría parecerse a “1984” de George Orwell dentro de tres años si no se introducen leyes para proteger al público de la inteligencia artificial, ha advertido el presidente de Microsoft, Brad Smith.

Smith predice que el tipo de sociedad controlada y de vigilancia masiva retratada por Orwell en su novela distópica de 1949 “podría hacerse realidad en 2024” si no se hace más para frenar la expansión de la IA.

Será difícil que los legisladores se pongan al día con el rápido avance de la inteligencia artificial y la tecnología de vigilancia, dijo a BBC Panorama durante un especial que exploraba el creciente uso de la IA por parte de China para vigilar a sus ciudadanos.

El presidente de Microsoft afirmó: “Si no promulgamos las leyes que protegerán al público en el futuro, nos encontraremos con que la tecnología se adelanta”.

Presidente de Microsoft, Brad Smith
​

Durante el episodio especial, Panorama descubrió pruebas “espeluznantes y escalofriantes” que demuestran que China utiliza la IA para vigilar a su población, incluyendo una tecnología que afirma ser capaz de “reconocer las emociones” y determinar la culpabilidad.

Así lo afirma un ingeniero de software que también aportó pruebas documentales al programa.

Hablando de forma anónima, porque teme por su seguridad, dijo a Panorama que ayudó a instalar el sistema en las comisarías de la provincia de Xinjiang, donde viven 12 millones de uigures, principalmente musulmanes.

Dijo: “Colocamos la cámara de detección de emociones a tres metros del sujeto. Es similar a un detector de mentiras, pero se trata de una tecnología mucho más avanzada”.

“Se utiliza para confirmar los prejuicios de las autoridades sin ninguna prueba creíble. La puntuación del ordenador revela que el sospechoso es peligroso, por lo que debe ser culpable de muchos delitos que aún no ha confesado”.

La IA convencional utiliza entradas para “enseñar” a un algoritmo sobre un tema concreto alimentándolo con cantidades masivas de información.

Esto podría incluir el intercambio de imágenes de un tipo particular de planta, para permitirle determinar si una foto contiene la imagen de esa planta sin la intervención humana.


¿Cómo funciona la tecnología de reconocimiento facial?

El software de reconocimiento facial funciona cotejando imágenes en tiempo real con una fotografía anterior de una persona.

Cada rostro tiene aproximadamente 80 puntos nodales únicos en los ojos, la nariz, las mejillas y la boca que distinguen a una persona de otra.

Una cámara de vídeo digital mide la distancia entre varios puntos del rostro humano, como la anchura de la nariz, la profundidad de las cuencas oculares, la distancia entre los ojos y la forma de la mandíbula.

Esto produce un código numérico único que puede vincularse con un código coincidente obtenido de una fotografía anterior.

Un sistema de reconocimiento facial utilizado por los funcionarios de China se conecta a millones de cámaras de CCTV y utiliza la inteligencia artificial para identificar a los objetivos.

Los expertos creen que la tecnología de reconocimiento facial pronto superará a la de las huellas dactilares como la forma más eficaz de identificar a las personas.


Sin embargo, puede utilizarse para fines más nefastos, como es el caso de China, donde intenta determinar la culpabilidad de las personas detenidas por la policía.

China espera ser el líder mundial en el desarrollo de la inteligencia artificial para 2030 y ganó más patentes de IA que las instituciones estadounidenses en 2019.

Smith dijo que este es un ejemplo, visible en todo el mundo, de que la inteligencia artificial acerca el mundo real a la ciencia ficción.

​

“Me recuerda constantemente las lecciones de George Orwell en su libro 1984. Ya sabes la historia fundamental… era la de un gobierno que podía ver todo lo que todos hacían y escuchar todo lo que todos decían en todo momento”.

“Bueno, eso no ocurrió en 1984, pero si no tenemos cuidado podría ocurrir en 2024”, dijo a la BBC.

Eric Schmidt, ex director de operaciones de Google y presidente de la Comisión de Seguridad Nacional de EE.UU. sobre la IA, afirma que es vital vencer a China en materia de IA.

“Estamos en un conflicto estratégico geopolítico con China”, dijo. “La forma de ganar es reunir nuestros recursos para tener estrategias nacionales y globales para que las democracias ganen en IA”.

​

“Si no lo hacemos, estaremos ante un futuro en el que se nos impondrán otros valores”.

Sin embargo, según el profesor de la London School of Economics, el doctor Keyu Jin, China “no pretende exportar sus valores”, y añade que la visión es de “coexistencia”.

No sólo China utiliza la inteligencia artificial para vigilar a las personas: Estados Unidos utiliza la tecnología de Google, como la de reconocimiento de imágenes que permite distinguir personas y objetos en los vídeos de los drones.

Esto se conoce como Proyecto Maven y su uso con los militares llevó a algunos empleados de Google a dimitir en señal de protesta.

“En aquel momento, Maven era una forma de sustituir los ojos humanos por la visión automática en las grabaciones de los drones que se utilizaban en los distintos conflictos árabes”, declaró el Dr. Schmidt.

“Consideré el uso de esa tecnología como algo positivo para la seguridad nacional y una buena asociación para Google”.


El Secretario de Defensa de EE.UU. califica a China de ‘Estado de vigilancia del siglo XXI’

El Secretario de Defensa de Estados Unidos califica a China de “Estado de vigilancia del siglo XXI”, tras el aumento de la vigilancia personal en Xinjiang en los últimos años.

Mark Esper afirmó el viernes que el PCCh ha creado un estado de vigilancia que utiliza la inteligencia artificial para reprimir a las minorías musulmanas y a los manifestantes prodemocráticos.

“De hecho, el partido ha construido un estado de vigilancia del siglo XXI con una capacidad sin precedentes para censurar la expresión y vulnerar los derechos humanos básicos”, añadió.

“George Orwell estaría orgulloso”.

China afirma que Xinjiang es un asunto interno, y que no es un tema religioso o étnico, sino que se trata de prevenir el terrorismo y el separatismo.


El Dr. Lan Xue, asesor del Gobierno chino, acusó a Estados Unidos de liderar una guerra fría tecnológica.

Afirmó que el reconocimiento facial podría resultar “tremendamente útil” para la identificación en reuniones masivas si se produce un accidente grave, y no sólo para la vigilancia.

A pesar de que Google se ha retirado del Proyecto Maven, el Departamento de Defensa ha seguido buscando socios en Silicon Valley en su intento de ganar la carrera de la IA.

“Estamos en una carrera, estamos en esta competición, de eso se trata”, dijo Seth Moulton, presidente del Future Defence Task Force de Estados Unidos.

​

Él afirma que las empresas tecnológicas deberían apoyar al gobierno, ya que considera que esta carrera armamentística de la inteligencia artificial podría “llevar algún día a un conflicto con China”.

El profesor Stuart Russell, experto británico en inteligencia artificial, que ahora trabaja en la Universidad de California en Berkeley, dijo a Panorama que “estamos viviendo una encrucijada para la raza humana”.

“Si lo hacemos bien, podría ser una era dorada para la humanidad, podríamos abolir la pobreza y las enfermedades. Si nos equivocamos, podríamos crear una dictadura global reforzada por la tecnología, incluso podríamos perder el control del mundo a manos de nuestra propia tecnología”.

BBC Panorama: “Are You Scared Yet, Human?” (¿Ya Tienes Miedo, Humano?) se emitió en la BBC One el 26 de mayo.

Video​

Cómo aprenden las inteligencias artificiales mediante redes neuronales

Los sistemas de IA se basan en redes neuronales artificiales (RNA), que intentan simular el funcionamiento del cerebro para aprender.

Las RNA pueden entrenarse para reconocer patrones en la información -incluyendo el habla, los datos de texto o las imágenes visuales- y son la base de un gran número de desarrollos en IA en los últimos años.

La IA convencional utiliza entradas para “enseñar” a un algoritmo sobre un tema concreto, alimentándolo con cantidades masivas de información.

Las aplicaciones prácticas incluyen los servicios de traducción de idiomas de Google, el software de reconocimiento facial de Facebook y los filtros en vivo de Snapchat que alteran las imágenes.

El proceso de introducción de estos datos puede llevar mucho tiempo y está limitado a un tipo de conocimiento.

Una nueva clase de RNA, denominada Redes Neuronales Adversarias, enfrenta el ingenio de dos robots de IA, lo que les permite aprender el uno del otro.

Este enfoque está diseñado para acelerar el proceso de aprendizaje, así como para refinar los resultados creados por los sistemas de IA.

Fuente: Microsoft president Brad Smith warns ‘life will become like George Orwell’s 1984’ by 2024 if lawmakers don’t protect the public against AI

Relacionados:

• Camufla tus fotos con esta herramienta de privacidad de la IA para engañar al reconocimiento facial
• Un caso para prohibir el reconocimiento facial
• La policía usa el rastreo de contactos y las grandes empresas tecnológicas para identificar a los manifestantes
• 4 maneras en que el laboratorio criminalístico podría incriminarte
• El sistema de monitoreo de comportamiento de China impide que algunos viajen y compren propiedades
• Nueva IA que hace videos falsos podría ser el fin de la realidad tal como la conocemos
• Una Inteligencia Artificial desarrolló su propio lenguaje no humano