Google está ayudando al Pentágono a construir IA para drones
Publicado: 16 Abr 2018, 12:40
Tomado de: https://gizmodo.com/google-is-helping-t ... 1823464533
Google se ha asociado con el Departamento de Defensa de los Estados Unidos para ayudar a la agencia a desarrollar la inteligencia artificial para el análisis de imágenes de aviones no tripulados, una medida que provocó un gran revuelo entre los empleados de la gigante de la tecnología cuando se enteraron de la participación de Google.
El proyecto piloto de Google con el Departamento de Defensa, Proyecto Maven, un esfuerzo por identificar objetos en imágenes de aviones no tripulados, no se ha informado anteriormente, pero fue discutido ampliamente dentro de la compañía la semana pasada cuando la información sobre el proyecto fue compartido en una lista de correo interna, de acuerdo con fuentes que pidieron no ser nombradas porque no estaban autorizadas para hablar públicamente sobre el proyecto.
Algunos empleados de Google estaban indignados de que la compañía podría ofrecer recursos a los militares para la tecnología de vigilancia que participan en las operaciones de aviones no tripulados, dijeron las fuentes, mientras que otros argumentaron que el proyecto planteó importantes cuestiones éticas sobre el desarrollo y uso de la máquina de aprendizaje.
Eric Schmidt de Google resumió las preocupaciones de la industria de la tecnología sobre la colaboración con el Pentágono en una charla el otoño pasado. "Existe una preocupación general en la comunidad tecnológica de que de alguna manera el complejo militar-industrial use sus cosas para matar gente incorrectamente", dijo. Si bien Google dice que su participación en el Proyecto Maven no está relacionada con los usos de combate, el tema aún despierta preocupación entre los empleados, dijeron las fuentes.
El Proyecto Maven, un proyecto del Pentágono de rápido movimiento también conocido como el Equipo Transfuncional de Guerra Algorítmica (AWCFT), se estableció en abril de 2017. La misión declarada de Maven es "acelerar la integración del DoD en big data y el aprendizaje automático". En total, El Departamento de Defensa gastó $ 7,4 mil millones en áreas relacionadas con la inteligencia artificial en 2017, informó el Wall Street Journal.
La primera tarea del proyecto fue ayudar al Pentágono a procesar eficientemente el diluvio de imágenes de video recogidas diariamente por sus drones aéreos, una cantidad de material de archivo tan amplia que los analistas humanos no pueden mantener el ritmo, según Greg Allen, un miembro adjunto del Centro de un New American Security, que fue coautor de un extenso informe de julio de 2017 sobre el uso militar de la inteligencia artificial. Aunque el Departamento de Defensa ha invertido recursos en el desarrollo de tecnología avanzada de sensores para recopilar información durante los vuelos de drones, se ha retrasado en la creación de herramientas de análisis para analizar los datos.
"Antes de Maven, nadie en el departamento tenía una idea de cómo comprar, colocar e implementar adecuadamente la IA", escribió Allen.
Maven tuvo la tarea de utilizar el aprendizaje automático para identificar vehículos y otros objetos en secuencias de drones, quitándole esa carga a los analistas. El objetivo inicial de Maven era proporcionar a los militares una visión avanzada de la computadora, lo que permite la detección e identificación automatizadas de objetos en hasta 38 categorías capturadas por la cámara de movimiento completo de un dron, según el Pentágono. Maven proporciona al departamento la capacidad de rastrear a las personas que vienen y van desde diferentes lugares.
La inteligencia artificial ya se implementó en aplicaciones policiales y militares, pero los investigadores advierten que estos sistemas pueden estar significativamente sesgados en formas que no son fácilmente detectables. Por ejemplo, ProPublica informó en 2016 que un algoritmo utilizado para predecir la probabilidad de reincidencia entre internos presentaba sistemáticamente prejuicios raciales.
Si bien la participación de Google despertó la preocupación entre los empleados, es posible que las ofertas de productos de Google limiten su acceso a datos confidenciales del gobierno. Si bien sus competidores en la nube, Amazon y Microsoft Azure, ofrecen productos en la nube orientados al gobierno diseñados para mantener la información clasificada como secreta, Google no cuenta actualmente con una oferta de productos similar.
Un portavoz de Google le dijo a Gizmodo en un comunicado que le está proporcionando al Departamento de Defensa las API TensorFlow, que se usan en aplicaciones de aprendizaje automático, para ayudar a los analistas militares a detectar objetos en imágenes. Reconociendo la naturaleza controvertida del uso de aprendizaje automático para fines militares, el vocero dijo que la compañía está trabajando actualmente para "desarrollar políticas y salvaguardas" en torno a su uso.
"Hemos trabajado mucho tiempo con agencias gubernamentales para proporcionar soluciones tecnológicas. Este proyecto específico es un piloto con el Departamento de Defensa, para proporcionar API TensorFlow de código abierto que pueden ayudar en el reconocimiento de objetos en datos no clasificados ", dijo el vocero. "La tecnología muestra imágenes para revisión humana, y es solo para usos no ofensivos. El uso militar del aprendizaje automático naturalmente plantea preocupaciones válidas. Estamos discutiendo activamente este tema importante internamente y con otros a medida que continuamos desarrollando políticas y salvaguardas en torno al desarrollo y el uso de nuestras tecnologías de aprendizaje automático ".
El Departamento de Defensa estableció una línea de tiempo agresiva para Maven: se esperaba que el proyecto se pusiera en marcha solo seis meses después de su fundación y, según los informes, se ha desplegado en la lucha contra el Estado Islámico desde diciembre.
Para cumplir con el cronograma agresivo, el Departamento de Defensa se asoció con expertos en AI en la industria tecnológica y académica, trabajando a través de Defense Information Unit Experimental, el programa de incubación tecnológica del departamento y Defense Innovation Board, un grupo asesor creado por el ex Secretario de Defensa Ash Carter para cerrar la brecha tecnológica entre el Pentágono y Silicon Valley.
Schmidt, quien dejó el cargo de presidente ejecutivo de la empresa matriz de Google, Alphabet, el mes pasado, preside la Junta de Innovación de Defensa. Durante una reunión en julio, Schmidt y otros miembros de la Junta de Innovación de Defensa discutieron la necesidad del Departamento de Defensa de crear un centro de intercambio de información de entrenamiento que pueda usarse para mejorar la capacidad de inteligencia artificial de los militares. Los miembros de la junta desempeñaron un "papel consultivo" en el Proyecto Maven, de acuerdo con los minutos de la reunión, mientras que "algunos miembros de los equipos de la Junta son parte del grupo directivo ejecutivo que es capaz de proporcionar información rápida" sobre el Proyecto Maven.
Maven es supervisado por el subsecretario de inteligencia de defensa y el Teniente General John Shanahan fue seleccionado como el director del proyecto. Maven fue diseñado para ser la chispa, según Shanahan, que encendería "el frente de la llama de la inteligencia artificial" en todo el Departamento de Defensa.
En el verano de 2017, el equipo se propuso ubicar socios comerciales cuya experiencia era necesaria para hacer realidad sus sueños de inteligencia artificial. En la cumbre de Defense One Tech en Washington, el coronel principal del Cuerpo de Marines de Maven, Drew Cukor, dijo que una relación simbiótica entre humanos y computadoras era crucial para ayudar a los sistemas de armas a detectar objetos.
Dirigiéndose a una multitud de expertos en tecnología militar y de la industria, muchos de Silicon Valley, Cukor, declararon que los EE. UU. Se encuentran en medio de la carrera armamentista de AI. "Muchos de ustedes habrán notado que Eric Schmidt está llamando a Google una compañía de IA ahora, no una compañía de datos", dijo, aunque Cukor no citó específicamente a Google como un socio de Maven.
Google se ha asociado con el Departamento de Defensa de los Estados Unidos para ayudar a la agencia a desarrollar la inteligencia artificial para el análisis de imágenes de aviones no tripulados, una medida que provocó un gran revuelo entre los empleados de la gigante de la tecnología cuando se enteraron de la participación de Google.
El proyecto piloto de Google con el Departamento de Defensa, Proyecto Maven, un esfuerzo por identificar objetos en imágenes de aviones no tripulados, no se ha informado anteriormente, pero fue discutido ampliamente dentro de la compañía la semana pasada cuando la información sobre el proyecto fue compartido en una lista de correo interna, de acuerdo con fuentes que pidieron no ser nombradas porque no estaban autorizadas para hablar públicamente sobre el proyecto.
Algunos empleados de Google estaban indignados de que la compañía podría ofrecer recursos a los militares para la tecnología de vigilancia que participan en las operaciones de aviones no tripulados, dijeron las fuentes, mientras que otros argumentaron que el proyecto planteó importantes cuestiones éticas sobre el desarrollo y uso de la máquina de aprendizaje.
Eric Schmidt de Google resumió las preocupaciones de la industria de la tecnología sobre la colaboración con el Pentágono en una charla el otoño pasado. "Existe una preocupación general en la comunidad tecnológica de que de alguna manera el complejo militar-industrial use sus cosas para matar gente incorrectamente", dijo. Si bien Google dice que su participación en el Proyecto Maven no está relacionada con los usos de combate, el tema aún despierta preocupación entre los empleados, dijeron las fuentes.
El Proyecto Maven, un proyecto del Pentágono de rápido movimiento también conocido como el Equipo Transfuncional de Guerra Algorítmica (AWCFT), se estableció en abril de 2017. La misión declarada de Maven es "acelerar la integración del DoD en big data y el aprendizaje automático". En total, El Departamento de Defensa gastó $ 7,4 mil millones en áreas relacionadas con la inteligencia artificial en 2017, informó el Wall Street Journal.
La primera tarea del proyecto fue ayudar al Pentágono a procesar eficientemente el diluvio de imágenes de video recogidas diariamente por sus drones aéreos, una cantidad de material de archivo tan amplia que los analistas humanos no pueden mantener el ritmo, según Greg Allen, un miembro adjunto del Centro de un New American Security, que fue coautor de un extenso informe de julio de 2017 sobre el uso militar de la inteligencia artificial. Aunque el Departamento de Defensa ha invertido recursos en el desarrollo de tecnología avanzada de sensores para recopilar información durante los vuelos de drones, se ha retrasado en la creación de herramientas de análisis para analizar los datos.
"Antes de Maven, nadie en el departamento tenía una idea de cómo comprar, colocar e implementar adecuadamente la IA", escribió Allen.
Maven tuvo la tarea de utilizar el aprendizaje automático para identificar vehículos y otros objetos en secuencias de drones, quitándole esa carga a los analistas. El objetivo inicial de Maven era proporcionar a los militares una visión avanzada de la computadora, lo que permite la detección e identificación automatizadas de objetos en hasta 38 categorías capturadas por la cámara de movimiento completo de un dron, según el Pentágono. Maven proporciona al departamento la capacidad de rastrear a las personas que vienen y van desde diferentes lugares.
La inteligencia artificial ya se implementó en aplicaciones policiales y militares, pero los investigadores advierten que estos sistemas pueden estar significativamente sesgados en formas que no son fácilmente detectables. Por ejemplo, ProPublica informó en 2016 que un algoritmo utilizado para predecir la probabilidad de reincidencia entre internos presentaba sistemáticamente prejuicios raciales.
Si bien la participación de Google despertó la preocupación entre los empleados, es posible que las ofertas de productos de Google limiten su acceso a datos confidenciales del gobierno. Si bien sus competidores en la nube, Amazon y Microsoft Azure, ofrecen productos en la nube orientados al gobierno diseñados para mantener la información clasificada como secreta, Google no cuenta actualmente con una oferta de productos similar.
Un portavoz de Google le dijo a Gizmodo en un comunicado que le está proporcionando al Departamento de Defensa las API TensorFlow, que se usan en aplicaciones de aprendizaje automático, para ayudar a los analistas militares a detectar objetos en imágenes. Reconociendo la naturaleza controvertida del uso de aprendizaje automático para fines militares, el vocero dijo que la compañía está trabajando actualmente para "desarrollar políticas y salvaguardas" en torno a su uso.
"Hemos trabajado mucho tiempo con agencias gubernamentales para proporcionar soluciones tecnológicas. Este proyecto específico es un piloto con el Departamento de Defensa, para proporcionar API TensorFlow de código abierto que pueden ayudar en el reconocimiento de objetos en datos no clasificados ", dijo el vocero. "La tecnología muestra imágenes para revisión humana, y es solo para usos no ofensivos. El uso militar del aprendizaje automático naturalmente plantea preocupaciones válidas. Estamos discutiendo activamente este tema importante internamente y con otros a medida que continuamos desarrollando políticas y salvaguardas en torno al desarrollo y el uso de nuestras tecnologías de aprendizaje automático ".
El Departamento de Defensa estableció una línea de tiempo agresiva para Maven: se esperaba que el proyecto se pusiera en marcha solo seis meses después de su fundación y, según los informes, se ha desplegado en la lucha contra el Estado Islámico desde diciembre.
Para cumplir con el cronograma agresivo, el Departamento de Defensa se asoció con expertos en AI en la industria tecnológica y académica, trabajando a través de Defense Information Unit Experimental, el programa de incubación tecnológica del departamento y Defense Innovation Board, un grupo asesor creado por el ex Secretario de Defensa Ash Carter para cerrar la brecha tecnológica entre el Pentágono y Silicon Valley.
Schmidt, quien dejó el cargo de presidente ejecutivo de la empresa matriz de Google, Alphabet, el mes pasado, preside la Junta de Innovación de Defensa. Durante una reunión en julio, Schmidt y otros miembros de la Junta de Innovación de Defensa discutieron la necesidad del Departamento de Defensa de crear un centro de intercambio de información de entrenamiento que pueda usarse para mejorar la capacidad de inteligencia artificial de los militares. Los miembros de la junta desempeñaron un "papel consultivo" en el Proyecto Maven, de acuerdo con los minutos de la reunión, mientras que "algunos miembros de los equipos de la Junta son parte del grupo directivo ejecutivo que es capaz de proporcionar información rápida" sobre el Proyecto Maven.
Maven es supervisado por el subsecretario de inteligencia de defensa y el Teniente General John Shanahan fue seleccionado como el director del proyecto. Maven fue diseñado para ser la chispa, según Shanahan, que encendería "el frente de la llama de la inteligencia artificial" en todo el Departamento de Defensa.
En el verano de 2017, el equipo se propuso ubicar socios comerciales cuya experiencia era necesaria para hacer realidad sus sueños de inteligencia artificial. En la cumbre de Defense One Tech en Washington, el coronel principal del Cuerpo de Marines de Maven, Drew Cukor, dijo que una relación simbiótica entre humanos y computadoras era crucial para ayudar a los sistemas de armas a detectar objetos.
Dirigiéndose a una multitud de expertos en tecnología militar y de la industria, muchos de Silicon Valley, Cukor, declararon que los EE. UU. Se encuentran en medio de la carrera armamentista de AI. "Muchos de ustedes habrán notado que Eric Schmidt está llamando a Google una compañía de IA ahora, no una compañía de datos", dijo, aunque Cukor no citó específicamente a Google como un socio de Maven.