“¿Cómo diseñarían ustedes un robot para que sepa la diferencia entre lo que es legal y lo que es correcto?”, preguntó. “¿Y cómo incluso empezarían a redactar esas reglas con anticipación? ¿Y si no tuvieran a un humano allí, para interpretarlas, para dar todo ese conjunto de valores humanos a esas decisiones?”.	Sin embargo, hace tres años, fuerzas azerbaiyanas utilizaron lo que pareció ser un dron kamikaze de fabricación israelí llamado Harop para hacer volar un autobús que trasladaba a soldados armenios. El dron puede automáticamente volar a un sitio, hallar un blanco, bajar en picada y detonar, de acuerdo con el fabricante. Por ahora, está diseñado para tener controladores humanos que puedan detenerlo.	No mucho después de eso, en California, la Oficina de Capacidades Estratégicas del Departamento de Defensa probó 103 drones Perdix no armados que, por sí solos, podían congregarse en torno a un blanco. “Son un organismo colectivo, compartiendo un cerebro distribuido para la toma de decisiones y adaptándose entre sí como enjambres en la naturaleza”, señaló el director de la Oficina en ese entonces, William Roper, en un comunicado del Departamento de Defensa.	A medida que crece la habilidad de los sistemas para actuar de manera autónoma, quienes estudian los peligros de armas así temen que los planificadores militares pudieran estar tentados a eliminar los controles humanos por completo. Se ha propuesto un tratado para prohibir estas armas letales autodirigidas, pero ha recibido apoyo limitado.	La velocidad con la que está avanzando la tecnología plantea temores de una carrera de armas autónomas con China y Rusia, lo que vuelve más urgente que las naciones trabajen juntas para establecer controles para que los humanos nunca entreguen por completo a las máquinas las decisiones de vida y muerte en combate.	Están explorando el uso de la inteligencia artificial para permitir que las armas ataquen con más rapidez y precisión, proporcionen más información sobre campos de batalla caóticos y emitan advertencias tempranas de ataques. En vez de elevar el riesgo de bajas civiles, estos avances podrían reducir muertes al eliminar el error humano, dicen los oficiales.	Por ejemplo, EU está explorando el uso de enjambres de pequeños botes autónomos para repeler amenazas a buques más grandes de la Armada. No obstante, los funcionarios de Defensa dicen que los comandantes estadounidenses nunca aceptarían sistemas totalmente autónomos, porque eso significaría entregar a las máquinas la inteligencia y experiencia de oficiales altamente capacitados.