Funcionarios de tecnología militar dicen que pausar la IA es ‘casi imposible’

Funcionarios de tecnología militar dicen que pausar la IA es ‘casi imposible’

Ejecutivos y expertos en tecnología militar hablan antes Comité de Servicios Armados del Senado miércoles Él dijo Crecientes llamadas para “detener” los nuevos sistemas de IA Era engañoso y parecía “casi imposible” para su edad. Los expertos, que hablaron en nombre de dos empresas de tecnología militar, además de Contratista de defensa Rand Corporation, dijo que es probable que los fabricantes chinos de IA no se atengan a una pausa y, en cambio, se beneficien de Desarrollo silencioso para usurpar los Estados Unidos El liderazgo actual en IA internacional carrera. El mundo se encuentra en un “punto de inflexión” en el campo de la inteligencia artificial, dijo un experto, y es hora de pisar el acelerador para “aterrorizar a nuestros oponentes”.

Jason Matheny, presidente y director ejecutivo de Rand, dijo Sesión del Senado el miércoles. Fue fundada por Shyam Sankar, director de tecnología de Better Thiel Empresa de análisis Palantir, Estuvo de acuerdo y dijo que detener temporalmente el desarrollo de la inteligencia artificial en Estados Unidos podría allanar el camino para que China establezca estándares internacionales sobre el uso y desarrollo de la inteligencia artificial. Sankar dijo que si eso sucede temido Pautas regulatorias recientes para China Prohibir que los modelos de IA proporcionen contenido crítico con el gobierno podría propagarlo a otros países.

“En la medida en que estos se conviertan en estándares para el mundo, eso es muy problemático”, dijo Sankar. “La IA democrática es fundamental”.

“Debemos gastar al menos el 5% de nuestro presupuesto en habilidades que intimidarán a nuestros oponentes”

Estas dramáticas advertencias llegan solo un mes después de que cientos de los principales expertos en IA enviaran un dossier Lea la carta abierta ampliamente Llamado a laboratorios de inteligencia artificial para hacer cumplir seisMes pausa en el entrenamiento ¿Qué sistemas de IA son más potentes que los sistemas abiertos?El GPT-4 de AI ha sido lanzado recientemente. Antes de eso, las organizaciones de derechos humanos pasaron años Abogar por tratados vinculantes u otras medidas destinado a restringir el desarrollo de armas autónomas. Los expertos que hablaron ante el Comité de Servicios Armados del Senado acordaron que era fundamental que Estados Unidos implementara las regulaciones inteligentes que guían el desarrollo de la inteligencia artificial, pero advirtieron que un alto total podría hacer más daño que bien al Departamento de Defensa. quién tiene Históricamente, ha luchado por mantenerse a la vanguardia de la innovación de la IA..

Sankar, quien ha criticado el enfoque relativamente cauteloso de los militares cuando se trata de adoptar nuevas tecnologías, dijo a los legisladores que actualmente es más fácil para su empresa proporcionar herramientas avanzadas de inteligencia artificial al gigante bancario AIG que al ejército o la fuerza aérea. Palantir CTO cuestionó esta lenta adopción con el ejército ucraniano, que dijo que aprendió a comprar nuevo software en solo días o semanas para luchar contra las fuerzas invasoras rusas. El CEO de Palantir, Alex Karp, dijo anteriormente que su empresa Ofreció servicios al ejército ucraniano..

Como era de esperarSankar dijo que le gustaría que el Ministerio de Defensa gastara más dinero Un enorme presupuesto de 768 mil millones de dólares en soluciones técnicas como las que ofrece Palantir.

“Si queremos disuadir efectivamente a quienes amenazan los intereses estadounidenses, debemos gastar al menos el 5% de nuestro presupuesto en capacidades que intimiden a nuestros adversarios”, dijo Sankar a los legisladores.

Otros, como el cofundador y director ejecutivo de Shift5, Josh Lospenso, dijeron que el ejército está perdiendo oportunidades de utilizar los datos ya generados por flotas de barcos, tanques, barcos y aviones. Estos datos se pueden usar para entrenar nuevos y poderosos sistemas de inteligencia artificial que pueden dar una ventaja al ejército de los EE. UU. y fortalecer sus defensas en ciberseguridad, dijo Lospinoso. En cambio, “la mayor parte actualmente se evapora en el éter al instante”.

“Estas máquinas hablan, pero el Departamento de Defensa no puede escucharlas”, dijo Lospinoso. “Los sistemas de armas estadounidenses no están preparados para la IA”.

Expertos nerviosos por la IA de código abierto, pero abiertos a la ‘corrupción de datos’ IA china

Mantener la ventaja competitiva de las fuerzas armadas también puede depender del respaldo de los datos producidos por empresas privadas de tecnología estadounidenses. Matheny criticó las empresas abiertas de IA y quería que la búsqueda de buena fe del libre flujo de información ayudara sin darse cuenta a los sistemas militares de IA de otros países. Del mismo modo, otras herramientas de inteligencia artificial consideradas “benignas” por las empresas tecnológicas de EE. UU. podrían ser mal utilizadas por otros. Es probable que se permita la venta de herramientas de IA que excedan un cierto umbral no especificado a gobiernos extranjeros, dijo Matheny, y se deben colocar algunas barandillas de palacio antes de que se publiquen al público.

En algunos casos, dijeron los expertos, las fuerzas armadas estadounidenses deberían considerar dar un paso más y participar en acciones ofensivas para limitar la capacidad de las fuerzas armadas extranjeras para desarrollar sistemas superiores de inteligencia artificial. Lospinoso y Matheny dijeron que estas acciones ofensivas podrían parecer restricciones comerciales o sanciones a equipos de alta tecnología. EE. UU. también podría considerar seguir adelante con el “envenenamiento” de los datos del oponente. Manipular o corromper las bases de datos utilizadas para entrenar modelos militares de IA podría, al menos en el proceso, conducir a una compra del Pentágono. Más tiempo para construir los suyos.

¿Quiere obtener más información sobre la inteligencia artificial, los chatbots y el futuro del aprendizaje automático? Consulte nuestra cobertura completa de inteligencia artificialo explore nuestras guías para Los mejores generadores de arte de IA gratuitos Y Todo lo que sabemos sobre ChatGPT de OpenAI.

Leave a Reply

Your email address will not be published. Required fields are marked *