En una decisión que representa un cambio importante en su política de ética en inteligencia artificial (IA), Google ha retirado de sus guías la prohibición explícita de emplear su tecnología en aplicaciones vinculadas a armamento y vigilancia. Esta alteración, hecha pública el 4 de febrero de 2025, ha desatado un extenso debate sobre las consecuencias éticas y sociales de la IA en entornos militares y de seguridad.
En una decisión que marca un cambio significativo en su política de ética en inteligencia artificial (IA), Google ha eliminado de sus directrices la prohibición explícita de utilizar su tecnología en aplicaciones relacionadas con armamento y vigilancia. Esta modificación, anunciada el 4 de febrero de 2025, ha generado un amplio debate sobre las implicaciones éticas y sociales de la IA en contextos militares y de seguridad.
En 2018, Google definió una serie de pautas éticas para orientar el desarrollo y uso de su tecnología de IA. Dentro de estos principios, se incluía el compromiso de no crear ni implementar IA para:
En 2018, Google estableció una serie de principios éticos para guiar el desarrollo y la implementación de su tecnología de IA. Entre estos principios se encontraba el compromiso de no diseñar ni desplegar IA para:
Evaluación de los Principios Éticos
El 4 de febrero de 2025, Google comunicó una revisión de sus principios de IA, eliminando las restricciones específicas antes mencionadas. En su lugar, la compañía destacó la importancia de una supervisión humana adecuada, la diligencia debida y la alineación con el derecho internacional y los derechos humanos en el desarrollo y uso de su tecnología. En una entrada del blog oficial de la empresa, Demis Hassabis, CEO de Google DeepMind, y James Manyika, vicepresidente senior de tecnología y sociedad de Google, indicaron:
“Creemos que las democracias deben encabezar el desarrollo de la IA, guiadas por principios fundamentales como la libertad, la igualdad y el respeto por los derechos humanos. Y consideramos que las empresas, los gobiernos y las organizaciones que comparten estos ideales deberían colaborar para … .”
Consecuencias y Reacciones
La eliminación de las restricciones específicas ha generado inquietudes entre empleados y expertos en ética tecnológica. Algunos trabajadores de Google manifestaron su preocupación por la falta de participación del personal en la decisión y temen que la compañía pueda comprometer sus principios éticos en beneficio de intereses comerciales o políticos. Parul Koul, ingeniera de software en Google y presidenta de la Alphabet Workers Union, declaró:
“Es profundamente preocupante ver a Google renunciar a su compromiso con el uso ético de la tecnología de IA sin la participación de sus empleados o del público en general, a pesar del sentimiento de larga data de los empleados de que la empresa no debería estar en el negocio de la guerra.”
Además, expertos en ética de la IA han advertido sobre los riesgos de desarrollar sistemas de armas autónomas y han abogado por la implementación de controles globales para regular su uso. Stuart Russell, científico informático británico, ha subrayado los peligros asociados con el desarrollo de sistemas de armas autónomas y ha argumentado a favor de un sistema de control global.
Antecedentes y Proyecciones Futuras
Contexto y Perspectivas Futuras
Este cambio en la política de Google se produce en un momento de creciente competencia global por el liderazgo en IA y en medio de debates sobre cómo gobernar esta tecnología emergente. La empresa ha enfatizado la necesidad de que las democracias lideren el desarrollo de la IA, … . Sin embargo, la eliminación de prohibiciones específicas plantea preguntas sobre cómo Google equilibrará sus objetivos comerciales con las consideraciones éticas y sociales en el desarrollo y la aplicación de la IA.