TSJ Staff
Alex Turner, investigador de Google DeepMind enfocado en AI safety, renunció en junio tras el acuerdo que permite al Pentágono usar tecnología de Google en operaciones clasificadas. El contrato, confirmado en mayo, también incluye a Microsoft, Amazon y OpenAI. La salida se suma a una protesta interna de unas 600 personas contra el trabajo clasificado en la empresa.
Google volvió a quedar bajo presión interna por sus vínculos con defensa. Alex Turner, research scientist de Google DeepMind dedicado a AI safety durante más de dos años, salió de la empresa en junio luego de que la compañía cerrara un acuerdo para que el Pentágono use su tecnología en operaciones clasificadas.
El Departamento de Defensa había confirmado a comienzos de mayo ese contrato con Google y otras grandes tecnológicas, entre ellas Microsoft, Amazon y OpenAI, para un “uso operativo legal”. Dentro de Google, la decisión ya venía generando rechazo: en abril, alrededor de 600 empleados de una plantilla cercana a 195,000 personas firmaron una petición para pedir que la empresa evitara acuerdos que incluyeran trabajo clasificado.
La discusión se cruza además con el giro que Google hizo en sus compromisos públicos sobre IA. A inicios de 2025, la compañía actualizó sus principios y quitó promesas explícitas de no desarrollar tecnología para armas o vigilancia masiva. Demis Hassabis, CEO de Google DeepMind, firmó la publicación donde se anunciaron esos cambios. En mayo, un vocero de Google sostuvo que la empresa sigue alineada con la idea de que la IA no debe usarse para vigilancia masiva doméstica ni para armamento autónomo sin supervisión humana adecuada.
Turner contó que empezó a considerar su salida en febrero, cuando creyó que el acuerdo con el Pentágono avanzaría. Durante ese período propuso un marco interno para el uso militar de IA con resguardos concretos, incluido control humano sobre sistemas de targeting. También habló con Jeff Dean, chief scientist de Google, y participó en una carta de empleados que pedía límites claros en cualquier convenio con defensa, como impedir que Gemini pilotee armas autónomas sin intervención humana. Más tarde elevó su propuesta a Hassabis, quien la derivó a dos personas senior de policy; después de algunas conversaciones, Turner dejó de recibir respuestas.
«At that point, I couldn't stay at Google in good conscience, so I left».
Así resumió su decisión en una publicación de blog. Turner también dijo que hoy está trabajando de forma independiente en temas de AI safety y security, y que todavía no tiene otro empleo cerrado. El caso muestra un frente incómodo para los labs de IA: a medida que crecen los contratos con defensa y seguridad nacional, también aumenta el costo interno de sostenerlos frente a equipos que piden reglas verificables sobre supervisión y uso final.