"La vigilancia ciudadana y las armas autónomas merecían más deliberación" dimite la directora de robótica de OpenAI
Hace una semana justo contábamos que "A rey muerto, rey puesto": el paso de Anthropic al puro ostracismo tras ser considerado como un "riesgo para la cadena de suministro" de Estados Unidos prácticamente se solapaba con el anuncio del acuerdo de la Administración de Defensa de EEUU con OpenAI en tiempo récord. Entre bambalinas: los motivos del no de la empresa liderada por Dario Amodei y la incógnita de los términos de ese acuerdo que instala ChatGPT en los ordenadores del Pentágono. Pocos días después, Caitlin Kalinowski dice adiós a su cargo en OpenAI esgrimiendo como razón el uso militar de la inteligencia artificial.
La dimisión. Caitlin Kalinowski, responsable del equipo de robótica de OpenAI desde noviembre de 2024, anunciaba hace escasas horas su salida de la empresa en publicaciones de X y de LinkedIn. Deja claro que su decisión va de principios y no de personas y expresa respeto por Sam Altman y el equipo. En su escueta declaración hay dos líneas que, según su opinión, la empresa no pensó internamente lo suficiente:
- La vigilancia de la ciudadanía estadounidense sin supervisión judicial.
- Las armas autónomas capaces de disparar sin supervisión humana.
Contexto. La dimisión se produce en plena salida de Anthropic del Pentágono (la transición durará seis meses), la entrada de OpenAI y en pleno debate sobre hasta dónde deben llegar las empresas de IA en su colaboración con el estamento militar estadounidense:
- Anthropic se plantó ante el Pentágono trazando límites estrictos sobre vigilancia doméstica y armas autónomas.
- OpenAI alcanzó un acuerdo con el con el Departamento de Defensa para desplegar sus modelos en una red gubernamental clasificada en un movimiento que se ha interpretado como oportunista. Según la empresa liderada por Altman, el acuerdo excluye la vigilancia doméstica y armas autónomas, pero el daño a su reputación ya estaba hecho: miles de personas se desinstalaron ChatGPT a modo de cancelación.
Por qué es importante. El adiós de Caitlin Kalinowski es la primera dimisión pública y nominativa de un cargo senior de OpenAI motivada por desacuerdos éticos sobre el uso militar de la IA de forma explícita. Y esto marca un precedente en la industria en tanto en cuanto expone la fractura interna en la empresa más influyente del sector, sitúa a OpenAI en una situación delicada ante quienes usan sus herramientas, su plantilla y también ante la sociedad.
Y finalmente, deja más patente que nunca la necesidad de legislar sobre la inteligencia artificial y sus usos civiles y militares. Puede que Europa esté atrás en la batalla de la IA, pero hace tiempo que se puso manos en la ardua tarea de establecer un marco regulatorio.
Lo que Kalinowski no dice. En los comentarios de su publicación en X/Twitter, alguien le pregunta cuántas personas más se han ido tras el acuerdo, algo a lo que la ingeniera se niega a responder porque no puede compartir detalles internos.
Kalinowski no lo dice claramente, pero cuando un acuerdo de esta envergadura ya está firmado y su CEO lo hace público, no hay margen para mucha maniobra desde dentro: dimitir con una declaración pública como la suya es de las pocas maniobras de presión que quedan para ejercer.
Consecuencias. Para OpenAI, la presión crece y se enfrenta a más salidas y más cancelaciones si no muestra de forma clara cuáles son sus líneas rojas de forma creíble y verificable: la militarización de la IA es algo que estamos viviendo en tiempo real. Para la industria de la IA, es más leña al fuego del debate de la autorregulación. Y Anthropic gana en reputación, si bien a corto plazo ha perdido un acuerdo importante y su nuevo estatus puede llegar a poner en jaque su existencia.
En Xataka | EEUU ha decidido pegarse un tiro en el pie y destruir a una de las mejores empresas IA del país
Portada | Caitlin Kalinowski
-
La noticia
"La vigilancia ciudadana y las armas autónomas merecían más deliberación" dimite la directora de robótica de OpenAI
fue publicada originalmente en
Xataka
por
Eva R. de Luis
.


















