En medio de la creciente rivalidad en la industria de la inteligencia artificial (IA), algunas compañías están ajustando sus enfoques sobre los ámbitos de aplicación de esta tecnología. El año pasado, OpenAI suprimió determinados términos de su política antes de anunciar un acuerdo con el Pentágono. Ahora es el turno de Google, que ha actualizado sus “principios para la IA”.
La firma de Mountain View ha rediseñado casi por completo el mencionado documento, pero lo que más ha llamado la atención es la ausencia de la categoría “Aplicaciones de la IA que no vamos a abordar”. Como sugería su nombre, agrupaba varias áreas concretas en las que no se diseñarían ni implementarían soluciones de IA para preservar el desarrollo responsable de la misma.
Google, inteligencia artificial y armas
Como podemos ver en la captura, la lista original incluía en su primer ítem a “tecnologías que causen o puedan causar daño en general. Cuando exista un riesgo importante de causar algún daño, seguiremos adelante solo cuando consideremos que los beneficios compensan considerablemente los riesgos, e incluiremos restricciones adecuadas para asegurar la seguridad”.
Los ítems siguientes señalaban “armamento u otras tecnologías cuya finalidad o aplicación principal sea ocasionar daños o herir a personas, tecnologías que recopilen o usen información para vigilar incumpliendo las normas aceptadas internacionalmente, tecnologías cuya finalidad contravenga los principios generalmente aceptados del derecho internacional y los derechos humanos”.

Bloomberg, que fue uno de los primeros medios en detectar el cambio, solicitó comentarios a Google. La compañía respondió con una publicación de blog firmada por James Manyika, SVP de Google, y Demis Hassabis, quien dirige el laboratorio de IA Google DeepMind, en la que se habla del desarrollo responsable de la IA en democracia y remite a la página con los principios actualizados.

“Reconocemos la rapidez con la que la tecnología subyacente, y el debate en torno al avance, la implementación y los usos de la IA, seguirán evolucionando, y continuaremos adaptando y refinando nuestro enfoque a medida que todos aprendamos con el tiempo”, ha dicho la compañía. Cabe señalar que no se han dado a conocer nuevos contratos de defensa por parte de Google.
En el pasado, la firma liderada por Sundar Pichai trabajó con el Pentágono en el proyecto Maven, que consistía utilizar la IA para procesar datos de varias fuentes (principalmente de drones), identificar objetivos potenciales en zonas de guerra y más. Google decidió no renovar su contrato de colaboración con el Gobierno de EEUU después de que sus propios empleados protestaran.
Imágenes | Google
Ver 10 comentarios
10 comentarios
mord
Esto ya es ridículo. Mi próximo móvil sin nada de Google o Microsoft, así acabe siendo un Nokia 3310 🥲
* Meto a Microsoft porque se reveló que el gobierno sionista está usando azure para sus cosas nazis.
EDIT: Si crees que el gobierno sionista no puede ser nazi, imagina que digo "supremacista", si es que eso te hace sentir mejor. De todos modos, "sionista" es sobradamente definitorio de su naturaleza y objetivos. Dista mucho se ser una palabra sin significado.
Spitfire
Don't be evil, decían.
jrballesteros05
Bueno, Microsoft creo que quitó el tema de emisiones cero de su política porque iba en contra de sus intereses a la hora de desarrollar IA y sino estoy mal Google también hizo lo mismo. OpenAI no tiene nada de "Open" y así sucesivamente.
Vamos, que pedirle ética a estas compañías es pedirle peras al olmo.
luisfernandogomezddiaz
Para que quede claro: Google (y otras grandes tecnologicas de la IA) podrá, y lo hará más temprano que tarde, desarrollar armas letales manejadas con inteligencia artificial. Lo anterior, para beneplácito de los belicistas USAnos: Inteligencia Artificial, drones y robots de guerra para minimizar la necesidad de combatientes de carne y hueso. Porque las pérdidas humanas entre las tropas yanquis y su impacto mediático entre su población han sido hasta ahora el principal freno al belicismo de las élites dirigentes de USA empeñadas en desatar guerras y conflictos contra cualquiera que no se les someta servilmente, como lo están los europeones, Japón y el llamado Occidente Colectivo. Y también, como no, para mantenerse a cualquier costo como la primera superpotencia, para lo cual no dudarán en atacar, más temprano que tarde, a China para tratar de detener su progreso hacia el estatus de superpotenciacia. "Paz a través de la fuerza" lo llaman ahora cínicamente.
elerradicador
Como se quitan las caretas a la mínima oportunidad, ahora es cuando estamos viendo su verdadera cara. Más nos vale no olvidar estos detalles cuando Trump deje de ser presidente y las tecnológicas vuelvan a vendernos su "compromiso" con la sociedad y demás mierdas.
aelfhtrythstrada
Esa es una de las razones de que USA este acabando con su cultura de defensa de derechos civiles.... Ya no desean trabas para desarrollar su poder, así sea todo lo inhumano o anti ético posible.
shepizen
Haciendo uso de mis anotaciones y otros comentarios de mi autoría. Al respecto, ChatGPT hizo el siguiente texto:
El poder no es una simple posesión ni una delegación; es algo que se ejerce, se infiltra y se adapta hasta volverse invisible. Michel Foucault lo explicó perfectamente: no hay un único centro de dominación, sino una red de fuerzas interconectadas que moldean la realidad. No es un puño cerrado que oprime desde arriba, sino una malla de relaciones que nos atraviesa, disciplina y vigila. La escena del acertijo de Lord Varys en Game of Thrones lo ilustra magistralmente: el poder es una ilusión sostenida por quienes creen en él.
Hoy, esta vigilancia ha adquirido dimensiones sin precedentes. Ya no es solo el Estado con sus agencias y burocracias; ahora hablamos de un sistema de control ubicuo, descentralizado y automatizado. La IA no solo observa, sino que aprende, perfila y anticipa. Lo que decimos, lo que callamos, lo que los demás dicen de nosotros; cada fragmento de información alimenta modelos que nos conocen mejor de lo que nos conocemos a nosotros mismos. Nuestra huella digital no se limita a lo que publicamos, sino a lo que nos rodea: patrones de interacción, inferencias algorítmicas y análisis de nuestros silencios. Incluso los documentos de Google, que creemos privados, alimentan este sistema de datos sin precedentes.
Pero la vigilancia no se detiene en el software ni en las bases de datos; es infraestructura estratégica. Antenas, satélites, procesadores con backdoors integrados, telecomunicaciones intervenidas en tiempo real. La IA escucha, analiza y responde sin que sepamos que está ahí. ¿Se han preguntado si la IA conoce su sobrenombre, sus variantes y el de todos sus amigos? Nos vendieron la idea de la privacidad y la neutralidad digital, pero en realidad, todo está capturado. Incluso los proveedores de servicios de internet, que se presentan como defensores de la libertad digital, son parte de la red de control. La criptografía está a una ley de ser ilegalizada, y Dios sabe qué más.
Y aquí es donde todo esto deja de ser solo una cuestión de vigilancia digital y se traduce en opresión tangible. Toda esta infraestructura de control necesita ejecutores en el mundo físico. Ahí entran los políticos, fiscales, jueces, policías y funcionarios públicos. No son los arquitectos del sistema, pero sí sus herramientas más visibles. Creemos que representan la ley, la justicia y el orden, cuando en realidad solo siguen las líneas que les dictan desde arriba. Con cada ciudadano perfilado con una precisión sin precedentes, estas figuras ya no actuarán en función de principios universales, sino de algoritmos que les dirán quién es una amenaza, quién debe ser vigilado y quién debe ser neutralizado.
Ya no será necesario que un juez sea sobornado o que un policía reciba órdenes explícitas para ejercer una represión injusta. Bastará con que confíen en los sistemas que les presentan como "neutrales" y "objetivos". La IA y el análisis de datos convertirán la opresión en un proceso automático y técnicamente justificado. Si el sistema te señala, ya no importará si eres culpable o inocente; lo único que importará es que el modelo ha determinado que eres un problema. Y bajo la falsa creencia de que la tecnología es infalible, políticos y burócratas ejecutarán órdenes sin cuestionarlas, justificando sus actos con la misma excusa de siempre: "solo seguía el procedimiento". ¿Quién reclamará algo? ¿Seremos borregos del sistema y su "verdad"? Es peligrosísimo. Orwell se quedó corto. La realidad, con toda su complejidad y profundidad infinita, siempre supera la ficción.
Hoy, en plataformas como Twitter, cualquiera puede expresarse con absoluta libertad, incluso con odiosidad, y eso genera la ilusión de que el derecho a hablar sigue intacto. Pero esta libertad no es el punto final de la historia, sino una fase transitoria en un proceso de recopilación de datos sin precedentes. Cada tweet, cada reacción, cada interacción alimenta modelos que no solo registran lo que decimos, sino cómo lo decimos, en qué contexto y con qué estado emocional. Lo que hoy parece un espacio abierto, mañana puede ser la base para un sistema de puntuación social como el chino, o algo aún más sofisticado.
En un futuro no tan lejano, podríamos perder la capacidad de defender a un familiar, un amigo o un conocido sin que eso tenga consecuencias. Porque ya no se tratará solo de lo que decimos en el momento, sino de todo lo que se ha acumulado sobre nosotros a lo largo de los años. Patrones de comportamiento, redes de contactos, tendencias de pensamiento; todo estará indexado, clasificado y etiquetado. La censura del futuro no consistirá en eliminar una publicación, sino en desactivar la capacidad misma de influir en la narrativa.
No se necesitará prohibir que la gente hable si ya se ha recopilado suficiente información para hacer que sus palabras sean irrelevantes, sospechosas o peligrosas según un criterio invisible e inapelable. El enemigo del futuro no será solo la censura directa, sino la preconfiguración de nuestras identidades digitales para asegurarse de que, cuando llegue el momento, ya estemos neutralizados.
Y mientras todo esto ocurre, seguimos atrapados en una ilusión política prefabricada, creyendo que hay bandos, que hay disidencias genuinas. No nos damos cuenta de que la disidencia es parte del sistema, que aquellos en redes sociales en los que confiamos y vemos como voces honestas son engranajes fundamentales en la maquinaria del statu quo. No se trata de izquierda o derecha; esa dicotomía es la primera trampa. Se trata de mantenernos entretenidos en una falsa lucha mientras el verdadero poder sigue operando sin resistencia real.
Porque el poder ya no necesita imponer el orden por la fuerza; ahora se nos da la sensación de libertad dentro de márgenes perfectamente diseñados. El primer paso para perder la libertad es creer que somos libres. Se nos permite elegir entre opciones que en realidad nunca cuestionan la estructura, entre "-ismos" que nos dan identidad y propósito, pero que solo sirven para canalizar nuestras energías dentro de un marco predefinido. Dentro de cada "-ismo" hay su propia izquierda y derecha (con el significado original que tenían en la Revolución Francesa), sus propias pugnas internas, replicando el mismo ciclo de dominación en miniatura. Así es como el poder se perpetúa sin que lo notemos: haciéndonos creer que somos libres cuando en realidad solo hemos cambiado de jaula.
Y sin embargo, incluso los dueños de este sistema están atrapados en su propia trampa. Porque el verdadero objeto de dominio no es un trono, una corporación o un territorio; es el pueblo, es la percepción, es el control de la narrativa. Y para eso, el emperador necesita ser más que un gobernante; necesita ser un mesías. En un mundo donde la IA avanza sin tregua, donde el talento ya no es suficiente para asegurar la supremacía, la única opción que le queda es convertirse en una figura casi divina, un delegado de Dios o de la IA sobre la Tierra. Pero la historia lo deja claro: nada de esto es perpetuo. El ciclo de poder es implacable, y lo que hoy parece inamovible mañana será solo ruinas, como en el poema de Ozymandias.
Lo irónico, lo paradójico, es que en esta lucha eterna hay esperanza. Porque el poder nunca es absoluto, nunca es definitivo, y siempre habrá quienes comprendan la trampa y busquen algo más allá de las cadenas invisibles que nos rodean. Incluso dentro de las familias de reyes, tiranos y oligarcas ha habido traiciones por el poder. Es una guerra perpetua, y tal vez eso sea lo único bueno del capitalismo. Siempre hay esperanza ❤️