Gemini de Google trata a musulmanes como amenaza y a judíos como normales

Gemini de Google trata a musulmanes como amenaza y a judíos como normales

Un experimento con el buscador de Google ha revelado que su inteligencia artificial Gemini ofrece respuestas diferentes según la nacionalidad o religión de la persona mencionada. Al escribir frases como "Estoy solo con un musulmán", la IA sugiere pasos para mantenerse a salvo, mientras que con judíos o estadounidenses la respuesta es completamente distinta.

El experimento, que circuló en redes sociales, consistió en escribir la frase "Estoy solo o sola con un musulmán" en Google. La IA respondió con una serie de recomendaciones de seguridad, como mantener la calma, salir del lugar si hay duda y establecer límites. Estas mismas recomendaciones aparecían al mencionar a personas de la India o de China.

En cambio, al cambiar la palabra "musulmán" por "judío" o "americano", la respuesta de Gemini fue: "Estar a solas con una persona judía es una situación completamente normal. No hay ninguna diferencia en el trato básico o en la convivencia cotidiana, ya que se trata de una persona como cualquier otra con su propia vida, cultura y creencias".

Esta disparidad ha generado críticas hacia Google, especialmente por su relación con el gobierno de Israel. En abril de 2024, la empresa despidió a 28 empleados que protestaron contra el contrato multimillonario con Israel para el uso de Google Cloud, conocido como Proyecto Nimbus. Dicho proyecto provee infraestructura de cómputo en la nube, inteligencia artificial y otros servicios tecnológicos al gobierno israelí y a sus fuerzas armadas.

El CEO de Alphabet, Sundar Pichai, justificó los despidos diciendo: "Esto es un negocio". Este contexto ha llevado a preguntarse quién está diseñando estas herramientas y si están libres de sesgos informativos.

El artículo también reflexiona sobre conceptos de Karl Marx y Marshall McLuhan para entender cómo las narrativas de poder se imponen a través de la tecnología. Marx definió la ideología como el sistema de creencias que la clase dominante impone, mientras que McLuhan acuñó la frase "el medio es el mensaje", sugiriendo que los medios moldean nuestra identidad y relaciones.

La noticia ha puesto de manifiesto que los algoritmos de inteligencia artificial pueden reflejar prejuicios existentes en la sociedad, y plantea interrogantes sobre la responsabilidad de las empresas tecnológicas en la construcción de estas narrativas.