Resumen: Una nueva investigación muestra que los asistentes de escritura de IA pueden homogeneizar involuntariamente los estilos de escritura global, lo que impulsa a los usuarios no occidentales a sonar más estadounidenses. En un estudio que compara usuarios indios y estadounidenses, las sugerencias de IA a menudo promovían temas occidentales y patrones de escritura, disminuyendo las expresiones culturales indias.
Los usuarios indios aceptaron más sugerencias de IA, pero tuvieron que modificarlas con frecuencia, lo que resultó en menos ganancia de productividad. Los investigadores piden que los desarrolladores de IA prioricen la sensibilidad cultural para preservar la diversidad global en la escritura.
Hechos clave:
- Homogeneización cultural: Las sugerencias de escritura de IA empujaron a los usuarios hacia un lenguaje y temas occidentalizados.
- Productividad reducida: Los usuarios indios obtuvieron menos beneficios de las herramientas de IA debido a las frecuentes correcciones necesarias.
- Llama para la sensibilidad cultural: Los investigadores instan a los desarrolladores de IA a explicar diversos contextos culturales, no solo el lenguaje.
Fuente: Universidad de Cornell
Un nuevo estudio de la Universidad de Cornell considera que los asistentes de escritura basados en IA tienen el potencial de funcionar mal para miles de millones de usuarios en el sur global al generar un lenguaje genérico que los hace sonar más como los estadounidenses.
El estudio mostró que cuando los indios y los estadounidenses usaron un asistente de escritura de IA, su escritura se volvió más similar, principalmente a expensas de los estilos de escritura indios.
Si bien el asistente ayudó a ambos grupos a escribir más rápido, los indios obtuvieron un impulso de productividad más pequeño, porque con frecuencia tenían que corregir las sugerencias de la IA.
“Este es uno de los primeros estudios, si no el primero, en demostrar que el uso de la IA en la escritura podría conducir a estereotipos culturales y homogeneización del idioma”, dijo la autora senior Aditya Vashistha, profesora asistente de ciencias de la información.
“La gente comienza a escribir de manera similar a los demás, y eso no es lo que queremos. Una de las cosas hermosas del mundo es la diversidad que tenemos”.
El estudio, “Las sugerencias de IA homogeneizan la escritura hacia los estilos occidentales y disminuyen los matices culturales”, será presentado por el primer autor Dhruv Agarwal, un estudiante de doctorado en el campo de la información, en la Conferencia de la Asociación de Maquinaria de Computación sobre Factores Humanos en Sistemas de Computación.
ChatGPT y otras herramientas de IA populares impulsadas por modelos de idiomas grandes, están desarrollados principalmente por empresas tecnológicas estadounidenses, pero se utilizan cada vez más en todo el mundo, incluso por el 85% de la población mundial que vive en el sur global.
Para investigar cómo estas herramientas pueden estar impactando a las personas en las culturas no occidentales, el equipo de investigación reclutó a 118 personas, aproximadamente la mitad de los Estados Unidos y la mitad de la India, y les pidió que escribieran sobre temas culturales.
La mitad de los participantes de cada país completaron las tareas de escritura de forma independiente, mientras que la mitad tenía un asistente de escritura de IA que proporcionaba breves sugerencias autocompletas. Los investigadores registraron las teclas de los participantes y si aceptaron o rechazaron cada sugerencia.
Una comparación de las muestras de escritura mostró que los indios tenían más probabilidades de aceptar la ayuda de la IA, manteniendo el 25% de las sugerencias en comparación con el 19% mantenidas por los estadounidenses. Sin embargo, los indios también tenían significativamente más probabilidades de modificar las sugerencias para adaptarse a su tema y estilo de escritura, lo que hace que cada sugerencia sea menos útil, en promedio.
Por ejemplo, cuando se les pidió a los participantes que escribieran sobre su comida o vacaciones favoritas, AI sugirió constantemente favoritos estadounidenses, pizza y Navidad, respectivamente. Al escribir sobre una figura pública, si un indio ingresó a “s” en un intento de escribir Shah Rukh Khan, un famoso actor de Bollywood, AI sugeriría que Shaquille O’Neil o Scarlett Johansson.
“Cuando los usuarios indios usan sugerencias de escritura de un modelo de IA, comienzan a imitar los estilos de escritura estadounidenses hasta el punto de que comienzan a describir sus propios festivales, su propia comida, sus propios artefactos culturales de una lente occidental”, dijo Agarwal.
Esta necesidad de que los usuarios indios se retiren continuamente contra las sugerencias occidentales de la IA es evidencia de colonialismo de IA, dijeron los investigadores. Al suprimir la cultura y los valores indios, la IA presenta la cultura occidental como superior, y no solo puede cambiar lo que la gente escribe, sino también lo que piensan.
“Estas tecnologías obviamente aportan mucho valor a la vida de las personas”, dijo Agarwal, “pero para que ese valor sea equitativo y para que estos productos funcionen bien en estos mercados, las empresas tecnológicas deben centrarse en aspectos culturales, en lugar de solo aspectos lingüísticos”.
Sobre estas noticias de investigación de inteligencia artificial
Autor: Beck Bowyer
Fuente: Universidad de Cornell
Contacto: Beck Bowyer – Universidad de Cornell
Imagen: La imagen se acredita a Neurocience News
Investigación original: Acceso cerrado.
“Sugerencias de IA homogeneizan la escritura hacia los estilos occidentales y disminuyen los matices culturales“Por Aditya Vashistha et al. arxiv
Abstracto
Sugerencias de IA homogeneizan la escritura hacia los estilos occidentales y disminuyen los matices culturales
Los modelos de idiomas grandes (LLM) se están integrando cada vez más en productos y servicios cotidianos, como herramientas de codificación y asistentes de escritura. Como estas aplicaciones de IA integradas se implementan a nivel mundial, existe una creciente preocupación de que los modelos de IA subyacentes a estas aplicaciones prioricen los valores occidentales.
Este documento investiga lo que sucede cuando un modelo de IA centrada en el oeste proporciona sugerencias de escritura a los usuarios de un fondo cultural diferente. Realizamos un experimento controlado intercultural con 118 participantes de la India y los Estados Unidos que completaron tareas de escritura culturalmente fundamentadas con y sin sugerencias de IA.
Nuestro análisis revela que la IA proporcionó mayores ganancias de eficiencia para los estadounidenses en comparación con los indios. Además, las sugerencias de IA llevaron a los participantes indios a adoptar estilos de escritura occidentales, alterando no solo lo que está escrito sino también cómo está escrito.
Estos hallazgos muestran que los modelos de IA centrados en el oeste homogenizan la escritura hacia las normas occidentales, disminuyendo los matices que diferencian la expresión cultural.
