Capítulo 4. Ingeniería para la equidad

Este trabajo se ha traducido utilizando IA. Agradecemos tus opiniones y comentarios: translation-feedback@oreilly.com

Escrito por Demma Rodriguez

Editado por Riona MacNamara

En capítulos anteriores, hemos explorado el contraste entre la programación como la producción de código que aborda el problema del momento, y la ingeniería de software como la aplicación más amplia de código, herramientas, políticas y procesos a un problema dinámico y ambiguo que puede abarcar décadas o incluso toda la vida. En este capítulo, hablaremos de las responsabilidades únicas de un ingeniero cuando diseña productos para una amplia base de usuarios. Además, evaluaremos cómo una organización, al adoptar la diversidad, puede diseñar sistemas que funcionen para todos, y evitar perpetuar el daño contra nuestros usuarios.

A pesar de lo nuevo que es el campo de la ingeniería de software, aún somos más nuevos a la hora de comprender el impacto que tiene sobre las personas infrarrepresentadas y las sociedades diversas. No hemos escrito este capítulo porque sepamos todas las respuestas. No las conocemos. De hecho, entender cómo diseñar productos que empoderen y respeten a todos nuestros usuarios es algo que Google todavía está aprendiendo a hacer. Hemos tenido muchos fracasos públicos a la hora de proteger a nuestros usuarios más vulnerables, y por eso escribimos este capítulo, porque el camino hacia productos más equitativos empieza por evaluar nuestros propios fracasos y fomentar el crecimiento.

También estamos escribiendo este capítulo debido al creciente desequilibrio de poder entre quienes toman las decisiones de desarrollo que repercuten en el mundo y quienes simplemente deben aceptar y vivir con esas decisiones que a veces perjudican a comunidades ya marginadas globalmente. Es importante compartir y reflexionar sobre lo que hemos aprendido hasta ahora con la próxima generación de ingenieros de software. Es aún más importante que ayudemos a influir en la próxima generación de ingenieros para que sean mejores de lo que somos hoy.

El mero hecho de coger este libro significa que probablemente aspiras a ser un ingeniero excepcional. Quieres resolver problemas. Aspiras a construir productos que impulsen resultados positivos para la base más amplia de personas, incluidas las personas a las que es más difícil llegar. Para ello, tendrás que considerar cómo se aprovecharán las herramientas que construyas para cambiar la trayectoria de la humanidad, esperemos que para mejor.

La parcialidad es la norma

Cuando los ingenieros no se centran en los usuarios de distintas nacionalidades, etnias, razas, géneros, edades, estatus socioeconómico, capacidades y sistemas de creencias, incluso el personal con más talento fallará inadvertidamente a sus usuarios. Estos fallos suelen ser involuntarios; todas las personas tienen ciertos prejuicios, y los científicos sociales han reconocido en las últimas décadas que la mayoría de la gente muestra prejuicios inconscientes, que refuerzan y promulgan los estereotipos existentes. El sesgo inconsciente es insidioso y a menudo más difícil de mitigar que los actos intencionados de exclusión. Incluso cuando queremos hacer lo correcto, puede que no reconozcamos nuestros propios prejuicios. Del mismo modo, nuestras organizaciones también deben reconocer que existen tales prejuicios y trabajar para abordarlos en sus plantillas, en el desarrollo de productos y en la divulgación a los usuarios.

Debido a los prejuicios, Google a veces no ha representado equitativamente a los usuarios en sus productos, con lanzamientos en los últimos años que no se centraron lo suficiente en los grupos infrarrepresentados. Muchos usuarios atribuyen nuestra falta de concienciación en estos casos al hecho de que nuestra población de ingenieros es mayoritariamente masculina, mayoritariamente blanca o asiática, y desde luego no representativa de todas las comunidades que utilizan nuestros productos. La falta de representación de estos usuarios en nuestra plantilla1 significa que a menudo no tenemos la diversidad necesaria para comprender cómo el uso de nuestros productos puede afectar a los usuarios infrarrepresentados o vulnerables.

En este ejemplo, nuestro producto se diseñó y ejecutó de forma inadecuada, sin tener debidamente en cuenta a todos los grupos raciales, y como resultado, falló a nuestros usuarios y causó mala prensa a Google. Otras tecnologías sufren fallos similares: autocompletar puede devolver resultados ofensivos o racistas. El sistema de anuncios de Google puede ser manipulado para mostrar anuncios racistas u ofensivos. YouTube podría no detectar la incitación al odio, aunque técnicamente esté prohibida en esa plataforma.

En todos estos casos, la tecnología en sí no es realmente la culpable. Autocompletar, por ejemplo, no se diseñó para dirigirse a los usuarios ni para discriminar. Pero tampoco era lo suficientemente resistente en su diseño como para excluir el lenguaje discriminatorio que se considera incitación al odio. Como consecuencia, el algoritmo devolvía resultados que perjudicaban a los usuarios. El perjuicio para el propio Google también debería ser obvio: la reducción de la confianza y el compromiso de los usuarios con la empresa. Por ejemplo, los solicitantes negros, latinos y judíos podrían perder la fe en Google como plataforma o incluso como entorno inclusivo en sí mismo, socavando así el objetivo de Google de mejorar la representación en la contratación.

¿Cómo es posible? Al fin y al cabo, Google contrata a tecnólogos con una educación y/o experiencia profesional impecables: programadores excepcionales que escriben el mejor código y prueban su trabajo. "Construir para todos" es una declaración de marca de Google, pero lo cierto es que aún nos queda mucho camino por recorrer antes de poder afirmar que lo hacemos. Una forma de abordar estos problemas es ayudar a la propia organización de ingeniería de software a parecerse a las poblaciones para las que construimos productos.

Comprender la necesidad de diversidad

En Google, creemos que ser un ingeniero excepcional requiere que también te centres en aportar perspectivas diversas al diseño e implementación del producto. También significa que los Googlers responsables de contratar o entrevistar a otros ingenieros deben contribuir a crear una plantilla más representativa. Por ejemplo, si entrevistas a otros ingenieros para puestos en tu empresa, es importante que aprendas cómo se producen los resultados sesgados en la contratación. Existen requisitos previos importantes para comprender cómo anticiparse a los perjuicios y evitarlos. Para llegar al punto en que podamos construir para todos, primero debemos comprender a nuestras poblaciones representativas. Tenemos que animar a los ingenieros a tener una formación educativa más amplia.

Lo primero es desbaratar la idea de que, como persona con un título de informática y/o experiencia laboral, tienes todas las aptitudes necesarias para convertirte en un ingeniero excepcional. Un título de informática suele ser una base necesaria. Sin embargo, el título por sí solo (aunque vaya acompañado de experiencia laboral) no te convertirá en ingeniero. También es importante desterrar la idea de que sólo las personas con titulación en informática pueden diseñar y construir productos. Hoy en día, la mayoría de los programadores sí tienen un título en informática; tienen éxito construyendo código, estableciendo teorías del cambio y aplicando metodologías para la resolución de problemas. Sin embargo, como demuestran los ejemplos mencionados, este enfoque es insuficiente para una ingeniería inclusiva y equitativa.

Los ingenieros deben empezar por enfocar todo el trabajo en el marco del ecosistema completo sobre el que pretenden influir. Como mínimo, deben comprender la demografía de la población de sus usuarios. Los ingenieros deben centrarse en las personas que son diferentes a ellos, especialmente en las personas que podrían intentar utilizar sus productos para causar daño. Los usuarios más difíciles de tener en cuenta son los que están privados de derechos por los procesos y el entorno en el que acceden a la tecnología. Para afrontar este reto, los equipos de ingeniería deben ser representativos de sus usuarios actuales y futuros. A falta de una representación diversa en los equipos de ingeniería, los ingenieros individuales tienen que aprender a construir para todos los usuarios.

Crear capacidad multicultural

Una marca de un ingeniero excepcional es la capacidad de comprender cómo los productos pueden beneficiar y perjudicar a diferentes grupos de seres humanos. Se espera que los ingenieros tengan aptitudes técnicas, pero también deben tener discernimiento para saber cuándo construir algo y cuándo no. El discernimiento incluye desarrollar la capacidad de identificar y rechazar características o productos que provocan resultados adversos. Se trata de un objetivo elevado y difícil, porque hay una enorme dosis de individualismo en ser un ingeniero de alto rendimiento. Sin embargo, para tener éxito, debemos ampliar nuestro enfoque más allá de nuestras propias comunidades, a los próximos mil millones de usuarios o a los usuarios actuales que podrían verse privados de sus derechos o dejados de lado por nuestros productos.

Con el tiempo, podrías construir herramientas que miles de millones de personas utilizan a diario: herramientas que influyen en la forma de pensar de la gente sobre el valor de las vidas humanas, herramientas que monitorean la actividad humana y herramientas que capturan y persisten datos sensibles, como imágenes de sus hijos y seres queridos, así como otros tipos de datos sensibles. Como ingeniero, puede que ejerzas más poder del que crees: el poder de cambiar literalmente la sociedad. Es fundamental que en tu camino para convertirte en un ingeniero excepcional, comprendas la responsabilidad innata necesaria para ejercer el poder sin causar daño. El primer paso es reconocer el estado predeterminado de tu sesgo causado por muchos factores sociales y educativos. Después de reconocerlo, podrás considerar los casos de uso o usuarios, a menudo olvidados, que pueden beneficiarse o verse perjudicados por los productos que construyes.

La industria sigue avanzando, creando nuevos casos de uso para la inteligencia artificial (IA) y el aprendizaje automático a una velocidad cada vez mayor. Para seguir siendo competitivos, nos dirigimos hacia la escala y la eficacia en la creación de una mano de obra de ingeniería y tecnología de gran talento. Sin embargo, tenemos que pararnos a considerar el hecho de que, hoy en día, algunas personas tienen la capacidad de diseñar el futuro de la tecnología y otras no. Tenemos que comprender si los sistemas de software que construimos eliminarán la posibilidad de que poblaciones enteras experimenten una prosperidad compartida y proporcionen un acceso igualitario a la tecnología.

Históricamente, las empresas que se enfrentan a la decisión entre completar un objetivo estratégico que impulse el dominio del mercado y los ingresos y otro que potencialmente ralentice el impulso hacia ese objetivo han optado por la velocidad y el valor para los accionistas. Esta tendencia se ve exacerbada por el hecho de que muchas empresas valoran el rendimiento y la excelencia individuales, pero a menudo no impulsan eficazmente la responsabilidad sobre la equidad del producto en todas las áreas. Centrarse en los usuarios infrarrepresentados es una clara oportunidad para promover la equidad. Para seguir siendo competitivos en el sector tecnológico, tenemos que aprender a diseñar para la equidad global.

Hoy nos preocupamos cuando las empresas diseñan tecnología para escanear, capturar e identificar a las personas que caminan por la calle. Nos preocupa la privacidad y cómo los gobiernos podrían utilizar esta información ahora y en el futuro. Sin embargo, la mayoría de los tecnólogos no tienen la perspectiva necesaria de los grupos infrarrepresentados para comprender el impacto de la variación racial en el reconocimiento facial o para entender cómo la aplicación de la IA puede conducir a resultados perjudiciales e inexactos.

Actualmente, el software de reconocimiento facial basado en IA sigue dejando en desventaja a las personas de color o pertenecientes a minorías étnicas. Nuestra investigación no es lo suficientemente exhaustiva y no incluye una gama suficientemente amplia de tonos de piel diferentes. No podemos esperar que el resultado sea válido si tanto los datos de entrenamiento como quienes crean el software representan sólo a una pequeña subsección de personas. En esos casos, deberíamos estar dispuestos a retrasar el desarrollo en favor de intentar obtener datos más completos y precisos, y un producto más completo e inclusivo.

Sin embargo, la propia ciencia de datos es un reto para que los humanos la evalúen. Incluso cuando tenemos representación, un conjunto de entrenamiento puede estar sesgado y producir resultados no válidos. Un estudio realizado en en 2016 descubrió que más de 117 millones de adultos estadounidenses están en una base de datos de reconocimiento facial de las fuerzas del orden.5 Debido a la desproporcionada vigilancia policial de las comunidades negras y a los resultados dispares en las detenciones, podría haber tasas de error racialmente sesgadas al utilizar dicha base de datos en el reconocimiento facial. Aunque el software se desarrolla y se implementa a un ritmo cada vez mayor, no ocurre lo mismo con las pruebas independientes. Para corregir este atroz paso en falso, necesitamos tener la integridad de frenar y asegurarnos de que nuestras entradas contienen el menor sesgo posible. Google ofrece ahora formación estadística en el contexto de la IA para ayudar a garantizar que los conjuntos de datos no estén intrínsecamente sesgados.

Por tanto, cambiar el enfoque de tu experiencia en el sector para incluir una formación más completa, multicultural y sobre estudios de raza y género no es sólo responsabilidad tuya, sino también de tu empresa. Las empresas tecnológicas deben asegurarse de que sus empleados reciben continuamente desarrollo profesional y de que este desarrollo es integral y multidisciplinar. No se trata de que una sola persona se encargue de aprender sobre otras culturas u otros grupos demográficos. El cambio requiere que cada uno de nosotros, individualmente o como líderes de equipos, invirtamos en un desarrollo profesional continuo que desarrolle no sólo nuestras habilidades de desarrollo de software y liderazgo, sino también nuestra capacidad para comprender las diversas experiencias de toda la humanidad.

Hacer que la Diversidad sea Accionable

La equidad y la justicia sistémicas son alcanzables si estamos dispuestos a aceptar que todos somos responsables de la discriminación sistémica que vemos en el sector tecnológico. Somos responsables de los fallos del sistema. Diferir o abstraerse de la responsabilidad personal es ineficaz y, dependiendo de tu papel, podría ser irresponsable. También es irresponsable atribuir totalmente la dinámica en tu empresa concreta o dentro de tu equipo a los problemas sociales más amplios que contribuyen a la desigualdad. Una de las frases favoritas tanto de los defensores como de los detractores de la diversidad es la siguiente: "Estamos trabajando duro para solucionar (insertar tema de discriminación sistémica), pero la responsabilidad es difícil. ¿Cómo combatimos (insertar cientos de años) de discriminación histórica?". Esta línea de investigación es un desvío hacia una conversación más filosófica o académica y se aleja de los esfuerzos centrados en mejorar las condiciones o los resultados laborales. Parte de la creación de capacidad multicultural requiere una comprensión más exhaustiva de cómo los sistemas de desigualdad de la sociedad repercuten en el lugar de trabajo, especialmente en el sector tecnológico.

Si eres un director de ingeniería que trabaja para contratar a más personas de grupos infrarrepresentados, remitirse al impacto histórico de la discriminación en el mundo es un ejercicio académico útil. Sin embargo, es fundamental ir más allá de la conversación académica y centrarse en medidas cuantificables y procesables que puedas adoptar para impulsar la equidad y la justicia. Por ejemplo, como director de contratación de ingeniería de software, eres responsable de garantizar que tus listas de candidatos estén equilibradas. ¿Hay mujeres u otros grupos infrarrepresentados en las listas de candidatos? Después de contratar a alguien, ¿qué oportunidades de crecimiento has proporcionado, y es equitativa la distribución de las oportunidades? Cada responsable de tecnología o de ingeniería de software tiene medios para aumentar la equidad en sus equipos. Es importante que reconozcamos que, aunque existen importantes retos sistémicos, todos formamos parte del sistema. Es nuestro problema arreglarlo.

Rechaza los Enfoques Singulares

No podemos perpetuar soluciones que presenten una única filosofía o metodología para arreglar la desigualdad en el sector tecnológico. Nuestros problemas son complejos y multifactoriales. Por tanto, debemos desbaratar los enfoques singulares para avanzar en la representación en el lugar de trabajo, aunque los promuevan personas a las que admiramos o que tienen poder institucional.

Una narrativa singular que se mantiene en la industria tecnológica es que la falta de representación en la mano de obra puede abordarse únicamente arreglando los conductos de contratación. Sí, ése es un paso fundamental, pero no es el problema inmediato que tenemos que solucionar. Tenemos que reconocer la desigualdad sistémica en la progresión y la retención y, al mismo tiempo, centrarnos en una contratación más representativa y en las disparidades educativas en función de la raza, el sexo y la situación socioeconómica y de inmigración, por ejemplo.

En la industria tecnológica, muchas personas de grupos infrarrepresentados son ignoradas a diario en sus oportunidades y ascensos. El desgaste entre los empleados negros+ de Google supera al de todos los demás grupos y confunde los avances en los objetivos de representación. Si queremos impulsar el cambio y aumentar la representación, tenemos que evaluar si estamos creando un ecosistema en el que todos los aspirantes a ingenieros y otros profesionales de la tecnología puedan prosperar.

Comprender plenamente todo un espacio problemático es fundamental para determinar cómo solucionarlo. Esto es válido para todo, desde una migración de datos crítica hasta la contratación de una plantilla representativa. Por ejemplo, si eres un director de ingeniería que quiere contratar a más mujeres, no te centres sólo en crear una cantera. Céntrate en otros aspectos del ecosistema de contratación, retención y progresión y en lo inclusivo que puede o no ser para las mujeres. Considera si tus reclutadores están demostrando la capacidad de identificar candidatos fuertes que sean tanto mujeres como hombres. Si diriges un equipo de ingeniería diverso, céntrate en la seguridad psicológica e invierte en aumentar la capacidad multicultural del equipo para que los nuevos miembros se sientan bienvenidos.

Una metodología común hoy en día es construir primero para el caso de uso mayoritario, dejando para más adelante las mejoras y características que abordan los casos de perímetro. Pero este enfoque es erróneo; da ventaja a los usuarios que ya están aventajados en el acceso a la tecnología, lo que aumenta la desigualdad. Relegar la consideración de todos los grupos de usuarios al momento en que el diseño está casi terminado es bajar el listón de lo que significa ser un ingeniero excelente. En cambio, si incorporamos el diseño inclusivo desde el principio y elevamos los estándares de desarrollo para que las herramientas sean agradables y accesibles para las personas que tienen dificultades para acceder a la tecnología, mejoramos la experiencia de todos los usuarios.

Diseñar para el usuario que menos se parece a ti no sólo es sensato, es una buena práctica. Hay próximos pasos pragmáticos e inmediatos que todos los tecnólogos, independientemente del ámbito, deben tener en cuenta a la hora de desarrollar productos que eviten perjudicar o infra-representar a los usuarios. Comienza con una investigación más exhaustiva de la experiencia del usuario. Esta investigación debe hacerse con grupos de usuarios que sean multilingües y multiculturales y que abarquen múltiples países, clases socioeconómicas, capacidades y rangos de edad. Céntrate primero en el caso de uso más difícil o menos representado.

Desafiar los procesos establecidos

Retarse a sí mismo para construir sistemas más equitativos va más allá de diseñar especificaciones de producto más inclusivas. Construir sistemas equitativos a veces significa desafiar los procesos establecidos que conducen a resultados no válidos.

Considera un caso reciente evaluado por sus implicaciones para la equidad. En Google, varios equipos de ingenieros trabajaron para crear un sistema global de solicitud de contratación. El sistema admite tanto la contratación externa como la movilidad interna. Los ingenieros y jefes de producto implicados hicieron un gran trabajo escuchando las peticiones de lo que consideraban su principal grupo de usuarios: los reclutadores. Los reclutadores se centraron en minimizar la pérdida de tiempo de los responsables de contratación y los candidatos, y presentaron al equipo de desarrollo casos de uso centrados en la escala y la eficiencia para esas personas. Para impulsar la eficiencia, los reclutadores pidieron al equipo de ingeniería que incluyera una función que resaltara las valoraciones del rendimiento -especialmente las más bajas- para el director de contratación y el reclutador en cuanto un traslado interno expresara interés por un puesto de trabajo.

A primera vista, agilizar el proceso de evaluación y ayudar a los solicitantes de empleo a ahorrar tiempo es un gran objetivo. Entonces, ¿dónde está el posible problema de equidad? Se plantearon las siguientes cuestiones de equidad:

  • ¿Son las evaluaciones del desarrollo una medida predictiva del rendimiento?

  • ¿Las evaluaciones de rendimiento que se presentan a los futuros directivos están libres de prejuicios individuales?

  • ¿Están normalizadas las puntuaciones de la evaluación del rendimiento en todas las organizaciones?

Si la respuesta a alguna de estas preguntas es "no", la presentación de las puntuaciones de rendimiento podría dar lugar a resultados no equitativos y, por tanto, no válidos.

Cuando un ingeniero excepcional puso en duda que el rendimiento pasado fuera de hecho predictivo del rendimiento futuro, el equipo de revisión decidió llevar a cabo una revisión exhaustiva. Al final, se determinó que era probable que los candidatos que habían recibido una mala calificación de rendimiento la superaran si encontraban un nuevo equipo. De hecho, tenían las mismas probabilidades de recibir una calificación de rendimiento satisfactoria o ejemplar que los candidatos que nunca habían recibido una mala calificación. En resumen, las calificaciones del rendimiento sólo son indicativas de cómo se desempeña una persona en su función en el momento en que se la evalúa. Las calificaciones, aunque son una forma importante de medir el rendimiento durante un periodo concreto, no son predictivas del rendimiento futuro y no deben utilizarse para calibrar la preparación para un futuro puesto o para calificar a un candidato interno para un equipo distinto. (Sin embargo, pueden utilizarse para evaluar si un empleado está bien o mal encajado en su equipo actual; por tanto, pueden brindar la oportunidad de evaluar cómo apoyar mejor a un candidato interno de cara al futuro).

Sin duda, este análisis llevó mucho tiempo de proyecto, pero la contrapartida positiva fue un proceso de movilidad interna más equitativo.

Valores frente a resultados

Google tiene un sólido historial de inversión en contratación. Como ilustra el ejemplo anterior, también evaluamos continuamente nuestros procesos para mejorar la equidad y la inclusión. En términos más generales, nuestros valores fundamentales se basan en el respeto y en un compromiso inquebrantable con una plantilla diversa e integradora. Sin embargo, año tras año, también hemos fallado en la contratación de una plantilla representativa que refleje a nuestros usuarios de todo el mundo. La lucha por mejorar nuestros resultados equitativos persiste a pesar de las políticas y programas existentes para ayudar a apoyar las iniciativas de inclusión y promover la excelencia en la contratación y la progresión. El punto de fracaso no está en los valores, las intenciones o las inversiones de la empresa, sino en la aplicación de esas políticas a nivel de ejecución.

Los viejos hábitos son difíciles de romper. Los usuarios para los que estás acostumbrado a diseñar hoy -aquellos de los que estás acostumbrado a recibir comentarios- pueden no ser representativos de todos los usuarios a los que necesitas llegar. Lo vemos con frecuencia en todo tipo de productos, desde dispositivos para llevar puestos que no se adaptan al cuerpo de la mujer hasta programas de videoconferencia que no funcionan bien con personas de piel oscura.

Entonces, ¿cuál es la salida?

  1. Mírate al espejo. En Google, tenemos el eslogan de marca "Construir para todos". ¿Cómo podemos construir para todos si no tenemos una plantilla representativa o un modelo de compromiso que centralice primero las opiniones de la comunidad? No podemos. La verdad es que a veces hemos fracasado públicamente a la hora de proteger a nuestros usuarios más vulnerables de contenidos racistas, antisemitas y homófobos.

  2. No construyas para todos. Construye con todos. Todavía no estamos construyendo para todos. Ese trabajo no se hace en el vacío, y desde luego no se hace cuando la tecnología todavía no es representativa de la población en su conjunto. Dicho esto, no podemos hacer las maletas e irnos a casa. Entonces, ¿cómo construimos para todos? Construimos con nuestros usuarios. Tenemos que implicar a nuestros usuarios en todo el espectro de la humanidad y tener la intención de situar a las comunidades más vulnerables en el centro de nuestro diseño. No deben ser una ocurrencia tardía.

  3. Diseña para el usuario que tendrá más dificultades para utilizar tu producto. Construir para los que tienen dificultades adicionales hará que el producto sea mejor para todos. Otra forma de pensar en esto es: no cambies equidad por velocidad a corto plazo.

  4. No asumas la equidad; mide la equidad en todos tus sistemas. Reconoce que los responsables de la toma de decisiones también están sujetos a prejuicios y pueden estar poco formados sobre las causas de la falta de equidad. Puede que no tengas los conocimientos necesarios para identificar o medir el alcance de un problema de equidad. Atender a una única base de usuarios puede significar privar de derechos a otra; estas compensaciones pueden ser difíciles de detectar e imposibles de revertir. Asóciate con personas o equipos que sean expertos en diversidad, equidad e inclusión.

  5. El cambio es posible. Los problemas a los que nos enfrentamos con la tecnología hoy en día, desde la vigilancia a la desinformación y el acoso en línea, son realmente abrumadores. No podemos resolverlos con los enfoques fallidos del pasado ni con las habilidades que ya tenemos. Tenemos que cambiar.

Mantén la curiosidad, avanza

El camino hacia la equidad es largo y complejo. Sin embargo, podemos y debemos pasar de la simple construcción de herramientas y servicios a una mayor comprensión de cómo los productos que diseñamos afectan a la humanidad. Desafiar nuestra educación, influir en nuestros equipos y directivos, y realizar una investigación más exhaustiva de los usuarios son formas de progresar. Aunque el cambio es incómodo y el camino hacia el alto rendimiento puede ser doloroso, es posible mediante la colaboración y la creatividad.

Por último, como futuros ingenieros excepcionales, debemos centrarnos en primer lugar en los usuarios más afectados por los prejuicios y la discriminación. Juntos, podemos trabajar para acelerar el progreso centrándonos en la Mejora Continua y asumiendo nuestros fracasos. Convertirse en ingeniero es un proceso implicado y continuo. El objetivo es hacer cambios que hagan avanzar a la humanidad sin privar aún más de sus derechos a los desfavorecidos. Como futuros ingenieros excepcionales, tenemos fe en que podemos evitar futuros fallos en el sistema.

Conclusión

Desarrollar software, y desarrollar una organización de software, es un esfuerzo de equipo. A medida que una organización de software escala, debe responder y diseñar adecuadamente para su base de usuarios, que en el mundo interconectado de la informática actual implica a todo el mundo, localmente y en todo el mundo. Hay que esforzarse más para que tanto los equipos de desarrollo que diseñan el software como los productos que producen reflejen los valores de un conjunto de usuarios tan diverso y abarcador. Y, si una organización de ingeniería quiere escalar, no puede ignorar a los grupos infrarrepresentados; los ingenieros de estos grupos no sólo aumentan la propia organización, sino que aportan perspectivas únicas y necesarias para el diseño y la implementación de software que sea verdaderamente útil para el mundo en general.

TL;DRs

  • La parcialidad es la norma.

  • La diversidad es necesaria para diseñar adecuadamente para una amplia base de usuarios.

  • La inclusividad es fundamental no sólo para mejorar la contratación de los grupos infrarrepresentados, sino para proporcionar un entorno de trabajo verdaderamente propicio para todas las personas.

  • La velocidad del producto debe evaluarse en función de ofrecer un producto que sea realmente útil para todos los usuarios. Es mejor ir más despacio que lanzar un producto que pueda perjudicar a algunos usuarios.

1 Informe de Google sobre la Diversidad 2019.

2 @jackyalcine. 2015. "Google Fotos, la habéis cagado. Mi amigo no es un gorila". Twitter, 29 de junio de 2015. https://twitter.com/jackyalcine/status/615329515909156865.

3 Muchos informes de 2018-2019 señalaron la falta de diversidad en el sector tecnológico. Algunos notables son el National Center for Women & Information Technology y Diversity in Tech.

4 Tom Simonite, "When It Comes to Gorillas, Google Photos Remains Blind", Wired, 11 de enero de 2018.

5 Stephen Gaines y Sara Williams. "La Alineación Perpetua: El reconocimiento facial policial no regulado en Estados Unidos". Center on Privacy & Technology at Georgetown Law, 18 de octubre de 2016.

Get Ingeniería de software en Google now with the O’Reilly learning platform.

O’Reilly members experience books, live events, courses curated by job role, and more from O’Reilly and nearly 200 top publishers.

Start your free trial