La plataforma ChatGPT, que permite chatear, resolver dudas y generar texto sobre cualquier tema, es considerada una de las mayores novedades tecnológicas de los últimos tiempos. Detrás del éxito de este fenómeno, sin embargo, se esconde una desagradable realidad: las precarias condiciones laborales de los trabajadores kenianos subcontratados para estigmatizar el lenguaje tóxico y ofensivo para evitar que el sistema creado por OpenAI lo repita. Según una investigación de la revista Time, la empresa con sede en Silicon Valley que creó ChatGPT subcontrató a trabajadores kenianos por menos de $2 la hora. Una tarea que la revista califica de "crucial" para que la máquina no cometa el mismo error que su antecesora, la GPT-3. Si bien el bot mostró una habilidad "impresionante" para unir oraciones, tendía a publicar "comentarios violentos, sexistas y racistas".

La razón por la que el bot a menudo usaba un lenguaje tan tóxico es porque fue entrenado con cientos de miles de millones de palabras tomadas de Internet. Para hacer que ChatGPT fuera más políticamente correcto y menos dañino, OpenAI tuvo que crear un sistema de seguridad que detectara este tipo de lenguaje dañino con ejemplos marcados de violencia, incitación al odio y abuso sexual. Entonces, la herramienta ayudaría al bot a filtrar contenido inapropiado. La empresa subcontrató a una empresa con sede en Kenia, Sama City, que también se encuentra en San Francisco, EE. UU., para el ingreso de datos de los empleados en ese país. Como resultado, OpenAI envió a la empresa miles de fragmentos de texto que describían e ilustraban situaciones de violencia, pedofilia, crímenes, suicidios y torturas.

Representación de un androide por ChatGPT hecha por el sistema Dall-E OpenAI

La compañía confirma que utilizó mano de obra keniana para eliminar contenido tóxico del sistema del bo

A cambio de filtrar esta información altamente sensible, parte de la cual era ilegal en los Estados Unidos, los trabajadores recibieron un salario neto de $ 1,32 a $ 2 por hora, aunque Sama afirma que puede llegar a $ 3, 7 por hora. después de pagar impuestos. Así, la prestigiosa revista muestra cómo la creciente industria de la inteligencia artificial no renuncia a la precariedad laboral para concretar sus proyectos y alcanzar el éxito. Citado por la página, un portavoz de OpenAI confirmó que la compañía usó mano de obra keniana para eliminar datos tóxicos del sistema de capacitación ChatGPT. "Nuestra misión es garantizar que la IA beneficie a toda la humanidad, y estamos trabajando arduamente para crear sistemas de IA seguros y útiles que limiten el sesgo y el contenido dañino", comentó.

La subcontrata canceló el trabajo ocho meses antes de lo previsto

La prensa recopiló testimonios de varios trabajadores que accedieron a hablar de forma anónima sobre las condiciones de trabajo en las que pasaban nueve horas al día viendo y etiquetando contenido por un salario básico, que en su mayoría era de 21.000 chelines kenianos (170 dólares) al mes. También recibieron una bonificación de $70 según el tipo de contenido visto, así como una recompensa por alcanzar ciertos objetivos de precisión y velocidad. Uno de ellos explicó que sufría de visiones recurrentes porque tenía que analizar y mostrar contenido impactante y ofensivo para cumplir con su misión. "Fue una tortura", dijo. Sama dejó de trabajar en OpenAI ocho meses antes de los términos del contrato, que acordó que el creador de ChatGPT pagaría a un subcontratista una tarifa de $12.50 por hora.