​
El 18 de enero, la revista Time publicó unas revelaciones que alarmaron, aunque no necesariamente sorprendieron, a muchos de los que trabajan en Inteligencia Artificial.

 La noticia se refería a ChatGPT, un chatbot de IA avanzada que ha sido aclamado como uno de los sistemas de IA más inteligentes construidos hasta la fecha y temido como una nueva frontera en el plagio potencial y la erosión de la artesanía en la escritura.


Muchos se habían preguntado cómo ChatGPT, siglas de Chat Generative Pre-trained Transformer, había mejorado las versiones anteriores de esta tecnología que rápidamente caería en el discurso del odio.

 La respuesta llegó en el artículo de la revista Time: docenas de trabajadores kenianos cobraban menos de 2 dólares por hora para procesar una cantidad interminable de contenidos violentos y llenos de odio con el fin de hacer más seguro un sistema comercializado principalmente para usuarios occidentales.


Debería estar claro para cualquiera que preste atención que nuestro paradigma actual de digitalización tiene un problema laboral. Hemos pasado y estamos pasando del ideal de una Internet abierta construida en torno a comunidades de intereses compartidos a otra dominada por las prerrogativas comerciales de un puñado de empresas situadas en geografías específicas.


En este modelo, las grandes empresas maximizan la extracción y la acumulación para sus propietarios a expensas no sólo de sus trabajadores, sino también de los usuarios. A los usuarios se les vende la mentira de que participan en una comunidad, pero cuanto más dominantes se vuelven estas corporaciones, más atroz es la desigualdad de poder entre los propietarios y los usuarios.


"Comunidad" significa cada vez más que la gente corriente absorbe los costes morales y sociales del crecimiento descontrolado de estas empresas, mientras que sus propietarios absorben los beneficios y la aclamación. Y una masa crítica de mano de obra mal pagada es contratada en las condiciones más tenues que son legalmente posibles para sostener la ilusión de una Internet mejor.


ChatGPT es sólo la última innovación que encarna esta situación.
Se ha escrito mucho sobre Facebook, YouTube y el modelo de moderación de contenidos que ha servido de base para la subcontratación de ChatGPT. Los moderadores de contenido tienen la tarea de consumir un flujo constante de las peores cosas que la gente pone en estas plataformas y marcarlas para que sean retiradas o se tomen otras medidas. A menudo se trata de mensajes sobre violencia sexual o de otro tipo.


Nacionales de los países donde están ubicadas las empresas han demandado por el peaje psicológico que les ha pasado el trabajo. En 2020, Facebook, por ejemplo, se vio obligada a pagar 52 millones de dólares a empleados estadounidenses por el trastorno de estrés postraumático (TEPT) que sufrieron tras trabajar como moderadores de contenidos.


Aunque cada vez hay más conciencia general de los traumas secundarios y de los estragos que causa en las personas ser testigo de actos violentos, todavía no comprendemos del todo lo que provoca en el cuerpo humano estar expuesto a este tipo de contenidos durante una semana laboral completa.


Sabemos que los periodistas y los cooperantes, por ejemplo, suelen regresar de las zonas de conflicto con graves síntomas de TEPT, y que incluso la lectura de reportajes surgidos de estas zonas de conflicto puede tener un efecto psicológico. 

Estudios similares sobre el impacto del trabajo de moderación de contenidos en las personas son más difíciles de completar debido a los acuerdos de confidencialidad que a menudo se pide a estos moderadores que firmen antes de aceptar el trabajo.


También sabemos, gracias al testimonio de Frances Haugen, denunciante de Facebook, que su decisión de no invertir lo suficiente en una moderación adecuada de los contenidos fue económica. Twitter, bajo la dirección de Elon Musk, también ha decidido reducir costes despidiendo a un gran número de moderadores de contenidos.


La falta de una moderación adecuada de los contenidos ha dado lugar a que las plataformas de redes sociales sean portadoras de una toxicidad cada vez mayor. Los perjuicios derivados de ello han tenido importantes implicaciones en el mundo analógico.


En Myanmar, Facebook ha sido acusado de permitir el genocidio; en Etiopía y Estados Unidos, de permitir la incitación a la violencia.
De hecho, el campo de la moderación de contenidos y los problemas que acarrea son una buena ilustración de lo que falla en el actual modelo de digitalización.


La decisión de recurrir a una empresa keniana para enseñar a un chatbot estadounidense a no ser odioso debe entenderse en el contexto de una decisión deliberada de acelerar la acumulación de beneficios a expensas de salvaguardias significativas para los usuarios.


Estas empresas prometen que el elemento humano es sólo una respuesta provisional antes de que el sistema de IA sea lo suficientemente avanzado como para hacer el trabajo por sí solo. Pero esta afirmación no hace nada por los empleados que están siendo explotados hoy en día. Tampoco aborda el hecho de que las personas -los lenguajes que hablan y el significado que atribuyen a contextos o situaciones- son muy maleables y dinámicas, lo que significa que la moderación de contenidos no desaparecerá.


Entonces, ¿qué se hará por los moderadores que están siendo perjudicados hoy, y cómo cambiará fundamentalmente la práctica empresarial para proteger a los moderadores que sin duda serán necesarios mañana?


Si todo esto empieza a sonar como si los talleres clandestinos estuvieran haciendo funcionar la era digital, debería ser así, porque lo están haciendo. Un modelo de digitalización dirigido por el instinto de proteger los intereses de quienes más se benefician del sistema en lugar de los de quienes realmente lo hacen funcionar deja a miles de millones de personas vulnerables a innumerables formas de explotación social y económica, cuyo impacto aún no comprendemos del todo.


Es hora de acabar con el mito de que la digitalización liderada por intereses corporativos va a evitar de alguna manera todos los excesos pasados del mercantilismo y la codicia simplemente porque los propietarios de estas empresas llevan camisetas y prometen no hacer el mal.


La historia está repleta de ejemplos de cómo, abandonados a su suerte, quienes tienen interés y oportunidad de acumular lo hacen y arrasan con los derechos que necesitamos para proteger a los más vulnerables de entre nosotros.


Tenemos que volver a los fundamentos de por qué necesitábamos luchar y articular los derechos laborales en el siglo pasado. Los derechos laborales son derechos humanos, y este último escándalo es un recordatorio oportuno de que podemos perder mucho si dejamos de prestarles atención porque nos distrae la última novedad brillante.