Usando la investigacion y la tecnologia para resolver problematicas sociales
7 min read
Este post fue escrito por Saiph Savage.
Muchos creen que el Internet se ha convertido en una plaga para la democracia. En todo el
mundo hemos visto el aumento de las campañas de desinformación digital, la intolerancia política en
línea y la toma de los ciudadanos como blanco político. Estamos viviendo una crisis en la que el
potencial de Internet, que vimos realizado a principios de la década de 2010 con la Primavera Árabe,
ahora parece distante. Es cierto que actualmente tenemos más grupos de ciudadanos que usan el
Internet para informar problemas en las elecciones, combatir la corrupción y hacer el bien social. Sin
embargo, estos ciudadanos generalmente carecen de conocimiento sobre cómo utilizar eficazmente las
herramientas en línea para organizarse a fin de crear un cambio social. Además, muchos de estos
grupos de ciudadanos usualmente carecen de las habilidades digitales para saber cómo utilizar
efectivamente los datos para monitorear y validar actividades críticas como las elecciones.
Mi investigación se centra en el diseño de sistemas inteligentes que brindan a los ciudadanos,
gobiernos y organizaciones cívicas las capacidades para construir mejores democracias. He trabajado
con una variedad de organizaciones bien establecidas para crear un impacto global: he establecido
colaboraciones con administraciones gubernamentales en toda América Latina 1 ,la Organización de Estados
Americanos (OEA) 2 , 3 , el Instituto Nacional Democrático (NDI) 4 , el Consejo Atlántico 5 y el Centro de Estudios Estratégicos e Internacionales (CSIS) 6 . El impacto de mis sistemas también me ha llevado a ser nombrada una de los 35 innovadores menores de 35 años por el MIT Tech Review [12], recibir fondos de la NSF y obtener cobertura de prensa internacional de la BBC y la Deutsche Welle (ver mi CV).
A diferencia de investigaciones anteriores que utilizan datos para proporcionar información sobre
la actividad en línea de los ciudadanos, combino el aprendizaje automático y el crowdsourcing para
diseñar plataformas inteligentes que, en un proceso de paso a paso, pueden guiar a los ciudadanos a
desarrollar sus habilidades digitales y a pensar críticamente. Mi trabajo abre una nueva área
de investigación enfocada en utilizar el aprendizaje automático y el crowdsourcing para fortalecer
nuestras democracias. Creo que mi investigación se alinea con los objetivos de la Escuela de
Información de la Universidad de Texas en Austin; especialmente porque mi investigación formula
respuestas creativas a los flujos de desinformación de contraataque en todo el mundo. En mi
investigación, también he trabajado directamente con instituciones interdisciplinarias de diferentes partes
del mundo. A través de estas redes de colaboración, he diseñado una tecnología que capacita al público
tanto internacional como local. Por ejemplo, mi nueva subvención NSF estudia sistemas para empoderar
a las redes de trabajadores rurales desplazados de EE. UU. para que desarrollen sus habilidades
digitales y accedan a mejores empleos. Actualmente también estoy trabajando con la Secretaría de
Relaciones Exteriores de México para crear interfaces para combatir las campañas de desinformación
dirigidas a los inmigrantes en el Hemisferio Sur 7 , 8 . También creo que el trabajo que he realizado coincide
con los objetivos de su escuela; especialmente porque, a través de mi investigación, he construido
fuertes conexiones con instituciones internacionales y nacionales para crear estudios e investigaciones
impactantes e interdisciplinarias. Además, creo que mi investigación apunta a problemas sociales y
soluciones computacionales que se alinean bien con la visión de su beca. A continuación, presento una
visión general de mi investigación actual y mi visión para el futuro.
Investigación actual: sistemas computacionales para combatir la desinformación
Siguiendo un enfoque de diseño centrado en el ser humano, sostengo que para combatir
eficazmente la desinformación digital, primero debemos entender cómo se producen las campañas de
desinformación. Creo que podemos usar los hallazgos para diseñar sistemas computacionales que
puedan contraatacar y limitar efectivamente las campañas de desinformación a escala.
1. Comprensión de la producción de desinformación. Me he centrado en estudiar cómo se
organizan los diferentes actores para producir desinformación [2, 1, 13]. He realizado análisis de
datos de redes sociales sobre cómo las milicias en América Latina crearon desinformación [2].
Para llevar a cabo el estudio, creé modelos lingüísticos computacionales y utilicé técnicas de
crowdsourcing y agrupamiento para descubrir y entender cualitativamente más de 6,000
publicaciones en Facebook de estas milicias y más de 108,000 comentarios de su audiencia en
línea. A través del análisis, descubrí cómo estas milicias usaron los informes de noticias para
tergiversar un conflicto armado y obtener apoyo en su lucha contra los carteles locales.
Recientemente, también examiné más de 6 millones de publicaciones en reddit de la comunidad
política troll “r / the donald” (que ahora está en cuarentena debido a su comportamiento) para
comprender cómo una comunidad de trolls políticos también produjo desinformación para
organizar la acción colectiva durante la elección presidencial de 2016 de los Estados Unidos [1].
Mi investigación ilustra cómo el éxito de los trolls políticos depende de la adaptación a las
prioridades cambiantes de la comunidad, apoyando diversos métodos para crear identidad e
ideando tácticas para motivar la participación. Curiosamente, tanto para las milicias en América
Latina como para los trolls políticos, descubrí que las técnicas más efectivas para impulsar la
acción colectiva en torno a la desinformación fueron las noticias. Los trolls y las milicias políticas
pasaron mucho tiempo narrando informes de noticias sobre el ecosistema político tal como lo
percibieron (es decir, fabricando teorías de conspiración) de una manera detallada y que
requiere mucho tiempo. A través de este tipo de desinformación, impulsaron más apoyo y acción
para sus causas.
2. Sistemas computacionales para combatir la desinformación. Uno de los principales
hallazgos de mi investigación fue que la desinformación es especialmente peligrosa debido al
hecho de que puede incitar a los ciudadanos a actuar en apoyo de una causa dudosa promovida
por actores nefastos. Es por eso que sostengo que una de las mejores formas de combatir la
desinformación es capacitar a los ciudadanos para desarrollar sus habilidades de alfabetización
digital y habilidades de pensamiento crítico. Con una multitud de ciudadanos mejor informados,
podemos diseñar plataformas de crowdsourcing que organicen a los ciudadanos para que tomen
medidas para luchar eficazmente contra una campaña de desinformación [15]. Para este
propósito, presento una arquitectura conformada por Bloques Cívicos Inteligentes que brindan
las mejores formas de guiar a los ciudadanos para desarrollar su alfabetización digital y racional
crítico (ver Fig. 1). La arquitectura consta de dos niveles de bloques: el Nivel uno desarrolla
habilidades digitales y el Nivel dos se basa en esas habilidades para desarrollar habilidades de
pensamiento crítico.
Trabajar con el gobierno me ha llevado a cuestionar críticamente el tipo de ética pública que quiero que
faciliten mis sistemas. ¿Cómo podrían mis Bloques Cívicos Inteligentes garantizar que los funcionarios
del gobierno practiquen la equidad y la igualdad con los ciudadanos? Mi investigación también se basa
en los sistemas éticos utilitaristas y deontólogos para cuestionar el tipo de trabajo que incorporan mis
Bloques Cívicos Inteligentes. ¿El fin justifica los medios para ese fin? ¿Debería permitirse un trabajo
menos ético para que los ciudadanos puedan desarrollar mejor sus habilidades digitales? ¿O hay ciertos
principios que debemos obedecer independientemente del costo? Estas preguntas definen cómo diseño
mis sistemas. Por ejemplo, al diseñar Botivist, consideré que los bots siempre deberían presentarse
como bots. La transparencia puede disuadir a algunas personas de cuestionar suposiciones básicas y
plantear soluciones (al no gustarles interactuar con bots), pero el principio de transparencia era
importante para mí a fin de respetar las contribuciones de los participantes. En consecuencia, creo que
es importante definir reglas éticas claras en torno a los sistemas que construimos.
Agenda de Investigación
La futura generación de sistemas inteligentes para combatir la desinformación. Mi objetivo es
crear una nueva área de investigación que se concentre en investigar cómo se puede usar la inteligencia
artificial para organizar a los ciudadanos para combatir la desinformación en diferentes países y
regiones. Estoy particularmente interesada en investigar plataformas que puedan crear estrategias
inteligentes de la mejor manera para combatir las campañas de desinformación en curso. En estos
sistemas previstos, se presentaría una posible campaña de desinformación. La plataforma podría
emplear rastros de redes sociales y datos abiertos para decidir de manera inteligente la mejor forma de
reclutar, conectar y orquestar una red de actores, organizaciones y ciudadanos para definir un plan de
acción para contraatacar la campaña de desinformación. Estos sistemas de crowdsourcing
recientemente diseñados para combatir activamente la desinformación pueden involucrar una amplia
gama de temas de desinformación, como la salud, el cambio climático, el arte y la educación. Esto hace
que esta investigación sea un candidato fuerte para recibir fondos de la Beca del Proyecto de
Investigación (R01) de los Institutos Nacionales de Salud o del programa de Sistemas Ciberhumanos
(CHS) en NSF. Dentro de estos sistemas, estoy interesada en explorar cuestiones éticas sobre los tipos
de esfuerzos ciudadanos que estos sistemas deberían apoyar, así como explorar acciones que podemos
tomar para evitar que las redes de “malos actores” interesados en ellos usen estas plataformas para sus
propias causas. También me interesa cuestionar los roles y las obligaciones éticas que los ciudadanos y
los gobiernos deben asumir para combatir la desinformación y cómo los sistemas que construimos
podrían apoyar estos roles y responsabilidades.
Teoría del diseño para permitir el aprendizaje informal mientras se lucha contra la
desinformación. En el futuro planeo investigar sistemas que capaciten a las redes ciudadanas para
desarrollar sus habilidades y crecer profesionalmente, mientras luchan contra la desinformación. Estoy
interesada en explorar diseños de interfaz para permitir el aprendizaje informal mientras los ciudadanos
realizan simultáneamente su actividad principal de combatir la desinformación. Mi objetivo final es
presentar principios de diseño para sistemas que permitan un cambio social positivo (por ejemplo, reducir
la desinformación); mientras que en paralelo, permiten a los ciudadanos individuales aprender un
conjunto diverso de habilidades. La naturaleza general de esta investigación la convierte en un buen
candidato para el nuevo NSF Future of Work en el programa Human-Technology Frontier, para el cual
recibí recientemente una subvención de más de 2 millones de dólares con otras universidades (ver mi
CV). Dentro de mi agenda de investigación, también tengo la intención de continuar mi tradición de
sinergias con líderes de la industria como Microsoft Research, Google y ONGs para realizar
experimentos naturales bien diseñados a gran escala de mis sistemas utilizando sus datos y usuarios.
También planeo continuar mis colaboraciones con Think Tanks, como el Atlantic Council, el Centro de
Estudios Estratégicos e Internacionales (CSIS) y las administraciones gubernamentales de todo el
mundo para capacitar a los estudiantes para que tengan un impacto en el mundo real y orquestar el
cambio global.
Saiph participó como expositora en women rock it en español. Conoce más del programa aquí
