Menu

Talento Argentino y Tecnología para Desintoxicar las Redes Sociales

La polarización y la violencia en las redes sociales han alcanzado niveles alarmantes, erosionando la calidad del diálogo público y amenazando la estabilidad democrática. La polarización afectiva, los discursos de odio, las fake news, entre otros condimentos propios de esta nueva era digital, vienen causando grandes rupturas hacia el interior de las sociedades. Ante esta problemática, una colaboración innovadora entre Civic Health Project, una ONG estadounidense, y la startup argentina Data Voices, ha dado vida al Social Media Detoxifier (SMD). Esta herramienta combina la inteligencia artificial con el talento argentino para enfrentar la toxicidad en redes sociales de forma escalable y efectiva. Conversamos con los creadores de esta novedosa herramienta, Juan Manuel Ortiz de Zarate, Julián Eyzaguirre y Eduardo Pan, sobre cómo nació la iniciativa, su impacto social, y el papel que juega el talento argentino en la construcción de soluciones de alto impacto.

Un riesgo inminente: toxicidad y redes sociales

Pregunta: Desde su perspectiva, ¿cómo está afectando la toxicidad en redes a las democracias modernas?

Juan Manuel Ortiz de Zarate: Las redes sociales han sido una fuerza poderosa para la conexión, pero su diseño actual también promueve la polarización, amplificando discursos de odio y extremismo. La falta de contacto directo y los algoritmos que priorizan contenido altamente emocional han convertido a estas plataformas en terrenos fértiles para la desinformación y el conflicto. La toxicidad no solo erosiona el diálogo, sino que también mina la confianza en las instituciones democráticas.

Julián Eyzaguirre: Lo más preocupante es que la toxicidad ha comenzado a moldear la percepción pública de lo que es “normal”. Cuando el discurso de odio o la polarización se convierten en la norma, se vuelve difícil sostener un espacio de diálogo saludable. Como abogado y docente, creo que no solo estamos viendo una pérdida en la capacidad de debate crítico, sino también una distorsión en cómo la gente percibe el papel del diálogo en la democracia.

Pregunta: ¿Cómo surgió la colaboración entre Data Voices y Civic Health Project para crear el Social Media Detoxifier?

Juan Manuel Ortiz de Zarate: Civic Health Project buscaba una solución tecnológica para moderar el tono de las conversaciones sin censura y sin depender de los cambios en las plataformas. Nosotros en Data Voices ya habíamos trabajado con IA aplicada al diálogo y la comunicación, y vimos el potencial de usar tecnología argentina para un problema global. Así nació el Social Media Detoxifier: una herramienta que permite a personas comunes intervenir en conversaciones tóxicas con el apoyo de la IA, promoviendo el respeto y el entendimiento en redes.

Julián Eyzaguirre: Desde Data Voices, teníamos claro que la solución debía ser proactiva y capaz de influir en la cultura digital sin esperar que los gigantes tecnológicos cambiaran sus modelos. El SMD empodera a los usuarios humanos con respuestas diseñadas para reducir el conflicto y promover el diálogo. Fue una colaboración natural entre Civic Health y nosotros, y creo que esta sinergia refleja cómo el talento argentino puede tener un impacto enorme en desafíos de escala global.

Pregunta: ¿Qué impacto creen que puede tener esta herramienta en la sociedad?

Julián Eyzaguirre: Más allá de los números y estadísticas, el verdadero impacto está en la capacidad de cambiar normas de comportamiento en redes. El SMD permite que los usuarios tomen el control sobre la conversación, influyendo no solo en la persona a la que responden, sino en todos aquellos que leen el hilo. Así, se crea un efecto en cadena que puede contrarrestar la toxicidad en redes y devolver un espacio para el debate constructivo.

Juan Manuel Ortiz de Zarate: En nuestras pruebas iniciales, vimos cómo la herramienta impactaba en la percepción de los usuarios sobre lo que es aceptable en una conversación pública. Creemos que el SMD no solo es una solución tecnológica, sino una invitación a recuperar la civilidad en redes sociales, algo que puede transformar el ambiente digital de manera tangible.

Pregunta: ¿Cómo fue la experiencia de trabajar con un equipo norteamericano en un proyecto tan relevante para el contexto electoral de 2024?

Eduardo Pan: La experiencia ha sido sumamente positiva. El equipo de Data Voices no solo tuvo una capacidad técnica de primer nivel, sino que también aportó una perspectiva innovadora, enfocada en soluciones prácticas y escalables. Estar a la altura de la demanda de una institución californiana, con altos estándares de calidad y trabajo fue un desafío, pero el talento argentino destaca por su compromiso, seriedad y creatividad. Esta colaboración ha sido un recordatorio de que las soluciones globales pueden y deben venir de cualquier parte del mundo, y creo que el SMD es solo el comienzo de lo que podemos lograr juntos.

Pregunta: ¿Por qué eligieron una herramienta como el SMD para enfrentar la polarización?

Juan Manuel Ortiz de Zarate: Civic Health Project ha estado buscando formas de reducir la polarización y fortalecer el diálogo en Estados Unidos, y la toxicidad en redes es uno de los mayores obstáculos para esto. Creemos que el SMD es una forma de usar la tecnología de manera responsable, no para silenciar, sino para guiar el diálogo. Con Data Voices, encontramos un equipo capaz de entender la problemática y aportar soluciones de alto impacto. Nos entusiasma ver cómo el talento argentino está liderando un esfuerzo tan importante en este campo.

Un futuro con visión argentina para la democratización del diálogo digital

Pregunta: ¿Qué proyecciones tienen para el SMD y el trabajo conjunto con Civic Health Project?

Juan Manuel Ortiz de Zarate: Nuestra visión es que el SMD se expanda a otras plataformas y a otros contextos, no solo en Estados Unidos sino en cualquier lugar donde las redes sociales estén moldeando el diálogo público. Tenemos planes de mejorar las capacidades de la herramienta y crear funcionalidades específicas para momentos críticos, como elecciones. Creemos que el talento argentino tiene mucho que aportar a este tipo de soluciones globales, y que el SMD es una muestra de cómo podemos participar activamente en la construcción de un futuro más sano en el mundo digital.

Julián Eyzaguirre: Estamos convencidos de que la tecnología puede ser un motor de cambio social positivo, y desde Data Voices queremos que el SMD sirva como un ejemplo de cómo la inteligencia artificial puede usarse para mejorar la calidad del diálogo en redes. Este proyecto es un orgullo para nosotros como argentinos y esperamos que inspire a otros equipos en Latinoamérica y en el mundo a contribuir con soluciones innovadoras y socialmente responsables.

El Social Media Detoxifier es un ejemplo claro de cómo el talento argentino puede contribuir a resolver problemas globales, abordando la toxicidad en redes sociales desde una perspectiva de respeto y empatía. La colaboración entre Civic Health Project y Data Voices no solo busca cambiar el tono de las conversaciones en línea, sino también sentar las bases para un futuro donde la tecnología esté al servicio del diálogo constructivo y la democracia. Este proyecto destaca cómo el ingenio y compromiso de los emprendedores argentinos pueden generar un impacto significativo en los desafíos más complejos de nuestro tiempo.