Datos para la sociedad civil | Hackear por el bien común

En la primavera de este año un absurdo robo de datos ocurrido en Estados Unidos causó revuelo . Los llamados “Zizianos”, especialistas en datos anarquistas de Silicon Valley, una vez se propusieron salvar al mundo de una futura inteligencia artificial (IA) todopoderosa. En cambio, con el paso de los años se convirtieron en una presunta secta asesina y, tras su arresto, se transformaron en un símbolo de lo que puede suceder cuando el miedo a los rápidos avances tecnológicos se impone. Es el debate clásico que siempre resuena con la IA: ¿quién desarrolla la tecnología para beneficio de quién?, ¿a quién debería servir en el futuro, a las grandes corporaciones o a la sociedad civil?, y ¿cómo se implementa esta última?

En un día gris y algo ventoso de mayo en Colonia, esto es precisamente lo que hay que aclarar. A la sala más grande del centro internacional de Cáritas, en el barrio más exclusivo de Sülz, llegan cada vez más personas. Toman café, charlan o pulsan los botones virtuales de sus teléfonos inteligentes de un modo un tanto avergonzado. Alrededor de 70 representantes de la sociedad civil se reunieron para participar en un evento organizado por el Civic Data Lab (CDL) .

El CDL, financiado por el Ministerio Federal de Asuntos de la Familia (BAMFS) desde 2023, tiene como objetivo apoyar a la sociedad civil en la recopilación, el uso y la reutilización de datos. Según una encuesta realizada en 2024 por la Fundación Bertelsmann sobre las actitudes de las organizaciones de la sociedad civil hacia los datos, éstas en general están abiertas a estas nuevas tecnologías (97,9 por ciento). Sin embargo, según sus propias declaraciones, carecen de los recursos humanos y financieros para utilizarlos eficientemente. También existen preocupaciones sobre la protección de datos.

El CDL ahora ejecuta varios programas de educación continua sobre el tema de datos, ofrece cursos en línea gratuitos y organiza las llamadas "horas de consulta de datos" donde las organizaciones pueden recibir asesoramiento sobre sus proyectos. "También se trata de transmitir conocimientos sobre datos a personas que antes no tenían acceso a ellos", explica el equipo de prensa del CDL en una entrevista con "nd". Existe suficiente demanda y conocimiento de los servicios ofrecidos; por ejemplo, ahora hay una larga lista de espera para consultas de datos.

El BarCamp de Colonia, junto con una plataforma de trabajo colaborativo, se enmarca en el concepto de networking. Un BarCamp es un tipo de conferencia donde los propios participantes determinan el programa al principio. Se trata de aprender unos de otros, como en este caso sobre datos, IA y digitalización en un contexto de bien común. Por cierto, el 46,4 por ciento de las organizaciones encuestadas por la Fundación Bertelsmann buscan el intercambio con otras para mantenerse al día de los avances tecnológicos.

Los temas que se discuten en Colonia son diversos. Algunos representantes de instituciones sociales debaten cómo están implementando las nuevas regulaciones de la UE sobre IA, un investigador de Berlín presenta su proyecto sobre el uso de datos para el bien común y un representante de la "Asociación de autoayuda para personas con lesiones médicas" con sede en Hamburgo busca opiniones sobre el "modelo de negocio analógico e insostenible" de la asociación.

Después de que todos hayan presentado sus ideas y marcado sus preferencias en una pared de la habitación usando pegatinas de colores, el grupo se divide en grupos pequeños. En el “Fisimatentenraum” se instala un micrófono. El debate que allí se desarrolla se graba, luego se transcribe y se resume mediante un software de reconocimiento de voz. Una especie de experimento en medio de la creación de redes. Allí, Benjamin Degenreich, de la startup Förderfunke, presenta un proyecto. El objetivo es encontrar una manera de informar de forma proactiva a los ciudadanos sobre los servicios gubernamentales y las ofertas que son relevantes para ellos: la máxima apertura y la máxima protección de datos son el plan, explicó Degenreich a »nd«.

Mantener a los ciudadanos en la oscuridad significa socavar la democracia.

Benjamin Degenreich Funding Spark

Un ejemplo clásico de beneficios sociales que no reclaman quienes tienen derecho a ellos es el subsidio por hijo. Por ello, la reforma del sistema de prestaciones por hijo llevada a cabo por el gobierno del semáforo tuvo como objetivo principal facilitar el acceso a ellas a quienes ya tenían derecho a ellas. La discrepancia entre las demandas teóricas y las percibidas surge de jerarquías de conocimientos, de enfoques clasificados y racializados o de la falta de tiempo por parte de los padres. También hay voces cínicas que sostienen que estas jerarquías de información le ahorran dinero al Estado. “Mantener a los ciudadanos en la oscuridad significa socavar la democracia”, afirma Degenreich.

En la Ronda de Colonia, organizaciones sin fines de lucro comparten sus experiencias de consultas. Celebran la iniciativa de la startup, pero también manifiestan preocupación. Por ejemplo, debido al Toeslagenaffaire (asunto de las prestaciones por hijo), un escándalo holandés en el que el Estado acusó principalmente a familias inmigrantes de fraude social y exigió la devolución de las prestaciones por hijo a finales de 2020.

El caso de Toeslagen se considera el primer caso en el que un gobierno tuvo que pagar una indemnización por la discriminación automatizada de ciudadanos basada en datos. Por eso, según Degenhart, el proyecto Förderfunken trata de datos estructurados en lugar de LLM, es decir, grandes modelos de lenguaje basados ​​en IA. "La gente debería poder entender por qué tiene derecho a recibir prestaciones o no".

"En principio, la sociedad civil no debería simplemente perseguir a la economía".

Laboratorio de Datos Cívicos Leo Preu

Las consultas del CDL se centran en considerar conjuntamente cómo se puede aplicar adecuadamente la inteligencia artificial en los respectivos proyectos. Pero también se trata de reconocer la delgada línea entre dónde tiene sentido el uso de la inteligencia artificial y dónde no, dice Leo Preu, de CDL, durante el almuerzo vegetariano, entre falafel y ensaladas variadas. "En principio, la sociedad civil no debería simplemente perseguir a la economía".

Un ejemplo: una asociación contra el acoso escolar está considerando utilizar un chatbot para consultas en línea porque a los pocos voluntarios solo se les permite trabajar en línea después de algunas sesiones de capacitación. Un proyecto difícil de implementar. En primer lugar, los bots deben estar extremadamente bien programados para evitar transmitir declaraciones problemáticas a los jóvenes en el futuro. En segundo lugar, surge la pregunta: ¿por qué confiamos en que las personas nos den asesoramiento en línea solo después de una fase de aprendizaje, pero queremos enviar la IA al campo directamente?

¿Le otorgamos ahora a la IA más empatía que a los humanos? En un taller de la tarde, Preu profundizará en el debate. El panel analiza la antropomorfización de la IA, es decir, su humanización y sus consecuencias para las relaciones, el aislamiento y la sociedad civil. En el peor de los casos, ¿podría esto terminar como mencionaron los Zizianos al principio?

Mucho más allá de estos experimentos mentales, el BarCamp está lleno de ejemplos positivos del uso de datos para el bien común. Incluidos aquellos que se implementaron en los últimos dos años con la ayuda del CDL. Proyectos democráticos que acercan a los jóvenes a la política, conceptos que transforman textos en un lenguaje inclusivo en términos de género similares a la plataforma de traducción DeepL, o plataformas que conectan proyectos corales regionales. La lección del día: Las nuevas tecnologías pueden ser de gran beneficio si se utilizan conscientemente.