Por fin ayer le quitaron el cono a Yōkai. Una vez más se puede bañar por sus propios medios.

Ayer también estuve en un evento sobre ética e inteligencia artificial. Los organizadores proponen un esquema de trabajo dentro de organizaciones que desarrollan herramientas de decisión automática basada en aprendizaje estadístico para detectar puntos débiles e intentar prevenir que se cuelen sesgos que promuevan inequidades. Todo muy a grandes rasgos aunque, supongo, con buenas intenciones. En el fondo está el concepto de privacidad por diseño que propone el desarrollo de mecanismos de defensa ética inherentes a la tecnología que garanticen privacidades y control individual de los datos personales por implementación en lugar de por legislación. Algo que me gustó de la presentación es la idea de que la tarea de quienes desarrollamos ese tipo de sistemas en contextos en los que las decisiones afectan sustancialmente la vida de la gente (no es mi caso por lo pronto, pero vivo cerca de esas técnicas y problemas) es usar estos métodos para cuantificar el pasado y, tal vez, proponer alternativas para un futuro que no reproduzca los desequilibrios y segregaciones que los datos históricos, comprimidos en modelos bien construidos, podrían revelar. El ejercicio se vuelve entonces diseñar y montar herramientas que usen estos modelos como imágenes diagnósticas que permitan aislar las diversas formas en las que las personas son excluidas o privilegiadas dependiendo de atributos más o menos arbitrarios y después, con esta información, proponer sistemas de decisión que cancelen o ayuden a revertir estas tendencias.

Al cierre hubo una mesa redonda que terminó centrada en el almacenamiento de datos a nivel masivo de comportamiento humano y cómo su recolección tiene consecuencias por fuera del ámbito de quienes aceptan que sus datos sean registrados. Con cada vez más sensores y más incentivos para capturar y apropiarse de segmentos amplios de las vidas ajenas como negocio y producto no parece haber suficientes mecanismos sociales y políticos de control para prevenir abusos. Tampoco es muy claro en qué consistirían. Se me hace que vendría bien dedicar esfuerzos serios en esa dirección.

A propósito de todo esto, el nuevo libro de Harry Collins que me enlazó Paola suena bien. A ver si lo leo pronto.