En el Día de la Industria y en el marco del café número 50, el ciclo de divulgación científica “Café de las Ciencias” llevó a cabo un nuevo encuentro virtual dedicado a la “Explicabilidad en la Industria del Futuro” de la mano de la profesora titular de Ciencias de la Computación en INSA Rouen Normandie (Francia), Cecilia Zanni-Merk, y el profesor de la Universidad Tecnológica Nacional Facultad Regional Rafaela, Javier Fornari, con la moderación del periodista científico Bruno Massare.

Cecilia abrió la charla explicando sobre la Industria del Futuro conocida como la Industria 4.0, un nuevo paradigma de producción, donde las líneas de producción y las máquinas que las componen tienen captores que miden diferentes parámetros de forma continua y, “de esta forma, analizarlos para entender cómo se comporta esa línea de producción y detectar lo antes posible cuándo habrá problemas a partir del uso de inteligencia artificial (IA), Big Data y el aprendizaje profundo”.

A partir de los datos recuperados se aprende un modelo de ciertos enfoques y en tiempo real se compara los comportamientos con los captores. “El problema con esto es la caja negra, de cómo llegan estos algoritmos a una decisión. Ahí viene la idea de explicabilidad (explainability, en inglés)”. En otras palabras, el algoritmo de aprendizaje toma una decisión, por ejemplo, hacer mantenimiento de tal máquina, y el técnico u operador al lado de la máquina quiere entender el por qué de tal decisión. “Hoy los algoritmos de aprendizajes son robustos, pero son cajas negras, es decir, no se sabe por qué una decisión fue tomada”, afirmó la doctora en Ciencias de la Computación que dicta actualmente clases en Francia. “El tema de la explicabilidad es otro campo de investigación, donde en Europa recién estamos trabajando, en Estados Unidos hace tres años aproximadamente. La idea es completar estos algoritmos de aprendizaje con otro tipo de enfoque para conocer la decisión tomada”, cerró.

Javier abordó la representación del conocimiento dentro de la IA: “Hay dos ramas en particular, una orientada al aprendizaje automático (la caja negra), donde sabemos que toma buenas decisiones pero no sabemos por qué, y por otro, los sistemas expertos, que corren con la ventaja que puede explicar la decisión”. Según el doctor en Ingeniería en Sistemas y Computación, por razones que refieren a la reducción de costos y a la potencia, los algoritmos de aprendizaje automático en el tiempo tuvieron más preponderancia y se utilizan aplicados en la industria, en la internet de las cosas, en los robots colaborativos, los cuales parten de estas herramientas automáticas.

El profesor invitó a reflexionar sobre “¿Quién le dice a un sistema de aprendizaje automático que se equivocó en una decisión que tomó? Seguramente el operario, y la máquina no le va a responder, por lo que habrá que reentrenarlo, pero en ningún momento podrá indicar el motivo. La idea es cómo integrar lo mejor del aprendizaje automático con el razonamiento deductivo, sobre todo al momento de fundamentar decisiones”. Finalmente, dejó abierta la cuestión legal en el proceso de decisión y la ética al tomar decisiones, temas que atañen a la explicabilidad.

Para ver la charla completa y conocer más ingresar a https://www.youtube.com/watch?v=yt7Vo_IXEfc

El “Café de las Ciencias” es un ciclo de charlas encabezado por un/a investigador/a francés/a y uno/a argentino/a con la participación del público en general, que se reúne para conversar sobre temas que giran en torno a la ciencia y la tecnología. Dado el contexto actual, las mismas se realizan de manera virtual por el canal de YouTube del C3, hasta nuevo aviso.

El ciclo está organizado por el Ministerio de Ciencia, Tecnología e Innovación junto al Institut français d'Argentine, la Embajada de Francia en Argentina, el Centro Cultural de la Ciencia C3 y la Alianza Francesa de Buenos Aires.

Sobre los disertantes
Cecilia Zanni-Merk: Es profesora titular de Ciencias de la Computación en INSA Rouen Normandie (Francia), el Instituto Nacional de Ciencias Aplicadas de Normandía (Rouen, Francia). También es la directora del grupo de investigación MIND (multi-agentes, interacción, decisión) del laboratorio LITIS (Laboratorio de Informática, Procesamiento de Información y Sistemas). Tiene una licenciatura en Ciencias de la Computación de la ESLAI (Universidad Nacional de Luján, Argentina), un doctorado en Ciencias de la Computación de la Universidad Aix-Marseille (Francia) y obtuvo su habilitación para dirigir investigación de la Universidad de Estrasburgo (Francia). Sus principales intereses de investigación se centran en la Ingeniería del Conocimiento, y más particularmente en la representación conceptual y los procesos de inferencia aplicados a la resolución de problemas.

Javier Fornari: Es profesor en la Universidad Nacional de Rafaela y Universidad Tecnológica Nacional Facultad Regional Rafaela en Argentina. Posee una licenciatura en Sistemas y Computación de la Universidad Católica Argentina y un doctorado en Ingeniería en Sistemas y Computación de la Universidad de Málaga (España). Su investigación científica se focaliza en la solución de problemas del ámbito industrial y social mediante el uso de técnicas de inteligencia artificial y el estudio y aplicación de la tecnología a la educación. Asimismo, se desempeña como consultor tecnológico en diversas entidades a nivel nacional e internacional.