¿Está la IA más allá del bien y del mal? Del dilema del tranvía a las armas autónomas

Nahuel González y Christian Dimitriu

Universidad de Buenos Aires/ADGS Computer Systems

Resumen/Abstract

La ética algorítmica se sitúa en la intersección de la ética, la ciencia de datos y la computación. En una época en la que los sistemas de IA comienzan a emplearse en la toma de decisiones, y con la expectativa de que su uso se vuelva ubicuo, la ética algorítmica busca alinear su comportamiento con el bienestar humano mediante principios deontológicos o consecuencialistas que sean, al mismo tiempo, computables, explicables y verificables. En esta charla se presentarán los fundamentos y marcos éticos relevantes, se discutirán casos recientes de desalineación y se analizarán errores comunes que conducen —a veces inadvertidamente y a pesar de las mejores intenciones— a implementaciones defectuosas. Se pondrá especial énfasis en las aplicaciones en ciberguerra y ciberdefensa.

Curriculum ponente

Nahuel González recibió el título de Doctor en Ciencias de la Computación por la Universidad Nacional de La Plata (UNLP), Argentina, en 2022. Su tesis doctoral fue galardonada con el Premio Raúl Gallard, otorgado por la Red de Universidades Nacionales con Carreras en Informática (RedUNCI), al año siguiente. Nahuel está vinculado al Laboratorio de Sistemas de Información Avanzados (LSIA) de la Universidad de Buenos Aires (UBA) desde 2013. Además, es Co-Fundador y CTO de la empresa ADGS Computer Systems (Qatar). Sus principales intereses de investigación son la biometría del comportamiento y la predicción/clasificación de series temporales mediante aprendizaje profundo (deep learning).

Cristian Dimitriu es Doctor en Filosofía por la Universidad de Toronto (Canadá), Investigador Adjunto del CONICET (Argentina) y profesor en la Universidad de Buenos Aires. Especialista en Filosofía Política, Justicia Global y Filosofía del Derecho, su investigación histórica sobre injusticias estructurales le otorga una mirada crítica sobre el impacto social de las nuevas tecnologías. Destaca su reciente rol como Profesor Visitante en Carnegie Mellon University (Qatar) entre 2022 y 2025, donde ha impartido cursos especializados en Inteligencia Artificial y Ética.