Robots que no dañen a los humanos
¿Dónde entra la ética y los derechos en el desarrollo de IA?
Lainteracción con sistemas automatizados de toma de decisiones es hoy una realidad en buena parte del mundo.
Muchas de estas áreas impactan en la vida de las personas directamente:
Ingreso y evaluación de puestos de trabajo, management y gestión de empleados, análisis y aplicación de sentencias judiciales, acceso a educación, lectura, entretenimiento y acceso a información, evaluación de riesgo y acceso a servicios tales como seguros, finanzas, seguridad pública, etc. En todas estas áreas se han comenzado a utilizar sistemas automatizados de toma de decisiones.
Los problemas derivados de los diversos sesgos de género y raza están bien documentados en el hemisferio norte, donde numerosos académicos, especialistas y organizaciones de la sociedad civil han comenzado a trabajar fuertemente en estos temas. Sin embargo, estas categorías documentan un problema propio de ciertos países y dejan de lado categorías de discriminación que pueden ser más propias de nuestra región. Grupos excluidos históricamente como personas que viven en barrios populares, familias de bajos recursos, grupos sociales con estudios incompletos pueden aparecer como elementos más velados de discriminación automatizada por algoritmos.
¿Dónde entra la ética en estos procesos? ¿Alcanza con una discusión desde la ética o es necesaria una regulación fuerte o una política pública asociada? ¿Podemos integrar estos aspectos con una mirada desde América Latina en los procesos globales o sólo vamos a ser usuarios de tecnologías e innovaciones desarrolladas en los países centrales?
En contextos de amplia desigualdad y baja participación en la toma de decisiones en materia tecnológica, esta charla tratará de arrojar preguntas hacia el mundo de la inteligencia artificial a fin de construir robots que no dañen a las personas.
Beatriz Busaniche
Presentador