¿Quién es responsable cuando un algoritmo toma una decisión que perjudica a una persona? Explicá tu posición a partir de lo ocurrido en el episodio.
Cuando un algoritmo toma una decisión que perjudica a una persona, deben hacerse responsables las personas, empresas o instituciones que lo crearon y decidieron utilizarlo, ya que un algoritmo no puede saber por sà solo qué es justo o injusto, sino que sigue las instrucciones y los criterios con los que fue programado. En el episodio, el sistema revisa los datos médicos de las personas, les asigna un puntaje y decide quién recibe tratamiento y quién queda fuera.
Considero que una decisión tan importante, que puede afectar la vida y la salud de una persona, no deberÃa quedar únicamente en manos de un sistema ni depender de un grupo reducido de personas. DeberÃa existir una supervisión humana, mayor transparencia sobre los criterios utilizados y controles que permitan revisar y auditar las decisiones del sistema, aunque el algoritmo funcione correctamente, puede producir decisiones injustas si los datos o criterios utilizados son inadecuados.
Creo que la tecnologÃa puede ayudar a tomar decisiones, pero no deberÃa reemplazar la responsabilidad humana cuando están en juego derechos fundamentales como la salud y la vida.
https://sketch.metademolab.com/share/6fa967eaf93147fd946a6f9ab6b58bea/running_jump
Este comentario ha sido eliminado por el autor.
ResponderEliminarPara mÃ, cuando un algoritmo toma una decisión que perjudica a una persona, los responsables son quienes lo crearon y decidieron usarlo. Un programa no sabe qué es justo; solo sigue las reglas con las que fue programado. En este episodio se ve clarito cuando el sistema analiza los datos médicos, les pone un puntaje a las personas y decide quién se atiende y quién queda afuera.
ResponderEliminarPienso que algo tan importante como la salud y la vida no puede quedar en manos de un sistema automatizado ni de un grupito que decide a espaldas de todos. Tiene que haber supervisión humana, controles claros y transparencia sobre los criterios que usan. La tecnologÃa puede dar una mano, pero jamás deberÃa reemplazar la responsabilidad de las personas cuando están en juego derechos tan fundamentales.