Clases de ética para la tecnología

Luego del revuelo causado por temas como las noticias falsas, Harvard y el MIT preparan a los futuros cerebros de Silicon Valley con clases de ética para que consideren las consecuencias de sus innovaciones antes de que sus productos salgan al mercado.

La medicina tiene ética:  ante todo no provoques daño.  Silicon Valley tiene un sistema de valores: crea primero y pide perdón después.

Ahora, tras el auge de las noticias falsas y otros problemas que padecen las empresas tecnológicas , las universidades de donde egresaron algunos de los mejores tecnólogos de Silicon Valley se dan prisa para llevar a las ciencias de la computación una moralidad parecida a la que tiene la medicina.

Este semestre, la Universidad de Harvard y el Instituto Tecnológico de Massachusetts (MIT) ofrecen de manera conjunta un nuevo curso de ética y regulación de la inteligencia artificial. La Universidad de Texas en Austin acaba de agregar una asignatura titulada:  “Fundamentos éticos de las ciencias de la computación”, con la idea de que con el tiempo sea una materia en todas las licenciaturas de ciencias de la computación.

En la Universidad Stanford el corazón académico de la industria, tres profesores y un investigador adjunto desarrollan un curso de ética para el próximo año y esperan que se inscriban cientos de alumnos.

El objetivo es encontrar o identificar los problemas a los que se enfrentaran los estudiantes que se gradúen en dos o tres, cinco o 10 años,” afirmó Mehram Sahami, un popular profesor de Stanford que colabora en el curso. Sahami es famoso en el campus por haber llevado a la clase  a Mark Zuckerberg, director ejecutivo de Facebook.

is (1)

La tecnología no es neutral, por lo tanto, las decisiones que se toman al momento de crear tecnología conllevan ramificaciones sociales”, explica Sahami, quien trabajó como investigador senior en Google

Los cursos surgen en un momento el el que las grandes empresas tecnológicas tienen problemas para manejar los efectos secundarios  que conlleva la mentalidad de la industria de crear primero: las noticias falsas de Facebook, los seguidores falsos en twitter, videos lascivos de niños en youtube. Son un desafío abierto a una actitud común de Silicon Valley  que por lo general ha desestimado la ética al percibirla como un obstáculo.

Necesitamos al menos enseñar a las personas que la idea de hacer las cosas rápido y romperlas tiene un lado oscuro” señaló, Laura Norén, una becaria posdoctoral del Centro de Ciencias de Datos de la Universidad de Nueva York, quien este semestre comenzó a dar un nuevo curso de ética. “Se puede corregir el software, pero no se puede corregir a una persona si tu dañas su reputación“, dice Norén.

Los programa de ciencias de la computación deben garantizar que los estudiantes comprendan los problemas éticos relacionados para que los vale el ABET, un grupo mundial de acreditación para programas de ciencia e ingeniería a nivel universitario.

Sin embargo, no fue sino hasta hace poco tiempo que la ética pareció relevante para muchos estudiantes.

En comparación con los choferes o los doctores, tu interacción con las daños físicos , la muerte o el dolor, es  menor que si estás escribiendo el programa informático para una aplicación”, señaló Joi Ito director del MIT Media Lab.

Una razón para que las universidades impulsen la ética de la tecnología en ese momento es la popularización de herramientas poderosas como el aprendizaje automático: algoritmos de computadoras que pueden aprender tareas de modo automático tras analizar grandes cantidades de información. Debido a que esas herramientas básicamente podrían alterar la sociedad humana, las universidades se apuran para ayudar a los estudiantes entender las consecuencias potenciales, contestó Ito quien igual imparte el curso de ética de Harvard y del MIT.

Debido a que empezamos a ver cosas , como los vehículos autónomos, que tienen la capacidad  de salvar vidas, pero al mismo tiempo de provocar daños, creo que las personas se están sumando cada vez más para construir un sistema ético“, explicó Ito.

En el otoño pasado la universidad de Cornell presentó una asignatura de ciencia de datos que las que los alumnos aprendieron a enfrentarse con desafíos éticos, como conjuntos de datos sesgados que incluyan a muy poca gente de bajos recursos como para ser representativos de la población general. Los alumnos además debatieron sobre el uso de los algoritmos  en la toma de decisiones automatizadas cruciales que están relacionadas con la vida de las personas, como las concentraciones en los trabajos o las admisiones a las universidades.

En realidad, el curso se centró en intentar ayudarlos a comprender que es lo que más probable que van a enfrentar en su práctica diaria como científicos de datos y a ayudarlos a analizar en detalle esos desafíos de una forma sistemática“, afirmó Solon Barocas un profesor  adjunto que dio el curso.

“Muchas de las decisiones que toma una empresa tienen una carga ética: qué productos decidieron decidieron desarrollar, qué políticas adoptaron en torno a los datos de los usuarios”, explicó Levy. “Si enseñar ética de la ciencia de datos se centra por completo en la responsabilidad individual casa científico, se corre el riesgo de omitir el papel que tiene la empresa en general.

Por Natasha Sínger  (New York Times Magazine)

Redes sociales: