Harry Shum de Microsoft, Technology News, ETtech

Harry Shum dice inteligencia artificial tiene un problema de sesgo, que la industria tiene que trabajar en conjunto para solucionar.

El veterano de Microsoft que ha pasado más de dos décadas en el gigante del software cree que la inminente necesidad del desarrollo de la IA es implementar las medidas necesarias para abordar los problemas de sesgo algorítmico y objetividad en la toma de decisiones automatizada. [19659003] Compañías de tecnología como Google y Microsoft fueron convocadas por sesgos en sus resultados de búsqueda.

Citando un ejemplo de AI bias Shum dijo que los resultados de búsqueda para CEO a partir de hoy son ” hombres sonrientes bien vestidos, en su mayoría hombres blancos “.

Otro ejemplo es que escribir 'estúpido' en Google arroja imágenes del presidente de los EE. UU. Donald Trump en los resultados.

No es si Google o Bing lo hacen bien, pero estos son el problema interesante Las compañías tecnológicas se enfrentan, dijo a ET en una interacción exclusiva.

“Estoy feliz de que la gente esté prestando más atención para darse cuenta de que esto es un problema”, dijo Shum.

“¿Es un problema algorítmico? ¿Es este un problema de diseño? ¿Es este un problema de tecnología? Mi respuesta: Son todos ellos ”, dijo.

“Lo que va a suceder es que si es algo tan importante, eventualmente el gobierno vendría y diría que deberíamos tener algunas regulaciones. Muchos años después podría haber una ley para codificar acciones que pueden y no pueden hacerse (mediante algoritmos) ”, dijo Shum. “Si nosotros, la industria, no podemos regularnos, entonces el gobierno debería entrar para regular la industria.

Aún tenemos muchas esperanzas de que la industria pueda trabajar junta y avanzar en la dirección correcta”.

Shum, En su reciente libro, 'El futuro calculado: la inteligencia artificial y su papel en la sociedad', ha argumentado en detalle que este problema podría abordarse mediante la introducción de las ciencias sociales en la educación y la educación STEM (ciencia, tecnología, ingeniería y matemáticas). [19659004] Microsoft ha creado un comité de ética de AI para analizar los problemas de sesgo, transparencia y algoritmos planteados en los productos de la compañía. Según informes, incluso ha cancelado acuerdos debido a preocupaciones éticas sobre AI.

“El comité está presidido por dos vicepresidentes, uno de mi departamento en investigación de AI y el otro de nuestro departamento legal”, dijo Shum. “Una de las cosas que observamos recientemente fue el problema del reconocimiento facial.

Lo discutimos en el comité, lo reconocimos como un prejuicio y hablamos con nuestros científicos e ingenieros para revisarlo”. Shum se refería a una reciente controversia donde el reconocimiento facial para hombres blancos arrojó resultados con una tasa de error del 1%, en comparación con el 25% para mujeres oscuras.

“Microsoft hoy no envía ningún producto sin pasar por la revisión de seguridad, sin pasar por la privacidad, sin pasando por la revisión de accesibilidad.

En el futuro, aspiramos a pasar también por la revisión de ética de AI ”, dijo Shum, un gran paso en el ciclo de desarrollo de AI si entra en vigencia.

Shum, quien informa al jefe Satya Nadella, ejecutiva, impulsa la estrategia de inteligencia artificial general de Microsoft.

Ya sea una charla con Cortana, la asistente virtual, o la creación de una supercomputadora en la nube de Azure, el trabajo de Shum abarca la inteligencia artificial en actividades de investigación y desarrollo de productos.

El veterano de Microsoft que tiene un doctorado en tecnología de visión artificial de la Carnegie Melon University, ha pasado gran parte de su carrera en Microsoft investigando sobre la inteligencia artificial en la visión artificial. Shum dijo que la humanidad resolvería los problemas “específicos” de la IA, como el reconocimiento de voz e imagen, con el 100% de precisión en la próxima década.

“En cinco o diez años, el reconocimiento de voz de AI será mejor que el humano. AI entenderé tu discurso mejor de lo que yo entiendo. En reconocimiento visual, la IA podrá reconocer diferentes objetos mejor que nosotros. Faltan solo 10 años “, dijo Shum.

Mientras que Shum tiene confianza en que AI pueda resolver problemas específicos, su optimismo se desvanece cuando se le pregunta sobre los escenarios de ciencia ficción de dar la bienvenida a los amos robóticos en el futuro.

“No creo que los amos de los robots estén aquí. Las personas son demasiado optimistas sobre cuántos problemas puede resolver la IA. Personalmente, no creo que estemos cerca de resolver el problema fundamental de la cognición que la IA aún no ha resuelto “, dijo Shum.

El científico informático dijo que aunque vio claramente la exageración y la esperanza de la IA, la tecnología a partir de ahora. ahora era más parecido a un bebé en pañales en lugar de un Skynet en fabricación.

Satya Nadella, en su libro 'Hit Refresh', escribió en detalle sobre las reuniones con su equipo de liderazgo sénior (SLT) después de asumir el cargo de director. Shum forma parte del liderazgo de alto nivel que se reúne todos los viernes y analiza la tecnología y el camino a seguir para Microsoft: siete horas seguidas. “Nosotros (Nadella y yo) hemos trabajado juntos durante 12 años muy de cerca. Hablamos de tecnología y productos en el SLT todos los viernes, pasamos 7 horas haciendo una lluvia de ideas de problemas, no tan románticos como se podría imaginar “

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *