Búsqueda de sitios web

Un llamado a llevar un diseño más centrado en el ser humano a la inteligencia artificial


Muchos sistemas de IA se desarrollan bajo el supuesto de que "lo que queramos de la IA, vamos a presionar el botón y, como por arte de magia, nos entregará el resultado".

La inteligencia artificial no debería tener que activarse a través de un "gran botón rojo" que ofrece resultados opacos que todos esperan que sean la última palabra sobre una pregunta determinada. Más bien, debería estar bajo cierto grado de control por parte de los humanos involucrados en el circuito, quienes pueden tener una idea de lo que les dicen los resultados.

Esa es la palabra de Ge Wang, profesor asociado de Stanford, quien insta a un enfoque de diseño centrado en el ser humano para las aplicaciones y sistemas de IA. En un webcast reciente organizado por Stanford HAI (IA centrada en el ser humano), Wang insta a los desarrolladores y diseñadores de IA a dar un paso atrás y considerar el importante papel de los humanos en el circuito. "Estamos tan lejos de las respuestas en IA que todavía no conocemos la mayoría de las preguntas", señala. 

Muchos de los sistemas de IA actuales están diseñados en torno al gran botón rojo, afirma. "Lo que queramos de la IA, lo presionaremos y, como por arte de magia, nos entregará el resultado", dice Wang. La percepción es que "la IA tiene esta cualidad mágica, en el sentido de que exhibe esto, a falta de una palabra mejor, inteligencia. Y es capaz de realizar tareas complejas. La IA es el reconocedor de patrones más poderoso que jamás hayamos construido". ". 

La pregunta entonces es: "¿qué es lo que realmente queremos de la IA?" Wang continúa. "¿Queremos oráculos todo el tiempo, que simplemente nos den las respuestas correctas sin mostrar necesariamente su trabajo? ¿O queremos herramientas? ¿Cosas que podamos usar para aprender a mejorar? Y herramientas que sean, por definición, interactivas". al humano?"

Las formas de incorporar más a los humanos al circuito de la IA no necesariamente tienen que ser complicadas. Un enfoque muy eficaz sería introducir "controles deslizantes" que acompañen a las interfaces de usuario de las aplicaciones de IA, sugiere Wang. El diseño de sistemas de IA "podría comenzar con una simple pregunta: '¿Podría ponerle un control deslizante a esto?'", dice Wang. ¿Qué significaría eso? ¿Cómo haría eso que el sistema fuera más útil o interesante?

Un control deslizante permitiría al usuario aumentar la intensidad de la IA aplicada a una pregunta, desde un toque ligero hasta una salida completa de IA. Wang cita el ejemplo de uno de los proyectos de sus estudiantes, un sistema de inteligencia artificial que traduce documentos legales a un inglés sencillo. "Lo interesante es la adición de un control deslizante que controla la jerga legal en la salida", relata. El control deslizante puede mantener el documento cerca de su jerga legal original, hasta llegar a un lenguaje sencillo completamente traducido. "En el momento en que se agrega ese control deslizante, esto pasa de un sistema rígido de botones grandes a uno donde puedes controlar, pero también donde diferentes personas pueden identificar sus propios tipos de necesidades. ¿Qué pasaría si nuestras herramientas nos permitieran realmente hacer ¿Eso con nuestra IA?"

La ventaja "de este tipo de diseño con un ser humano en el circuito es que a menudo se puede obtener una transparencia significativa sobre cómo funciona realmente el sistema", afirma Wand. "Además, dependiendo de cómo lo diseñes, es una forma de incorporar el juicio humano de manera efectiva. Es simplemente ejercer presión. En realidad, vemos esto cada vez que intentamos construir un sistema con humanos en el circuito. Deberíamos presionar el peso desde construyendo el algoritmo perfecto hacia el gran botón rojo. Esto no tiene que ser perfecto, listo para siempre, porque ¿sabes qué?

A su vez, adaptaciones como los controles deslizantes que permiten un mayor control humano sobre la producción de IA "casi siempre habilitan sistemas más potentes, no menos", resume Wang. 

La IA, como ocurre con otras tecnologías avanzadas, no tendrá éxito si simplemente se aplica a las organizaciones de personas. Las personas deben poder aprovechar las herramientas basadas en inteligencia artificial para crear y poner en práctica ideas y enfoques que ayudarán a crear un mundo mejor para sus clientes y empleados. 

Artículos relacionados