Cada vez más personas utilizan Bots, o Inteligencia Artificial Conversacional, ya sea para resolver dudas rápidas o para interactuar con servicios digitales. Para explotar el potencial que los bots pueden ofrecen a sus usuarios, debemos diseñarlos de manera que sean confiables y útiles.
Microsoft, unos de los pioneros en servicios de AI Conversacional, compiló una lista con guías para diseño responsable de bots . El propósito de esta guía es ayudar a los diseñadores de bots e interfaces conversacionales a crear plataformas que sean confiables y que representen correctamente al servicio y a la empresa para los que fueran diseñados.
Estas guías son más recomendaciones que reglas, y deben usarse con criterio y teniendo en cuenta el contexto en que el bot será utilizado, teniendo siempre en mente cuál es la experiencia que deseamos entregar a nuestros usuarios:
- Articula claramente el propósito del bot y ten cuidado si el bot será usado para dar seguimiento a una pregunta o a un proceso importante.
El propósito del bot es fundamental para el proceso de diseño ético, que es particularmente importante cuando se anticipa que el bot servirá para un uso consecuente. Los casos de uso aquí incluyen el acceso a servicios de atención médica, educación, empleo, finanzas u otros que, si son negados o fallan tendrán un impacto importante en la vida diaria de su usuario. - Se transparente al utilizar bots como parte de un producto o servicio. Es más probable que los usuarios confíen en una empresa que es transparente sobre el su uso de bots, y es más probable que los usuarios confíen en un bot si entienden que su objetivo es ayudarlos a resolver sus problemas y necesidades, y que es abierto sobre sus capacidades y limitaciones.
- El bot debe tener el apoyo continuo de un supervisor humano, especialmente cuando en la interacción humano-bot llegue a interacciones que excedan la competencia del bot. Si el bot se involucra en interacciones que pueden necesitar criterio humano, hay que asegurar los medios para que pueda tener acceso rápido a un moderador humano.
- Diseña tu bot para que respete las normas culturales y que no sea utilizado de forma indebida. Debido a que que los bots pueden tener una personalidad de tipo humano, es muy importante que interactúen con respeto con sus usuarios y que tenga protecciones y protocolos incorporados para evitar y gestionar su mal uso y abuso.
- El bot debe ser tan confiable como sea posible. Realiza pruebas para asegurarte de que el bot puede realizar de manera confiable la función que se pretende que realice. Hay que tener en cuenta todo el tiempo que, debido a que los sistemas de Inteligencia Artificial son probabilísticos, no siempre proporcionarán la respuesta correcta. Es recomendable definir métricas que sirvan para medir la eficiencia del bot y revisarlas con frecuencia.
- El bot debe tratar a sus usuarios con respeto.
La posibilidad de que los sistemas basados en AI perpetúen prejuicios sociales existentes o que introduzcan nuevos sesgos es una de las principales preocupaciones de la comunidad de AI en la proliferación de sistemas inteligentes. Es responsabilidad de los diseñadores y desarrolladores asegurarse que sus bots traten a todas las personas de manera correcta. - El bot debe respetar la privacidad del usuario. Las consideraciones de privacidad son especialmente importantes para los bots. Al diseñar e implementar escenarios que requieran personalización, los bots aprenderán mucho sobre sus usuarios. Las personas también pueden compartir más información personal de lo que lo harían si piensan que están interactuando con una persona, y por supuesto, los bots pueden recordar todo. Todo esto (más los requisitos legales) hace que sea especialmente importante diseñar bots pensando en la privacidad del usuario desde el principio. Esto incluye ser abierto con los usuarios sobre la recopilación y el uso de datos personales que hará el bot y que controles ofrece el bot a los usuarios sobre sus datos personales.
- El bot debe manejar la información del usuario de forma segura. Los usuarios tienen todo el derecho de esperar que sus datos se manejen de forma segura. Sigue y aplica buenas prácticas de seguridad (uso de protocolo seguro de comunicación, cifrado de datos, etc.) para la gestión de los datos que manejará el bot.
- El bot debe ser accesible para todos los usuarios. Los bots pueden beneficiar a todos, pero solo si están diseñados para ser inclusivos y accesibles para personas con capacidades físicas limitadas. Es muy importante garantizar que las personas con discapacidades puedan utilizar el bot usando la tecnología y sistemas con los que ya cuentan.
- Acepta la responsabilidad por las acciones y fallas del bot. Estamos muy lejos de que los bots puedan actuar de forma realmente autónoma, si ese día alguna vez llega, los seres humanos son responsables de la operación de los robots. No es aceptable culpar al bot por sus fallas y la responsabilidad cae en sus creadores y administradores.
Además de estas guías, se deben contemplar por separado el impacto de la legislación de cada ciudad y país donde el bot esté disponible, incluyendo los aspectos éticos y legales de privacidad de los usuarios, seguridad, inclusión y transparencia.