{"id":139,"date":"2019-03-19T12:46:32","date_gmt":"2019-03-19T18:46:32","guid":{"rendered":"https:\/\/www.tesseractspace.com\/blog\/?p=139"},"modified":"2019-04-12T17:49:19","modified_gmt":"2019-04-12T22:49:19","slug":"guias-para-el-diseno-etico-de-bots","status":"publish","type":"post","link":"https:\/\/www.tesseractspace.com\/blog\/guias-para-el-diseno-etico-de-bots\/","title":{"rendered":"Gu\u00edas para el dise\u00f1o \u00e9tico de bots"},"content":{"rendered":"\n

Cada vez m\u00e1s personas utilizan Bots, o Inteligencia Artificial Conversacional, ya sea para resolver dudas r\u00e1pidas o para interactuar con servicios digitales. Para explotar el potencial que los bots pueden ofrecen a sus usuarios, debemos dise\u00f1arlos de manera que sean confiables y \u00fatiles.<\/h4>\n\n\n\n

Microsoft<\/strong>, unos de los pioneros en servicios de AI Conversacional<\/strong>, compil\u00f3 una lista con gu\u00edas para dise\u00f1o responsable de bots<\/a> . El prop\u00f3sito de esta gu\u00eda es ayudar a los dise\u00f1adores de bots e interfaces conversacionales a crear plataformas que sean confiables y que representen correctamente al servicio y a la empresa para los que fueran dise\u00f1ados.<\/p>\n\n\n\n

Estas gu\u00edas son m\u00e1s recomendaciones que reglas, y deben usarse con criterio y teniendo en cuenta el contexto en que el bot ser\u00e1 utilizado, teniendo siempre en mente cu\u00e1l es la experiencia que deseamos entregar a nuestros usuarios:<\/p>\n\n\n\n

  1. Articula claramente el prop\u00f3sito del bot y ten cuidado si el bot ser\u00e1 usado para dar seguimiento a una pregunta o a un proceso importante.<\/strong>
    El prop\u00f3sito del bot es fundamental para el proceso de dise\u00f1o \u00e9tico, que es particularmente importante cuando se anticipa que el bot servir\u00e1 para un uso consecuente. Los casos de uso aqu\u00ed incluyen el acceso a servicios de atenci\u00f3n m\u00e9dica, educaci\u00f3n, empleo, finanzas u otros que, si son negados o fallan tendr\u00e1n un impacto importante en la vida diaria de su usuario.<\/li>
  2. Se transparente al utilizar bots como parte de un producto o servicio. <\/strong> Es m\u00e1s probable que los usuarios conf\u00eden en una empresa que es transparente sobre el su uso de bots, y es m\u00e1s probable que los usuarios conf\u00eden en un bot si entienden que su objetivo es ayudarlos a resolver sus problemas y necesidades, y que es abierto sobre sus capacidades y limitaciones.<\/li>
  3. El bot debe tener el apoyo continuo de un supervisor humano, especialmente cuando en la interacci\u00f3n humano-bot llegue a interacciones que excedan la competencia del bot.<\/strong> Si el bot se involucra en interacciones que pueden necesitar criterio humano, hay que asegurar los medios para que pueda tener acceso r\u00e1pido a un moderador humano.<\/li>
  4. Dise\u00f1a tu bot para que respete las normas culturales y que no sea utilizado de forma indebida. <\/strong>Debido a que que los bots pueden tener una personalidad de tipo humano, es muy importante que interact\u00faen con respeto con sus usuarios y que tenga protecciones y protocolos incorporados para evitar y gestionar su mal uso y abuso.<\/li>
  5. El bot debe ser tan confiable como sea posible. <\/strong>Realiza pruebas para asegurarte de que el bot puede realizar de manera confiable la funci\u00f3n que se pretende que realice. Hay que tener en cuenta todo el tiempo que, debido a que los sistemas de Inteligencia Artificial son probabil\u00edsticos, no siempre proporcionar\u00e1n la respuesta correcta. Es recomendable definir m\u00e9tricas que sirvan para medir la eficiencia del bot y revisarlas con frecuencia.<\/li>
  6. El bot debe tratar a sus usuarios con respeto.<\/strong>
    La posibilidad de que los sistemas basados en AI perpet\u00faen prejuicios sociales existentes o que introduzcan nuevos sesgos es una de las principales preocupaciones de la comunidad de AI en la proliferaci\u00f3n de sistemas inteligentes. Es responsabilidad de los dise\u00f1adores y desarrolladores asegurarse que sus bots traten a todas las personas de manera correcta. <\/li>
  7. El bot debe respetar la privacidad del usuario.<\/strong> Las consideraciones de privacidad son especialmente importantes para los bots. Al dise\u00f1ar e implementar escenarios que requieran personalizaci\u00f3n, los bots aprender\u00e1n mucho sobre sus usuarios. Las personas tambi\u00e9n pueden compartir m\u00e1s informaci\u00f3n personal de lo que lo har\u00edan si piensan que est\u00e1n interactuando con una persona, y por supuesto, los bots pueden recordar todo. Todo esto (m\u00e1s los requisitos legales) hace que sea especialmente importante dise\u00f1ar bots pensando en la privacidad del usuario desde el principio. Esto incluye ser abierto con los usuarios sobre la recopilaci\u00f3n y el uso de datos personales que har\u00e1 el bot y que controles ofrece el bot a los usuarios sobre sus datos personales.<\/li>
  8. El bot debe manejar la informaci\u00f3n del usuario de forma segura.<\/strong> Los usuarios tienen todo el derecho de esperar que sus datos se manejen de forma segura. Sigue y aplica buenas pr\u00e1cticas de seguridad (uso de protocolo seguro de comunicaci\u00f3n, cifrado de datos, etc.) para la gesti\u00f3n de los datos que manejar\u00e1 el bot.<\/li>
  9. El bot debe ser accesible para todos los usuarios. <\/strong>Los bots pueden beneficiar a todos, pero solo si est\u00e1n dise\u00f1ados para ser inclusivos y accesibles para personas con capacidades f\u00edsicas limitadas. Es muy importante garantizar que las personas con discapacidades puedan utilizar el bot usando la tecnolog\u00eda y sistemas con los que ya cuentan.<\/li>
  10. Acepta la responsabilidad por las acciones y fallas del bot. <\/strong>Estamos muy lejos de que los bots puedan actuar de forma realmente aut\u00f3noma, si ese d\u00eda alguna vez llega, los seres humanos son responsables de la operaci\u00f3n de los robots. No es aceptable culpar al bot por sus fallas y la responsabilidad cae en sus creadores y administradores. <\/li><\/ol>\n\n\n\n

    Adem\u00e1s de estas gu\u00edas, se deben contemplar por separado el impacto de la legislaci\u00f3n de cada ciudad y pa\u00eds donde el bot est\u00e9 disponible, incluyendo los aspectos \u00e9ticos y legales de privacidad de los usuarios, seguridad, inclusi\u00f3n y transparencia.<\/p>\n","protected":false},"excerpt":{"rendered":"

    Cada vez m\u00e1s personas utilizan Bots, o Inteligencia Artificial Conversacional, ya sea para resolver dudas r\u00e1pidas o para interactuar con servicios digitales. Para explotar el potencial que los bots pueden ofrecen a sus usuarios, debemos dise\u00f1arlos de manera que sean confiables y \u00fatiles.<\/p>\n","protected":false},"author":1,"featured_media":140,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[69],"tags":[67,65,75,76,73,74],"class_list":["post-139","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-diseno","tag-ai","tag-bots","tag-chat","tag-etica","tag-guias","tag-microsoft","entry"],"jetpack_featured_media_url":"https:\/\/i0.wp.com\/www.tesseractspace.com\/blog\/wp-content\/uploads\/2019\/03\/bots.png?fit=640%2C358&ssl=1","jetpack_sharing_enabled":true,"amp_enabled":true,"_links":{"self":[{"href":"https:\/\/www.tesseractspace.com\/blog\/wp-json\/wp\/v2\/posts\/139","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.tesseractspace.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.tesseractspace.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.tesseractspace.com\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.tesseractspace.com\/blog\/wp-json\/wp\/v2\/comments?post=139"}],"version-history":[{"count":3,"href":"https:\/\/www.tesseractspace.com\/blog\/wp-json\/wp\/v2\/posts\/139\/revisions"}],"predecessor-version":[{"id":404,"href":"https:\/\/www.tesseractspace.com\/blog\/wp-json\/wp\/v2\/posts\/139\/revisions\/404"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.tesseractspace.com\/blog\/wp-json\/wp\/v2\/media\/140"}],"wp:attachment":[{"href":"https:\/\/www.tesseractspace.com\/blog\/wp-json\/wp\/v2\/media?parent=139"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.tesseractspace.com\/blog\/wp-json\/wp\/v2\/categories?post=139"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.tesseractspace.com\/blog\/wp-json\/wp\/v2\/tags?post=139"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}