Directrices para la implementación responsable de PersonalizerGuidelines for responsible implementation of Personalizer

Para que los usuarios y la sociedad comprendan todo el potencial de la inteligencia artificial, las implementaciones se deben diseñar de modo que se ganen la confianza de aquellos que agregan la inteligencia artificial a sus aplicaciones y la de los usuarios de las aplicaciones compiladas con esta.For people and society to realize the full potential of AI, implementations need to be designed in such a way that they earn the trust of those adding AI to their applications and the users of applications built with AI. Estas instrucciones están pensadas para ayudarle a implementar la Personalizer de forma que le ayude a generar confianza en su empresa y servicio.These guidelines are aimed at helping you to implement Personalizer in a way that helps you build trust in your company and service. Tómese un tiempo para investigar, conocer y deliberar sobre el impacto de la personalización en la vida de las personas.Be sure to pause to research, learn and deliberate on the impact of the personalization on people’s lives. En caso de duda, busque orientación.When in doubt, seek guidance.

Estas directrices no están pensadas para proporcionar asesoramiento legal y debería asegurarse por otro medio de que la aplicación cumple los cambiantes requisitos legales de esta área y del sector.These guidelines are not intended as legal advice and you should separately ensure that your application complies with the fast-paced developments in the law in this area and in your sector.

Además, al diseñar la aplicación mediante Personalizer, debe tener en cuenta una serie de responsabilidades a la hora de desarrollar cualquier sistema de inteligencia artificial basado en datos, entre las que se incluyen temas éticos, de seguridad, inclusión, transparencia y responsabilidad.Also, in designing your application using Personalizer, you should consider a broad set of responsibilities you have when developing any data-centric AI system, including ethics, privacy, security, safety, inclusion, transparency and accountability. Puede leer más acerca de estos temas en la sección de lecturas recomendadas.You can read more about these in the Recommended reading section.

Puede usar el siguiente contenido como lista de comprobación inicial y personalizarlo y mejorarlo para adaptarlo a su escenario.You can use the following content as a starter checklist, and customize and refine it to your scenario. Este documento incluye dos secciones principales: La primera está dedicada a resaltar consideraciones de uso responsables a la hora de elegir escenarios, características y recompensas para Personalizer.This document has two main sections: The first is dedicated to highlighting responsible use considerations when choosing scenarios, features and rewards for Personalizer. La segunda toma un conjunto de valores que Microsoft cree que se deben tener en cuenta al crear sistemas de inteligencia artificial y proporciona sugerencias prácticas sobre cómo el uso de Personalizer les afecta y habla también de los posibles riesgos.The second take a set of values Microsoft believes should be considered when building AI systems, and provides actionable suggestions and risks on how your use of Personalizer influences them.

Su responsabilidadYour responsibility

Todas las directrices de una implementación responsable se basan en que los desarrolladores y las empresas que usan Personalizer son responsables de los efectos del uso de estos algoritmos en la sociedad.All guidelines for responsible implementation build on the foundation that developers and businesses using Personalizer are responsible and accountable for the effects of using these algorithms in society. Si va a desarrollar una aplicación para que la implemente la organización, debe reconocer su papel y su responsabilidad en cuanto a su funcionamiento y a cómo afecta a los usuarios.If you are developing an application that your organization will deploy, you should recognize your role and responsibility for its operation and how it affects people. Si va a desarrollar una aplicación para que la implemente un tercero, acuerde con ellos quién es responsable en última instancia del comportamiento de la aplicación y ponga por escrito ese acuerdo.If you are designing an application to be deployed by a third party, come to a shared understanding with them of who is ultimately responsible for the behavior of the application, and document that understanding.

La confianza se basa en la noción de compromisos cumplidos: tenga en cuenta a los usuarios, la sociedad y el marco legal en el que funcionarán sus aplicaciones para identificar los compromisos explícitos e implícitos que pueden tener.Trust is built on the notion of fulfilled commitments - consider your users, society, and the legal framework your applications works in, to identify explicit and implicit commitments they may have.

Microsoft se esfuerza constantemente en mejorar sus documentos y herramientas para ayudarle a actuar en relación con estas responsabilidades.Microsoft is continuously putting effort into its tools and documents to help you act on these responsibilities. Proporcione comentarios a Microsoft si cree que hay herramientas, características de productos y documentos adicionales que le ayudarían a implementar estas directrices de uso de Personalizer.Provide feedback to Microsoft if you believe additional tools, product features and documents would help you implement these guidelines for using Personalizer.

Factores para la implementación responsable de PersonalizerFactors for responsibly implementing Personalizer

La implementación de Personalizer puede ser de gran valor para los usuarios y para su negocio.Implementing Personalizer can be of great value to your users and your business. Para implementar Personalizer de forma responsable, empiece teniendo en cuenta las siguientes directrices:To implement Personalizer responsibly, start by considering the following guidelines when:

  • Al elegir los casos de uso a los que aplicar la personalización.Choosing use cases to apply Personalization.
  • Al generar funciones de recompensa.Building reward functions.
  • Al elegir las características del contexto y las posibles acciones que usará para la personalización.Choosing which features about the context and possible actions you will use for personalization.

Elección de los casos de uso para PersonalizerChoosing use cases for Personalizer

El uso de un servicio que aprende a personalizar contenido e interfaces de usuario resulta útil.Using a service that learns to personalize content and user interfaces is useful. También se pueden aplicar de forma incorrecta si la aplicación genera efectos secundarios negativos en el mundo real, incluyendo el hecho de que los usuarios no sean conscientes de la personalización del contenido.It can also be misapplied if the way the personalization creates negative side effects in the real world, including if users are unaware of content personalization.

Entre los ejemplos de usos de Personalizer con una posibilidad elevada de efectos secundarios negativos o una falta de transparencia se incluyen los escenarios en los que la "recompensa" depende de muchos factores complejos a largo plazo que, cuando se simplifican en una recompensa inmediata pueden tener resultados desfavorables para los usuarios.Examples of uses of Personalizer with heightened potential for negative side effects or a lack of transparency include scenarios where the "reward" depends on many long-term complex factors that, when over-simplified into an immediate reward can have unfavorable results for individuals. Estas opciones se suelen considerar como "consecuencias indirectas" u opciones que conllevan un riesgo de perjuicio.These tend to be considered “consequential” choices, or choices that involve a risk of harm. Por ejemplo:For example:

  • Finanzas: La personalización de ofertas en préstamos, productos financieros o de seguros en los que los factores de riesgo se basan en datos que los individuos no conocen, no pueden obtener ni pueden impugnar.Finance: Personalizing offers on loan, financial, and insurance products, where risk factors are based on data the individuals don't know about, can't obtain, or can't dispute.
  • Educación: La personalización de la clasificación de cursos escolares e instituciones educativas en los que las recomendaciones pueden contribuir a propagar prejuicios o a reducir el conocimiento de los usuarios del resto de opciones.Education: Personalizing ranks for school courses and education institutions where recommendations may propagate biases and reduce users' awareness of other options.
  • Democracia y participación cívica: La personalización de contenido para usuarios con el objetivo de influenciar opiniones es consecuente y manipuladora.Democracy and Civic Participation: Personalizing content for users with the goal of influencing opinions is consequential and manipulative.
  • Evaluación de recompensas por parte de terceros: La personalización de elementos en los que la recompensa se basa en una evaluación del usuario por parte de terceros en lugar de tener una recompensa generada por el propio comportamiento del usuario.Third-party reward evaluation: Personalizing items where the reward is based on a latter 3rd party evaluation of the user, instead of having a reward generated by the user's own behavior.
  • Intolerancia a la exploración: Cualquier situación en la que el comportamiento de exploración de Personalizer sea perjudicial.Intolerance to Exploration: Any situation where the exploration behavior of Personalizer may cause harm.

Al elegir los casos de uso para Personalizer:When choosing use cases for Personalizer:

  • Inicie el proceso de diseño analizando cómo la personalización ayuda a los usuarios.Start the design process considering how the personalization helps your users.
  • Tenga en cuenta las consecuencias negativas en el mundo real en caso de que algunos elementos no estén correctamente ordenados para los usuarios debido a patrones de personalización o exploración específicos.Consider the negative consequences in the real world if some items aren't ranked for users due to personalization patterns or exploration.
  • Considere si su caso de uso constituye un procesamiento automatizado que afecta de forma significativa a los asuntos de datos regulados en el Artículo 22 de GDPR u otras leyes.Consider whether your use case constitutes automated processing which significantly affects data subjects that is regulated under GDPR Article 22 or other laws.
  • Considere la posibilidad de crear bucles de profecías que se cumplen automáticamente.Consider self-fulfilling prophecy loops. Se puede dar este caso si una recompensa de personalización entrena un modelo de forma que este pueda excluir posteriormente a un grupo demográfico del acceso a contenido pertinente.This may happen if a personalization reward trains a model so it may subsequently further exclude a demographic group from accessing relevant content. Por ejemplo, la mayoría de las personas de un barrio pobre no reciben ofertas de seguros premium por lo que, poco a poco, las personas del barrio dejan de mirar dichas ofertas por completo, si no hay suficiente exploración.For example, most people in a low-income neighborhood don't obtain a premium insurance offer, and slowly nobody in the neighborhood tends to see the offer at all if there isn't enough exploration.
  • Guarde copias de los modelos y de las directivas de aprendizaje en caso de que sean necesarias para reproducir Personalizer en el futuro.Save copies of models and learning policies in case it is necessary to reproduce Personalizer in the future. Puede hacerlo periódicamente o en cada período de actualización del modelo.You can do this periodically or every model refresh period.
  • Considere el nivel de exploración adecuado para el espacio y cómo usarlo como herramienta para mitigar los efectos tipo "cámara de eco".Consider the level of exploration adequate for the space and how to use it as a tool to mitigate "echo chamber" effects.

Selección de características para PersonalizerSelecting features for Personalizer

La personalización del contenido depende del hecho de tener información útil sobre el contenido y el usuario.Personalizing content depends on having useful information about the content and the user. Tenga en cuenta que, para algunas aplicaciones y sectores, algunas características de usuario se pueden considerar directa o indirectamente como discriminatorias y potencialmente ilegales.Keep in mind, for some applications and industries, some user features can be directly or indirectly considered discriminatory and potentially illegal.

Analice el efecto de estas características:Consider the effect of these features:

  • Datos demográficos de los usuarios: Características relacionadas con el género, edad, raza, religión: Puede que estas características no se permitan en determinadas aplicaciones por motivos legales y que no sea ético personalizar el contenido mediante su uso ya que la personalización podría propagar generalizaciones y prejuicios.User demographics: Features regarding sex, gender, age, race, religion: These features may be not allowed in certain applications for regulatory reasons, and it may not be ethical to personalize around them because the personalization would propagate generalizations and bias. Un ejemplo de esta propagación de prejuicios sería una oferta de trabajo de ingeniería que no se les muestra a personas mayores ni a audiencias con determinado género.An example of this bias propagation is a job posting for engineering not being shown to elderly or gender-based audiences.
  • Información regional: En muchos lugares del mundo, la información de ubicación (por ejemplo, un código postal o el nombre del barrio) puede estar muy relacionada con el nivel de ingresos, la raza o la religión.Locale information: In many places of the world, location information (such as a zip code, postal code, or neighborhood name) can be highly correlated with income, race and religion.
  • Percepción de la imparcialidad por parte del usuario: Incluso en aquellos casos en los que la aplicación está tomando decisiones firmes, considere el efecto en usuarios que perciben que el contenido mostrado en la aplicación cambia de una forma que parece estar relacionada con características que podrían considerarse como discriminatorias.User Perception of Fairness: Even in cases where your application is making sound decisions, consider the effect of users perceiving that content displayed in your application changes in a way that appears to be correlated to features that would be discriminatory.
  • Prejuicios no intencionados en las características: Hay tipos de prejuicios que se pueden introducir con el uso de características que solo afectan a un subconjunto de la población.Unintended Bias in Features: There are types of biases that may be introduced by using features that only affect a subset of the population. Esto requiere una atención adicional si las características se generan de forma algorítmica, como cuando se usa el análisis de imágenes para extraer los elementos de una imagen o el análisis de texto para detectar las entidades de este.This requires extra attention if features are being generated algorithmically, such as when using image analysis to extract items in a picture or text analytics to discover entities in text. Sea consciente de las características de los servicios que usa para crear estas características.Make yourself aware of the characteristics of the services you use to create these features.

Aplique los siguientes procedimientos al elegir las características que se van a enviar en contextos y acciones a Personalizer:Apply the following practices when choosing features to send in contexts and actions to Personalizer:

  • Tenga en cuenta la legalidad y la ética que implica el uso de determinadas características en algunas aplicaciones y si características aparentemente inocentes podrían constituir indicadores discriminatorios para otros usuarios, indicadores que puede que quiera usar o evitar.Consider the legality and ethics of using certain features for some applications, and whether innocent-looking features may be proxies for others you want to or should avoid,
  • Sea transparente con los usuarios a la hora de explicarles los algoritmos y el análisis de datos que se usa para personalizar las opciones que ellos ven.Be transparent to users that algorithms and data analysis are being used to personalize the options they see.
  • Pregúntese lo siguiente: ¿Les importaría a mis usuarios si uso esta información para personalizar el contenido para ellos? ¿Serían más felices si lo hago?Ask yourself: Would my users care and be happy if I used this information to personalize the content for them? ¿Me sentiría cómodo explicándoles cómo se tomó la decisión de mostrar u ocultar determinados elementos?Would I feel comfortable showing them how the decision was made to highlight or hide certain items?
  • Use datos de comportamiento en lugar de datos de clasificaciones o segmentaciones basados en otras características.Use behavioral rather than classification or segmentation data based on other characteristics. Los distribuidores solían usar tradicionalmente la información demográfica por motivos históricos: los atributos demográficos eran sencillos de recopilar y de trabajar con ellos antes de la era digital, pero pregúntese cómo de pertinente es la información demográfica cuando dispone de datos de interacciones reales, contextuales e históricos más relacionados con las preferencias e identidades de los usuarios.Demographic information was traditionally used by retailers for historical reasons – demographic attributes seemed simple to collect and act upon before a digital era, - but question how relevant demographic information is when you have actual interaction, contextual, and historical data that relates more closely to the preferences and identity of users.
  • Analice cómo impedir que las características sean "falsificadas" por usuarios malintencionados, ya que si se aprovechan de ellas en gran número podrían provocar que el entrenamiento de Personalizer fuera incorrecto para interrumpir, molestar e incluso acosar a propósito a determinadas clases de usuario.Consider how to prevent features from being 'spoofed' by malicious users, which if exploited in large numbers can lead to training Personalizer in misleading ways to purposefully disrupt, embarrass and harass certain classes of users.
  • Si es apropiado y posible, diseñe la aplicación para permitir que los usuarios decidan si se deben usar o no determinadas características personales.When appropriate and feasible, design your application to allow your users to opt in or opt out of having certain personal features used. Estas se podrían agrupar en epígrafes como, por ejemplo: "Información de ubicación", "Información de dispositivo", "Historial de compra anterior" etc.These could be grouped, such as "Location information", "Device Information", "Past Purchase History" etc.

Procesamiento de recompensas para PersonalizerComputing rewards for Personalizer

Personalizer se esfuerza por mejorar la elección de qué acción va a recompensar en función de la puntuación de recompensa que proporciona la lógica de negocios de la aplicación.Personalizer strives to improve the choice of which action to reward based on the reward score provided by your application business logic.

Una puntuación de recompensa bien desarrollada puede convertirse en un obstáculo para un objetivo empresarial ligado a una misión de la organización.A well-built reward score will act as a short-term proxy to a business goal, that is tied to an organization's mission.

Por ejemplo, si se recompensa por el número de clics esto hará que el servicio Personalizer analice el número de clics a costa de todo lo demás, incluso si aquello en lo que se hace clic puede distraer o no está ligado a un objetivo empresarial.For example, rewarding on clicks will make the Personalizer Service seek clicks at the expense of everything else, even if what is clicked on is distracting or not tied to a business outcome.

En el extremo opuesto, por ejemplo, un sitio web de noticias puede que desee establecer las recompensas ligadas a algo más significativo que el número de clics como, por ejemplo, "¿Ha pasado el usuario el tiempo suficiente como para leer el contenido?".As a contrasting example, a news site may want to set rewards tied to something more meaningful than clicks, such as "Did the user spend enough time to read the content?" "¿Han hecho clic en los artículos o referencias pertinentes?"."Did they click on relevant articles or references?". Con Personalizer es fácil asociar las métricas estrechamente a las recompensas.With Personalizer it is easy to tie metrics closely to rewards. Pero tenga cuidado de no confundir la involucración del usuario a corto plazo con buenos resultados.But be careful not to confound short-term user engagement with good outcomes.

Consecuencias no intencionadas de las puntuaciones de recompensaUnintended consequences from reward scores

Las puntuaciones de recompensa se pueden diseñar con la mejor de las intenciones pero generar, aún así, consecuencias imprevistas o resultados no intencionados en la manera en que Personalizer clasifica el contenido.Reward scores may be built with the best of intentions, but can still create unexpected consequences or unintended results on how Personalizer ranks content.

Considere los ejemplos siguientes:Consider the following examples:

  • Una recompensa de personalización de contenido de vídeo basada en el porcentaje de minutos de vídeo vistos tenderá, probablemente, a clasificar en primer lugar los vídeos más cortos.Rewarding video content personalization on the percentage of the video length watched will probably tend to rank shorter videos.
  • Recompensar los recursos compartidos a través de las redes sociales sin un análisis de opinión de cómo se comparte o del contenido en sí, podría provocar que se clasificara en primer lugar contenido ofensivo, sin moderador o incluso provocador, lo cual suele incitar a mucha "involucración", pero agrega poco valor.Rewarding social media shares, without sentiment analysis of how it's shared or the content itself, may lead to ranking offensive, unmoderated, or inflammatory content, which tends to incite a lot of "engagement", but adds little value.
  • Recompensar según los elementos de la interfaz de usuario que los usuarios no esperan que cambien puede interferir con la usabilidad y predictibilidad de una interfaz de usuario en la que los botones cambian sorprendentemente de ubicación o de propósito sin previo aviso, lo cual dificulta a determinados grupos de usuarios que sean productivos.Rewarding the action on user interface elements that users don't expect to change may interfere with the usability and predictability of the user interface, where buttons are surprisingly changing location or purpose without warning, making it harder for certain groups of users to stay productive.

Implemente estos procedimientos recomendados:Implement these best practices:

  • Realice varios experimentos sin conexión con el sistema usando diferentes enfoques de recompensas para comprender el impacto y los posibles efectos secundarios.Run offline experiments with your system using different reward approaches to understand impact and side-effects.
  • Evalúe las funciones de recompensa y pregúntese a sí mismo si una persona extremadamente inocente podría malinterpretar el contenido y alcanzar resultados no deseados.Evaluate your reward functions and ask yourself how would an extremely naïve person bend its interpretation and reach undesirable outcomes with it.

Consideraciones de diseño responsableResponsible design considerations

Las siguientes son áreas de diseño para implementaciones responsables de inteligencia artificial.The following are areas of design for responsible implementations of AI. Para más información sobre este marco de trabajo, consulte The Future Computed (El futuro calculado).Learn more abut this framework in The Future Computed.

Valores de inteligencia artificial extraídos de "The Future Computed" (El futuro calculado)

Rendición de cuentasAccountability

Las personas que diseñan e implementan sistemas de inteligencia artificial deben ser responsables de su funcionamiento.People who design and deploy AI Systems must be accountable for how their systems operate.

  • Cree directrices internas sobre cómo implementar Personalizer, documéntelas y comuníquelas a su equipo, directivos y proveedores.Create internal guidelines on how to implement Personalizer, document, and communicate them to your team, executives, and suppliers.
  • Realice revisiones periódicas sobre cómo se calculan las puntuaciones de recompensa, realice evaluaciones sin conexión para ver qué características están afectando a Personalizer y utilice los resultados para eliminar las características innecesarias.Perform periodic reviews of how reward scores are computed, perform offline evaluations to see what features are affecting Personalizer, and use the results to eliminate unneeded and unnecessary features.
  • Comunique claramente a los usuarios cómo se utiliza Personalizer, con qué finalidad y con qué datos.Communicate clearly to your users how Personalizer is used, to what purpose, and with what data.
  • Archive la información y los recursos como, por ejemplo, los modelos, las directivas de aprendizaje y el resto de la información que usa Personalizer, para que se puedan reproducir los resultados.Archive information and assets - such as models, learning policies, and other data - that Personalizer uses to function, to be able to reproduce results.

TransparenciaTransparency

Los sistemas de inteligencia artificial debe ser comprensibles.AI Systems Should be Understandable. Con Personalizer:With Personalizer:

  • Proporcione a los usuarios información acerca de cómo se ha personalizado el contenido.Give users information about how the content was personalized. Por ejemplo, puede mostrar a los usuarios un botón con la etiqueta Why These Suggestions? que muestre indique qué características principales del usuario y qué acciones han desempeñado un rol importante en los resultados de Personalizer.For example, you can show your users a button labeled Why These Suggestions? showing which top features of the user and actions played a role in the results of Personalizer.
  • Asegúrese de que las condiciones de uso mencionen que usará la información de los usuarios y su comportamiento para personalizar la experiencia.Make sure your terms of use make mention that you will use information about users and their behavior to personalize the experience.

ImparcialidadFairness

Los sistemas de inteligencia artificial deben tratar a todas las personas de forma imparcial.AI Systems should treat all people fairly.

  • No use Personalizer para casos de uso en que los resultados sean a largo plazo, indirectos o impliquen daños reales.Don't use Personalizer for use cases where the outcomes are long-term, consequential, or involve real harm.
  • No utilice características que no sean adecuadas para personalizar el contenido o que ayuden a propagar prejuicios no deseados.Don't use features that are not appropriate to personalize content with, or that may help propagate undesired biases. Por ejemplo, cualquier persona con una situación financiera similar debería ver las mismas recomendaciones personalizadas de productos financieros.For example, anyone with similar financial circumstances should see the same personalized recommendations for financial products.
  • Comprenda que los prejuicios pueden existir en características que proceden de editores, herramientas algorítmicas o de los propios usuarios.Understand biases that may exist in features that are sourced from editors, algorithmic tools, or users themselves.

Confiabilidad y seguridadReliability and safety

Los sistemas de inteligencia artificial deben funcionar de forma confiable y segura.AI Systems should perform reliably and safely. Para Personalizer:For Personalizer:

  • No proporcione acciones a Personalizer que no deban elegirse.Don't provide actions to Personalizer that shouldn't be chosen. Por ejemplo, se deben eliminar las películas no apropiadas de las acciones de personalización si va a hacer una recomendación para un usuario anónimo o menor de edad.For example, inappropriately movies should be filtered out of the actions to personalize if making a recommendation for an anonymous or under-age user.
  • Administre el modelo de Personalizer como un recurso empresarial.Manage your Personalizer model as a business asset. Considere la frecuencia con la que guarda y realiza copias de seguridad del modelo y de las directivas de aprendizaje del bucle Personalizer y trate esta información como un importante recurso empresarial.Consider how often to save and back up the model and learning policies behind your Personalizer Loop, and otherwise treat it as an important business asset. Reproducir resultados pasados es importante para un autoservicio de auditoría y para medir las mejoras.Reproducing past results is important for self-audit and measuring improvement.
  • Proporcione canales para obtener comentarios directos de los usuarios.Provide channels to get direct feedback from users. Además de codificar las comprobaciones de seguridad para asegurarse de que solo el público correcto ve el contenido adecuado, proporcione un mecanismo de comentarios para que los usuarios notifiquen contenidos que puedan resultar extraños o desagradables.In addition to coding safety checks to make sure only the right audiences see the right content, provide a feedback mechanism for users to report content that may be surprising or disturbing. Más concretamente, si el contenido procede de otros usuarios o de terceros, considere la posibilidad de usar Microsoft Content Moderator para revisar y validar el contenido.Especially if your content comes from users or 3rd parties, consider using Microsoft Content Moderator or additional tools to review and validate content.
  • Realice evaluaciones sin conexión frecuentes.Perform frequent offline Evaluations. Esto le ayudará a supervisar las tendencias y a garantizar la eficacia.This will help you monitor trends and make sure effectiveness is known.
  • Establezca un proceso para detectar y actuar sobre manipulaciones malintencionadas.Establish a process to detect and act on malicious manipulation. Hay actores que se aprovecharán de la capacidad de los sistemas de aprendizaje automático e inteligencia artificial de aprender a partir del entorno para acercar los resultados hacia sus propios objetivos.There are actors that will take advantage of machine learning and AI systems' ability to learn from their environment to shift the outcome towards their goals. Si el uso de Personalizer puede influir en decisiones importantes, asegúrese de tener los medios adecuados para detectar y mitigar este tipo de ataques incluyendo la revisión humana en las circunstancias adecuadas.If your use of Personalizer is in a position to influence important choices, make sure to have appropriate means to detect and mitigate these classes of attacks, including human review in appropriate circumstances.

Seguridad y privacidadSecurity and privacy

Los sistemas de inteligencia artificial deben ser seguros y respetar la privacidad.AI Systems should be secure and respect privacy. Cuando use Personalizer:When using Personalizer:

  • Informe por adelantado a los usuarios sobre los datos que se recopilarán y cómo se usará y se obtendrá su consentimiento, siguiendo la normativa local y del sector.Inform users up front about the data that is collected and how it is used and obtain their consent beforehand, following your local and industry regulations.
  • Proporcione controles de usuario de protección de la privacidad.Provide privacy-protecting user controls. Para las aplicaciones que almacenan información personal, considere la posibilidad de incluir un botón que sea muy visible para funciones como:For applications that store personal information, consider providing an easy-to-find button for functions such as:
    • Show me all you know about me
    • Forget my last interaction
    • Delete all you know about me

En algunos casos, esto puede constituir una exigencia legal.In some cases, these may be legally required. Considere los inconvenientes de tener que volver a entrenar los modelos periódicamente para que no contengan trazas de datos eliminados.Consider the tradeoffs in retraining models periodically so they don't contain traces of deleted data.

InclusiónInclusiveness

Dé respuesta a una amplia gama de necesidades humanas y experiencias.Address a broad range of human needs and experiences.

  • Proporcione experiencias personalizadas para interfaces habilitadas para accesibilidad.Provide personalized experiences for accessibility-enabled interfaces. La eficacia procedente de una buena personalización (aplicada para reducir la cantidad de esfuerzo, el movimiento y la repetición innecesaria en las interacciones) puede resultar especialmente beneficiosa en el caso de personas con discapacidades.The efficiency that comes from good personalization - applied to reduce the amount of effort, movement, and needless repetition in interactions- can be especially beneficial to people with disabilities.
  • Ajuste el comportamiento de la aplicación al contexto.Adjust application behavior to context. Puede usar Personalizer para eliminar la ambigüedad entre las intenciones de un bot de chat, por ejemplo, la interpretación correcta puede ser contextual y una sola opción podría no ser adecuada para todos los casos.You can use Personalizer to disambiguate between intents in a chat bot, for example, as the right interpretation may be contextual and one size may not fit all.

Preparación proactiva para una mayor protección y gobernanzaProactive readiness for increased data protection and governance

Es difícil predecir cambios específicos en contextos legales pero, en general, sería conveniente ir más allá del marco legal mínimo a la hora de garantizar un uso respetuoso de la información personal y de proporcionar transparencia y opciones relacionadas con la toma de decisiones algorítmica.It is hard to predict specific changes in regulatory contexts, but in general it would be wise to go beyond the minimum legal framework in ensuring respectful use of personal data, and providing transparency and choice related to algorithmic decision making.

  • Considere la posibilidad de planear por anticipado una situación en la que pueda haber nuevas restricciones en los datos que se recopilan de los usuarios y en la que haya una necesidad de explicar cómo se usaron dichos datos para tomar decisiones.Consider planning ahead to a situation where there may be new restrictions on data collected from individuals, and there is a need to show how it was used to make decisions.
  • Considere una disponibilidad adicional en la que los usuarios puedan incluir poblaciones vulnerables marginales, niños, usuarios económicamente vulnerables o cualquier otro usuario susceptible de ser influido por una manipulación algorítmica.Consider extra readiness where users may include marginalized vulnerable populations, children, users in economic vulnerability, or users otherwise susceptible to influence from algorithmic manipulation.
  • Considere la posibilidad de una insatisfacción muy extendida con cómo los programas y algoritmos de recopilación de datos destinados a un público concreto (o para influir en este) se han llevado a cabo y en cómo evitar errores estratégicos ya probados.Consider the widespread dissatisfaction with how audience-targeting and audience-influencing data collection programs and algorithms have played out, and how to avoid proven strategic errors.

Evaluaciones proactivas durante el ciclo de vida del proyectoProactive assessments during your project lifecycle

Analice la posibilidad de crear métodos para que los miembros del equipo, los usuarios y los propietarios de la empresa informen sobre sus preocupaciones acerca de un uso responsable, y de crear un proceso que priorice la resolución de estas e impida las represalias.Consider creating methods for team members, users and business owners to report concerns regarding responsible use, and creating a process that prioritizes their resolution and prevents retaliation.

Toda persona que reflexione sobre los efectos del uso de cualquier tecnología está limitada por su perspectiva y su experiencia de vida.Any person thinking about side effects of use of any technology is limited by their perspective and life experience. Aumente el número de opiniones disponibles incluyendo a voces más diversas en los equipos, grupos de usuarios o consejos consultivos y anime a los usuarios a compartir sus opiniones.Expand the range of opinions available by bringing in more diverse voices into your teams, users, or advisory boards; such that it is possible and encouraged for them to speak up. Considere la posibilidad de usar materiales de formación y de aprendizaje para expandir aún más el conocimiento del equipo sobre esta materia y para agregar una funcionalidad para discutir temas complejos o confidenciales.Consider training and learning materials to further expand the team knowledge in this domain, and to add capability to discuss complex and sensitive topics.

Considere la posibilidad de tratar las tareas relacionadas con un uso responsable de la misma forma que otras tareas transversales del ciclo de vida de la aplicación como, por ejemplo, la tareas relacionadas con la experiencia, la seguridad o las operaciones de desarrollo.Consider treating tasks regarding responsible use just like other crosscutting tasks in the application lifecycle, such as tasks related to user experience, security, or DevOps. Estas tareas y sus requisitos no pueden ser una idea tardía.These tasks and their requirements can't be an afterthought. Se debe analizar y comprobar el uso responsable a lo largo de todo el ciclo de vida de la aplicación.Responsible use should be discussed and verified throughout the application lifecycle.

Preguntas y comentariosQuestions and feedback

Microsoft se esfuerza constantemente en mejorar sus documentos y herramientas para ayudarle a actuar en relación con estas responsabilidades.Microsoft is continuously putting effort into tools and documents to help you act on these responsibilities. Nuestro equipo le anima a que proporcione comentarios a Microsoft si cree que hay herramientas, características de productos y documentos adicionales que le ayudarían a implementar estas directrices de uso de Personalizer.Our team invites you to provide feedback to Microsoft if you believe additional tools, product features, and documents would help you implement these guidelines for using Personalizer.

Pasos siguientesNext steps

Características: acción y contexto.Features: action and context.