6.1: Palabras clave y definiciones

Algoritmo — el conjunto de reglas lógicas utilizadas para organizar y actuar sobre un cuerpo de datos para resolver un problema o para lograr una meta que suele ser llevada a cabo por una máquina. Un algoritmo generalmente se modela, se entrena en un cuerpo de datos y luego se ajusta a medida que se examinan los resultados. Debido a que los algoritmos generalmente son procesados por computadoras y siguen instrucciones lógicas, la gente suele pensar en ellos como neutrales o libres de valor, pero las decisiones tomadas por los humanos a medida que diseñan y modifican un algoritmo y los datos sobre los que se entrena un algoritmo pueden introducir sesgos humanos que pueden agravarse en escala. Los humanos que interactúan con un algoritmo también pueden encontrar formas de influir en los resultados, como cuando un comercializador encuentra formas de impulsar un sitio web en los resultados de una búsqueda a través de la optimización de motores de búsqueda (SEO).

Justicia algorítmica: la aplicación de principios de justicia social y ética aplicada al diseño, despliegue, regulación y uso continuo de sistemas algorítmicos para reducir el potencial de daño. La justicia algorítmica promueve la conciencia y sensibilidad entre los codificadores y el público en general sobre cómo las prácticas de recolección de datos, el aprendizaje automático, la IA y los algoritmos pueden codificar y exacerbar la desigualdad y la discriminación.

Algorítmica: un subconjunto de alfabetización informacional, alfabetización algorítmica es una conciencia crítica de qué son los algoritmos, cómo interactúan con los datos de comportamiento humano en los sistemas de información y una comprensión de los problemas sociales y éticos relacionados con su uso.

Inteligencia artificial (IA): una rama de la informática que desarrolla formas para que las computadoras simulen un comportamiento inteligente similar al humano, capaz de interpretar y absorber nueva información para mejorar la resolución de problemas y reconocer patrones. Los ejemplos incluyen robots de entrenamiento, reconocimiento de voz, reconocimiento facial e identificación de objetos como señales de tráfico, árboles y seres humanos necesarios para los autos autónomos. La IA depende de las capacidades de aprendizaje automático y los datos de entrenamiento. Los seres humanos participan en la creación o recopilación de conjuntos de datos de capacitación (por ejemplo, emplear trabajadores de bajos salarios en el extranjero para identificar objetos en las pantallas de las computadoras para proporcionar datos para la navegación autónoma de vehículos). El sesgo puede integrarse en el aprendizaje automático (por ejemplo, mediante el uso de conjuntos de datos de justicia penal para la evaluación de riesgos en la vigilancia predictiva). Las máquinas pueden ser entrenadas para aprender de la experiencia pero el sentido común y reconocer el contexto son difíciles, limitando así la capacidad de los programas de computadora para realizar tareas como distinguir el discurso de odio del humor coloquial o el sarcasmo.

Economía de la atención — dado que nuestra atención es un recurso limitado y cada persona sólo tiene mucho de él, las empresas (tanto plataformas como personas que utilizan las plataformas para vender, entretener o persuadir) tratan de atraer y mantener la atención de la gente. Esto premia a clickbait e influye en el diseño de algoritmos y plataformas para maximizar el tiempo que se pasa en línea.

Big data: un conjunto de capacidades tecnológicas desarrolladas en los últimos años que, cuando se usan en combinación, permiten la recopilación y procesamiento continuos de grandes volúmenes de datos de grano fino y exhaustivos extraídos de múltiples fuentes para combinarse y analizarse continuamente.

Extracción de datos: información generada incidentalmente a medida que las personas usan computadoras, transportan teléfonos celulares o tienen su comportamiento capturado a través de la vigilancia que se vuelve valiosa cuando se adquiere, combina y analiza con gran detalle a alta velocidad.

Aprendizaje automático: el uso de algoritmos, conjuntos de datos y modelado estadístico para construir modelos que puedan reconocer patrones para hacer predicciones e interpretar nuevos datos. El propósito del aprendizaje automático es permitir que las computadoras automaticen la creación de modelos analíticos para que las computadoras puedan aprender de los datos con poca intervención humana.

Personalización: el proceso de mostrar resultados de búsqueda o modificar el comportamiento de una plataforma en línea para que coincida con las preferencias expresadas o presuntas de un individuo, establecido a través de la creación de perfiles digitales y el uso de esos datos para predecir si y cómo actuará un individuo información seleccionada algorítmicamente. Este proceso impulsa la publicidad digital dirigida y ha sido culpado por exacerbar los silos de información, contribuyendo a la polarización política y al flujo de desinformación. Irónicamente, considerar la información “personal” implica que es privada, pero la personalización despoja sistemáticamente a sus objetivos de privacidad.

Plataforma: un término ambiguo que significa tanto el software utilizado en computadoras personales como el software implementado en línea para proporcionar un servicio, como búsqueda en la web, compartir videos, compras o interacción social. A menudo, estos sistemas utilizan algoritmos patentados para mediar el flujo de información al tiempo que permiten a terceros desarrollar aplicaciones, publicidad y contenido, convirtiéndose así en espacios digitales para el desempeño individual de la identidad en línea, la persuasión basada en datos (comercial y política) y la formación de grupos a través de la interacción social. En este reporte, usamos el término para referirnos a “gigantes de internet” como Google, YouTube, Instagram y Facebook y otros mencionados por los estudiantes en nuestras sesiones de grupos focales.