4.7: Momin Malik
- Page ID
- 90631
\( \newcommand{\vecs}[1]{\overset { \scriptstyle \rightharpoonup} {\mathbf{#1}} } \)
\( \newcommand{\vecd}[1]{\overset{-\!-\!\rightharpoonup}{\vphantom{a}\smash {#1}}} \)
\( \newcommand{\id}{\mathrm{id}}\) \( \newcommand{\Span}{\mathrm{span}}\)
( \newcommand{\kernel}{\mathrm{null}\,}\) \( \newcommand{\range}{\mathrm{range}\,}\)
\( \newcommand{\RealPart}{\mathrm{Re}}\) \( \newcommand{\ImaginaryPart}{\mathrm{Im}}\)
\( \newcommand{\Argument}{\mathrm{Arg}}\) \( \newcommand{\norm}[1]{\| #1 \|}\)
\( \newcommand{\inner}[2]{\langle #1, #2 \rangle}\)
\( \newcommand{\Span}{\mathrm{span}}\)
\( \newcommand{\id}{\mathrm{id}}\)
\( \newcommand{\Span}{\mathrm{span}}\)
\( \newcommand{\kernel}{\mathrm{null}\,}\)
\( \newcommand{\range}{\mathrm{range}\,}\)
\( \newcommand{\RealPart}{\mathrm{Re}}\)
\( \newcommand{\ImaginaryPart}{\mathrm{Im}}\)
\( \newcommand{\Argument}{\mathrm{Arg}}\)
\( \newcommand{\norm}[1]{\| #1 \|}\)
\( \newcommand{\inner}[2]{\langle #1, #2 \rangle}\)
\( \newcommand{\Span}{\mathrm{span}}\) \( \newcommand{\AA}{\unicode[.8,0]{x212B}}\)
\( \newcommand{\vectorA}[1]{\vec{#1}} % arrow\)
\( \newcommand{\vectorAt}[1]{\vec{\text{#1}}} % arrow\)
\( \newcommand{\vectorB}[1]{\overset { \scriptstyle \rightharpoonup} {\mathbf{#1}} } \)
\( \newcommand{\vectorC}[1]{\textbf{#1}} \)
\( \newcommand{\vectorD}[1]{\overrightarrow{#1}} \)
\( \newcommand{\vectorDt}[1]{\overrightarrow{\text{#1}}} \)
\( \newcommand{\vectE}[1]{\overset{-\!-\!\rightharpoonup}{\vphantom{a}\smash{\mathbf {#1}}}} \)
\( \newcommand{\vecs}[1]{\overset { \scriptstyle \rightharpoonup} {\mathbf{#1}} } \)
\( \newcommand{\vecd}[1]{\overset{-\!-\!\rightharpoonup}{\vphantom{a}\smash {#1}}} \)
Becario postdoctoral de investigación en ciencia de datos Berkman Klein Center for Internet & Society, Universidad de Harvard https://www.mominmalik.com/
Una función central de las humanidades y la educación en ciencias sociales es revelar e interrogar las categorías, conceptos y lógicas por las cuales damos sentido y actuamos en el mundo. El aprendizaje automático es cosificar una lógica específica: la de las correlaciones estadísticas, sin consideración de causalidad o significado, un punto perdido en medio del enfoque en los “algoritmos” que calculan y aplican estas correlaciones. La tarea de la educación superior ahora tendrá que comprometerse con los límites de esta lógica. Para citar a William Bruce Cameron sobre cómo “no todo lo que se puede contar cuenta, y no todo lo que cuenta se puede contar”, la vieja máxima de que “la correlación no implica causalidad”, y George E. P. Box sobre cómo “todos los modelos están equivocados pero algunos son útiles”, podemos considerar cuándo, cómo, para qué y para quién es útil para ver el mundo sólo a través de correlaciones entre cantidades medibles.
Por ejemplo, la “solvencia” es una idea abstracta, ni lo mismo que el reembolso futuro del préstamo, ni del comportamiento de amortización pasado: podemos imaginar fácilmente a una persona financieramente responsable cuyas circunstancias, sin embargo, evitarían el reembolso y se correlacionan con otras como “morosidad”. ¿Esa persona debe ser considerada o no digna de crédito? El uso del aprendizaje automático para decidir obliga a una respuesta: Lo único que importa es lo que se correlaciona con el comportamiento agregado del pasado. La intención, el esfuerzo, la individualidad y las circunstancias no importan, ya que no existen en los datos. Tampoco las relaciones causales, como se estudiaron en econometría, ni la validez de medición, como las estudiadas por la psicometría (ambos campos estadísticos con su propia estrechez y legado de racismo y desigualdad), ni la posibilidad de que se jueguen sistemas, en la medida en que limitan la complejidad de las correlaciones que pueden ser considerado.
Articular y desafiar los marcos de los sistemas “algorítmicos” fomentará la deliberación sobre los tipos de usos que aceptaremos, y lo que organizaremos para rechazar.