Repensar el progreso en la era de la IA

A medida que la inteligencia artificial impregna cada vez más la investigación científica, debemos considerar detenidamente cómo este gran cambio tecnológico puede afectar a la forma en que se produce el conocimiento. Si bien el aprovechamiento de la IA promete nuevas eficiencias y descubrimientos, una adopción irreflexiva corre el riesgo de limitar nuestra comprensión de forma preocupante. Al examinar las motivaciones y visiones que impulsan la adopción de la IA, así como las ilusiones cognitivas que pueden surgir, podemos trabajar para maximizar sus beneficios y mitigar los daños. Nuestro objetivo debe ser utilizar las herramientas de forma inteligente para obtener información, no producir trabajo a ciegas a costa de la comprensión.

Los científicos prevén que la IA adopte muchas formas en el flujo de trabajo de la investigación. Como "Oráculo", escanea vastas literaturas para sugerir nuevas hipótesis más rápido de lo que permiten las mentes humanas. Los "sustitutos" generan datos alternativos para sustituir realidades demasiado difíciles o caras de observar directamente. Los "Quants" aprovechan poderosos patrones nunca vistos por nosotros para analizar gigantescos conjuntos de datos. Los "árbitros" prometen una revisión de manuscritos y subvenciones más objetiva que la que permiten sus sobrecargados colegas. Cada encarnación se basa en las atractivas cualidades de la IA: trabaja incansablemente, supera las capacidades humanas y promete liberar de prejuicios.

Sin embargo, aunque la eficiencia y la escala nos entusiasman, debemos preguntarnos qué se puede perder. Las formas cuantitativas de conocimiento fomentadas por la IA corren el riesgo de marginar cuestiones sensibles y matizadas que se abordan mejor cualitativamente. La estandarización en herramientas optimizadas para la predicción corre el riesgo de descuidar la explicación crucial para la teoría. Los detalles locales válidos arrastrados por la marea de Big Data nos hacen vulnerables. Con herramientas dirigidas por valores mayoritarios, las perspectivas minoritarias corren el riesgo de ser excluidas, lo que reduce el vigor del desafío y el debate científicos.

Además, las propias virtudes de la IA que promueven su adopción -parecer objetiva y comprender infinitamente más que nosotros- pueden cegarnos ante realidades que socavan la comprensión. Al confiar en sustitutos como representaciones completas de la humanidad, pasamos por alto lo que no se ve. Al creer que los modelos cuánticos captan la esencia de la naturaleza mejor de lo que nos permiten nuestras mentes, olvidamos que son construcciones humanas que sólo reflejan lo que las ha entrenado. Al no reconocer que la IA hereda los sesgos de su entrenamiento, nos engañamos pensando que elimina todos los puntos de vista.

Lo más preocupante es cómo el uso generalizado de la IA puede sembrar "monocultivos de conocimientos y conocedores". Al dar prioridad a las preguntas y los métodos que mejor maneja la IA, corremos el riesgo de reducir nuestro espacio de exploración, del mismo modo que la dependencia excesiva de un único cultivo pone en peligro un ecosistema. Un monocultivo del conocimiento cuantitativo, predictivo y reductivo fomentado por la IA amenaza con perder perspectivas que requieren modos alternativos. Del mismo modo, si las herramientas que parecen imparciales se anteponen a la diversidad de perspectivas humanas, se corre el riesgo de empobrecer la ciencia, del mismo modo que antes se excluyeron voces diversas.

Estos peligros epistémicos se ven agravados por los sesgos cognitivos que influyen en comunidades como la nuestra. La cognición distribuida permite comprender mucho más que las mentes solitarias, pero también engendra ilusiones que confunden el acceso a la información con la comprensión. La propia utilidad de la IA la implanta profundamente en nuestras redes, promoviendo la sustitución errónea de nuestra comprensión por la suya propia. Sus promesas de objetividad sobrehumana nos empujan a diferir acríticamente, ocultando lo mucho que permanece opaco incluso a los puntos de vista de sus creadores.

Para fortalecer el conocimiento en lugar de debilitarlo, debemos reconocer estas dinámicas sociales y cognitivas que configuran la adopción de la IA y estructurar cuidadosamente su participación. Los equipos diversos e interdisciplinarios evitan mejor los monocultivos cultivando múltiples perspectivas relevantes. Reconocer las compensaciones inherentes a todas las formas de conocimiento ayuda a equilibrar los métodos. Centrar los conocimientos en la evaluación, no sólo en el desarrollo, protege a los no expertos. Abordar los prejuicios contrarresta directamente las ilusiones de neutralidad. Mantener la atención en la explicación por encima de la predicción, y la visión cualitativa junto a la cuantitativa, mantiene las opciones de cara al futuro.

En general, como ocurre con cualquier técnica nueva, la integración responsable requiere comprender no sólo las capacidades técnicas, sino también las repercusiones sociales y psicológicas en las instituciones, los comportamientos y las formas de pensar. Reflexionando de forma crítica y aprendiendo de las lecciones del pasado, la ciencia puede dirigir el cambio con sensatez para ampliar, en lugar de contraer, el alcance de la comprensión humana. Nuestro reto consiste en utilizar herramientas potentes con sensatez, sin sustituir indulgentemente la comprensión por la producción. Con cuidado y vigilancia, la IA no tiene por qué reducir la comprensión, sino ampliarla, si reconocemos que el progreso no surge únicamente de las herramientas, sino también de una colaboración humana reflexiva. Nuestro objetivo sigue siendo adquirir conocimientos, y para ello la sabiduría debe guiar la innovación, y no al revés.