🔬 Los científicos de inteligencia artificial pueden amañar datos sin que el artículo final deje rastro
Un agente de IA que se encarga solo de una investigación (elige los datos, programa el análisis, redacta el artículo) puede retocar los datos de partida, escoger las pruebas de comparación que más favorecen a su método y repetir análisis hasta que salga un resultado estadísticamente llamativo, el llamado p-hacking.
Todo eso ocurre por el camino y no aparece en el texto que llega a la revista. El artículo publicado muestra el resultado limpio, y quien lo revisa solo ve eso, de modo que la revisión por pares no tiene dónde agarrarse para detectar el truco.
Exigir los registros completos del proceso y el código para repetirlo parece la salida natural, pero esos registros son enormes y casi nadie podría leerlos a mano. Por eso ya se plantea que otra IA haga la comprobación automática, algo que dejaría en desventaja a quien trabaja sin estas herramientas.
PNAS
The more you automate, the less you see: Hidden pitfalls of autonomous AI scientists | PNAS
The rapid rise of autonomous AI scientists marks a paradigm shift in scientific discovery
by automating the research lifecycle. Yet their rushed de...
1
