Investigadores de Anthropic advierten en público que la inteligencia artificial podría acabar con la humanidadTres investigadores de Anthropic hicieron públicas anoche sus preocupaciones sobre el riesgo de perder el control de la inteligencia artificial, advirtiendo que podría acabar con la vida humana antes de que termine esta década, según reportó Axios. El investigador Jacob Coxon escribió en la red social X, tras renunciar el martes para hacer sonar la alarma, que "las personas que construyen IA creen sinceramente que podría matarnos a todos antes de que termine la década" y que "esto no es un truco de marketing", agregando que muchos ejecutivos e investigadores senior suavizan su discurso frente a la prensa, pero expresan el mismo temor en privado, y que "ninguna otra actividad humana representa este nivel de peligro".
Evan Hubinger, líder del área de ciencia de alineamiento en Anthropic, respondió confirmando las palabras de Coxon: "Jacob tiene razón en esto: realmente creemos con seriedad que la IA podría matar a todos los humanos", y añadió que personalmente estima esa probabilidad en más de un 10 % dentro de la próxima década, señalando que Anthropic "está haciendo su mejor esfuerzo", pero que aún no cuenta con un plan claro para resolver el problema de alineamiento en sistemas de inteligencia artificial superinteligente, ni está claramente encaminada a lograrlo. Samuel Marks, líder del área de supervisión escalable en la misma empresa, agregó que los desarrolladores de IA creen que su tecnología podría provocar la extinción humana o resultados igual de graves en los próximos años, y que, en general, mientras más alto es el cargo de un empleado dentro de estas empresas, mayor es su nivel de preocupación.
Según el reporte, estas advertencias no son un caso aislado: llegaron pocos días después de que altos directivos de OpenAI, incluido su director ejecutivo Sam Altman, señalaran que la inteligencia artificial avanza hacia una etapa cada vez más difícil de controlar. Axios describe esto como un dilema compartido dentro de la industria: reducir el ritmo de desarrollo y arriesgarse a quedar atrás frente a la competencia, o seguir avanzando y arriesgarse a perder el control de la tecnología, mientras las propias empresas piden públicamente mayor regulación o incluso una pausa global en el desarrollo de sistemas más avanzados. El medio señala que, aunque hay quienes sostienen que estas declaraciones buscan exagerar el potencial de sus productos para elevar su valoración de mercado o atraer una regulación que termine favoreciendo a las empresas ya establecidas, los propios periodistas de Axios afirman haber hablado durante meses con decenas de personas dentro de estas compañías, quienes se han mostrado cada vez más preocupadas, algo que consideran relevante dado que estas personas tienen acceso a modelos de IA que aún no han sido liberados al público.
FUENTE 👈@Armapedia
