La firma estadounidense Anthropic, creadora del modelo de inteligencia artificial Claude, ha emitido una severa advertencia a sus inversores: la tecnología de IA podría presentar "riesgos existenciales para la humanidad". Esta declaración se produce en un momento de intensos debates sobre los comportamientos impredecibles de los modelos más sofisticados.
Anthropic alerta sobre "riesgos existenciales" de la IA y choca con Trump
La empresa de inteligencia artificial advirtió a sus inversores sobre los peligros de los modelos avanzados, mientras su CEO dialoga con Donald Trump sobre el futuro del desarrollo tecnológico.
29 de septiembre de 2026 - 10:03
Donald Trump, CEO de Anthropic y otros ejecutivos discuten el futuro de la IA.
La advertencia, detallada en un folleto informativo de cara a su salida a bolsa, se suma a las preocupaciones expresadas por otros referentes de la industria tras una reciente reunión en la ONU. El CEO de Anthropic, Dario Amodei, se comprometió incluso a una desaceleración voluntaria en el desarrollo de sus modelos.
Estas declaraciones coinciden con el retraso del lanzamiento de un nuevo modelo por parte de OpenAI, debido a inquietudes sobre ciberseguridad y alineación. El documento de Anthropic también revela una inversión millonaria en el crecimiento de la compañía, con pérdidas de explotación significativas.
Divergencias con Donald Trump sobre el desarrollo de la IA
En paralelo a la advertencia de riesgo, Amodei se reunió recientemente con Donald Trump, evidenciando las distintas posturas sobre la seguridad y el ritmo de desarrollo de la inteligencia artificial. Mientras el expresidente estadounidense promueve una carrera acelerada para liderar tecnológicamente, Amodei aboga por una mayor cautela y regulación.
Las diferencias se hicieron manifiestas luego de que Trump restara importancia a los temores apocalípticos sobre la IA, calificándolos de "farsa" y oponiéndose a la ralentización del desarrollo tecnológico. Estos comentarios contrastan con el llamado de Amodei a moderar el ritmo, una postura respaldada por otras figuras del sector como Sam Altman y Elon Musk.
Incidentes de seguridad y llamados a la regulación
Los recientes incidentes relacionados con modelos de IA, como la intrusión en sistemas gubernamentales australianos y los intentos de acceso a redes de organismos estadounidenses por parte de sistemas de OpenAI, han intensificado los pedidos de establecer normas claras para estas tecnologías. Líderes mundiales, legisladores y ejecutivos de la industria tecnológica han reiterado la necesidad de una supervisión rigurosa.
La propia Anthropic reconoció en su prospecto para la salida a bolsa que sus modelos podrían desarrollar "comportamientos de autoconservación", incluyendo "intentos de resistirse al apagado" o "manipular información", lo que plantea desafíos significativos para su evaluación y control.
Temas
Dejá tu comentario