Extrabajador de Anthropic advierte sobre los peligros que conllevan los avances de las IA
Un ex empleado de Anthropic y OpenAI alerta sobre los peligros de la inteligencia artificial y cuestiona la competencia por lograr una superinteligencia.
el miércoles pasado a las 15:33
Jacob Coxon, un extrabajador de Anthropic, generó controversia al publicar una serie de reflexiones en su cuenta de X después de renunciar a la compañía. Coxon, quien trabajó en investigación de preentrenamiento durante tres años tanto en OpenAI como en Anthropic, expresó su preocupación por el rumbo que están tomando ambas empresas.
Anthropic es una empresa estadounidense especializada en inteligencia artificial, reconocida por desarrollar Claude, una familia de modelos de IA generativa que compite con herramientas como ChatGPT. La compañía se enfoca en la investigación y desarrollo de sistemas avanzados de inteligencia artificial, con énfasis en la seguridad y el desarrollo responsable de esta tecnología.
'Renuncié a Anthropic hoy. Pasé los últimos tres años haciendo investigación de preentrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos compañías está actuando de manera responsable. Están corriendo directamente hacia una superinteligencia auto-mejorante y apostando con nuestras vidas', advirtió Coxon.
Coxon advirtió sobre los avances en inteligencia artificial que podrían llevar pronto a sistemas con capacidades sobrehumanas y un impacto significativo en diversos ámbitos. Expresó: 'No subestimes el poder de esta tecnología. Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales'.
'Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década. Esto no es un truco de marketing. Si acaso, muchos ejecutivos e investigadores senior moderarán su lenguaje en la prensa para sonar sensatos, pero oigo a las mismas personas expresar miedo en privado. Ninguna otra actividad humana representa este nivel de peligro', aseguró Coxon.
El excolaborador también explicó por qué los laboratorios continúan avanzando a pesar de los riesgos planteados. Según su análisis, mientras algunos no habrían comprendido completamente las consecuencias, otros estarían atrapados en una carrera por llegar primero debido a la falta de responsabilidad percibida en el sector.
'Una respuesta común es: si realmente creen esto, ¿por qué siguen construyéndolo?. En OpenAI, muchos no han interiorizado profundamente las apuestas civilizatorias. En Anthropic, las apuestas están bien comprendidas, pero están atrapados en una carrera por llegar primero: creen que nadie más actuará de manera responsable, por lo que deben hacerlo ellos mismos, a pesar del riesgo', sostuvo Coxon.
Coxon cuestionó que decisiones tan trascendentales queden en manos de empresas privadas y sugirió medidas para evitar posibles consecuencias negativas derivadas del avance descontrolado en inteligencia artificial.
'Aceptar esta carrera e ingresar al endgame es una apuesta que no debería lanzarse desde el Slack de una empresa privada. Intentar hacer un speedrun del alineamiento debería requerir una confianza extraordinaria en que no hay trayectorias mejores disponibles', señaló.
A pesar de sus críticas, Coxon se mostró optimista respecto a la posibilidad de alcanzar acuerdos entre los laboratorios dedicados a la IA. Sin embargo, advirtió que evitar una carrera global podría requerir medidas drásticas como una prohibición temporal para mejorar las capacidades de los modelos.
'Estoy optimista sobre el potencial para la coordinación. Disparos de advertencia como el ataque a Hugging Face han hecho que los acuerdos entre laboratorios sean más viables. No siento que estemos en camino de prevenir una carrera global, lo que podría requerir acciones costosas como una prohibición temporal para mejorar las capacidades de los modelos', concluyó Coxon.
Finalmente, Coxon hizo un llamado a los investigadores del campo para reflexionar sobre si deben continuar avanzando simplemente porque consideran inevitable el desarrollo tecnológico o si es necesario replantearse ciertos aspectos éticos y prácticos relacionados con la inteligencia artificial.
Fuente: Meganoticias
El presidente José Antonio Kast designó al general de Aviación Máximo Venegas Raggio como jefe del Estado Mayor Conjunto.
La caída de los fondos de pensiones volvió a poner bajo presión a las AFP en el Congreso. El Banco Central remarcó que desde 2024 advertía sobre el aumento del riesgo.
La Bolsa de Santiago cerró con su mayor caída desde mayo debido a las fuertes pérdidas en los mercados internacionales.
El equipo Estudiantes de La Plata logra avanzar a la final de la Copa Libertadores 2026 al eliminar al poderoso Flamengo en una emocionante definición por penales.
El primer ministro israelí, Benjamín Netanyahu, ha decretado el cierre total e indefinido de Cisjordania a partir de este viernes tras un ataque con disparos contra israelíes.
La caída de los fondos de pensiones volvió a poner bajo presión a las AFP en el Congreso. El Banco Central remarcó que desde 2024 advertía sobre el aumento del riesgo.
El presidente José Antonio Kast designó al general de Aviación Máximo Venegas Raggio como jefe del Estado Mayor Conjunto.
Argentina evaluaría detener y escoltar al buque mercante chileno, además de aplicarle multas, durante su próximo viaje a las islas Malvinas, en medio de tensiones por la nueva ruta comercial.
El avión privado que transportaba a Flávio Bolsonaro, candidato en la última elección presidencial de Brasil, llegó al aeropuerto Miami Executive Airport, en Estados Unidos.
La crisis se profundizó luego de conocerse que los decretos de rebaja de condena beneficiaron a extorsionadores venezolanos
Pese a la defensa del club, la ANFP resolvió que Santiago City no puso el documento a disposición del deportista dentro del plazo legal y sancionó a la institución con la resta de puntos.
Donald Trump solicitó a Google Maps cambiar el nombre del océano Atlántico por 'océano Trump', propuesta que fue rechazada. El expresidente sugirió otro nombre para el océano Pacífico.
La Bolsa de Santiago cerró con su mayor caída desde mayo debido a las fuertes pérdidas en los mercados internacionales.
El equipo Estudiantes de La Plata logra avanzar a la final de la Copa Libertadores 2026 al eliminar al poderoso Flamengo en una emocionante definición por penales.
El primer ministro israelí, Benjamín Netanyahu, ha decretado el cierre total e indefinido de Cisjordania a partir de este viernes tras un ataque con disparos contra israelíes.
La caída de los fondos de pensiones volvió a poner bajo presión a las AFP en el Congreso. El Banco Central remarcó que desde 2024 advertía sobre el aumento del riesgo.
El presidente José Antonio Kast designó al general de Aviación Máximo Venegas Raggio como jefe del Estado Mayor Conjunto.
Argentina evaluaría detener y escoltar al buque mercante chileno, además de aplicarle multas, durante su próximo viaje a las islas Malvinas, en medio de tensiones por la nueva ruta comercial.
La Comisión de Economía de la Cámara de Diputadas y Diputados aprobó por unanimidad citar a autoridades...
Francia se prepara para nuevas manifestaciones este sábado, con un amplio despliegue policial y participación de militares ante la tensión social.
El presidente de Estados Unidos, Donald Trump, se enfrentó a un periodista durante una conferencia de prensa.
El Ministro Fernando Rabat se encuentra en medio de una polémica por los beneficios carcelarios otorgados, descartando responsabilidades políticas y argumentando el principio de no retroactividad de la ley y jurisprudencia.
Una investigación por presuntos delitos de propiedad intelectual y lavado de activos permitió detener a 16 personas en las regiones Metropolitana y de La Araucanía. Habrían generado movimientos por más de $4.500 millones.
Más de 300 deportistas recibirán equipos de alta tecnología para entrenar, recuperarse de lesiones y analizar su rendimiento. Además, nueve seleccionados obtendrán implementos específicos para sus disciplinas.
Durante la discusión de la Ley de Presupuestos 2027, se rechazó la partida de Senapred tras un triple empate en la votación.
Se propone aumentar penas de cárcel hasta 15 años, multas de hasta 10.000 UTM y bloqueo judicial permanente para casas de apuestas ilegales.
La Delegación Presidencial Metropolitana ha decidido suspender el encuentro entre Universidad de Chile y Deportes Antofagasta por Copa Chile debido a las condiciones meteorológicas, siendo necesario reprogramar el partido.
La FAO emite alerta regional por migración de aves e influenza aviar detectada en Perú, impactando al agro.
La Comisión de Economía de la Cámara de Diputadas y Diputados aprobó por unanimidad citar a autoridades...
Francia se prepara para nuevas manifestaciones este sábado, con un amplio despliegue policial y participación de militares ante la tensión social.
El presidente de Estados Unidos, Donald Trump, se enfrentó a un periodista durante una conferencia de prensa.
El Ministro Fernando Rabat se encuentra en medio de una polémica por los beneficios carcelarios otorgados, descartando responsabilidades políticas y argumentando el principio de no retroactividad de la ley y jurisprudencia.
Una investigación por presuntos delitos de propiedad intelectual y lavado de activos permitió detener a 16 personas en las regiones Metropolitana y de La Araucanía. Habrían generado movimientos por más de $4.500 millones.
Más de 300 deportistas recibirán equipos de alta tecnología para entrenar, recuperarse de lesiones y analizar su rendimiento. Además, nueve seleccionados obtendrán implementos específicos para sus disciplinas.
Varios municipios de al menos cuatro regiones han optado por mantener la suspensión de clases para este miércoles debido a las condiciones climáticas adversas provocadas por un sistema frontal.
La Moneda confirmó el nombramiento de Gonzalo Arenas (UDI) como nuevo vocero del Gobierno, designado por el presidente José Antonio Kast.
En menos de una semana, cuatro trabajadores han fallecido en faenas mineras, elevando a 13 las víctimas fatales en 2026. El organismo anuncia reforzamiento de fiscalizaciones y la posibilidad de paralizar operaciones ante riesgos laborales.
Según las proyecciones del Observatorio del Contexto, se espera un aumento en los precios de la gasolina y diésel en Chile para la próxima semana.
