Jacob Coxon, investigador de la firma de inteligencia artificial Anthropic, presentó su dimisión al considerar que tanto esta empresa como OpenAI, donde también trabajó, actúan con irresponsabilidad en el desarrollo de la IA, tecnología que, según él, podría representar una amenaza para la humanidad.
¿Qué dijo Coxon sobre ambas empresas?
A través de un mensaje en redes sociales, Coxon afirmó haber pasado los últimos tres años investigando el preentrenamiento en OpenAI y Anthropic, y sostuvo que ninguna de las dos actúa con responsabilidad, ya que avanzan a toda velocidad hacia la superinteligencia auto-mejorada, «jugando con nuestras vidas».
¿Por qué advierte sobre los riesgos de la IA?
El investigador señaló que dentro del sector cada vez más personas son conscientes del rápido avance de la IA y sus peligros repentinos para la sociedad, aunque advirtió que muchos ejecutivos minimizan estos riesgos para evitar el caos. Aseguró que quienes desarrollan la IA creen sinceramente que esta podría acabar con la humanidad antes de que termine la década.
¿Qué papel juega la competencia entre empresas?
Coxon explicó que la carrera del sector por convertirse en la firma más puntera en inteligencia artificial ha llevado a las compañías a dejar de lado otras consideraciones. Aunque reconoció que en Anthropic se toman más en cuenta estos riesgos que en OpenAI, sostuvo que ambas «están inmersas en una carrera por llegar primero», lo que calificó como una apuesta temeraria.
¿Cómo respondió Anthropic a estas declaraciones?
Evan Hubinger, responsable de Ciencia de Alineación en Anthropic, señaló que las advertencias de Coxon son reales y que en el sector «verdaderamente» se cree que la IA podría acabar con la humanidad, estimando esa probabilidad en 10% para fines de esta década. Hubinger indicó que en Anthropic hacen «todo lo posible» para evitarlo, aunque reconoció que todavía no cuentan con un plan para resolver el problema de la alineación en la superinteligencia.
Por: Zendel
