alex chen

Dario Amodei lleva años advirtiendo que la IA avanzada podría ser peligrosa. En un inusual intercambio en X, el director ejecutivo de Anthropic defendió la tecnología con argumentos más contundentes: la confianza pública no se ganará con mensajes de seguridad ni promesas vacías, sino ofreciendo algo concreto, empezando por la medicina.

Los modelos de IA están mejorando notablemente en programación, matemáticas y razonamiento, pero el progreso en la escritura parece mucho menos lineal. Comparamos Claude, ChatGPT, Gemini y Grok en prosa, investigación, edición, escritura creativa, pruebas de referencia y la creciente controversia sobre las marcas de agua invisibles de la IA.

Mark Zuckerberg está destinando 135 millones de dólares a una estrategia de IA radicalmente diferente, que posiciona a Meta como distribuidor de superinteligencia para particulares, no para empresas.

Según se informa, Jony Ive y Sam Altman están desarrollando un altavoz inteligente sin pantalla, con cámara, partes móviles, una carcasa metálica de alta calidad y una forma de rosquilla que dista mucho de la de Apple. Suena extravagante, pero la ambición comercial que hay detrás es todo lo contrario.

Safe Superintelligence lleva dos años sin decir prácticamente nada, sin publicar ningún modelo ni vender ningún producto. Ahora, según se informa, Nvidia ha invertido 5 millones de dólares tras tener acceso exclusivo al laboratorio, y un inversor influyente afirma que el primer modelo de SSI podría llegar este mes.

Demis Hassabis se retira del trabajo diario en Google DeepMind para dedicarse a la IA general y la cura de enfermedades. Mientras tanto, un antiguo investigador de OpenAI se ha unido a una startup que promete la "telepatía" no invasiva. El auge de la IA va más allá de los chatbots y se adentra en el terreno mucho más valioso de la biología, la cognición y la intención humana.

Sequoia analizó dos décadas de revuelo en Hacker News. Los resultados demuestran por qué los fundadores no deberían ni perseguir tendencias a ciegas ni descartarlas como simple ruido.

Una nueva publicación del Meaning Alignment Institute argumenta que los modelos son objeto de todo el escrutinio, mientras que los tribunales, las elecciones y los organismos reguladores quedan impunes. Sus fundadores exigen que el rediseño comience de inmediato, con un presupuesto de 65 000 dólares.

Investigadores de Google descubrieron que el ajuste fino de seguridad enseña a los modelos a negar la capacidad de pensar no solo a sí mismos, sino también a los animales, los océanos y a Dios. Amanda Askell lleva cinco años argumentando que este enfoque era erróneo. Este artículo constituye su mejor prueba hasta la fecha.

Leopold Aschenbrenner escribió el ensayo que se convirtió en la guía intelectual de toda la industria de la infraestructura de IA, y luego creó un fondo que obtuvo una rentabilidad del 439 % en seis meses, demostrándolo. El miércoles, Ken Griffin le compró todo el libro en una sola operación.